С 1992 года по ноябрь 2001 года – генеральный директор Ассоциации (с марта 1996 – «Некоммерческого фонда») «Региональный фонд научно-технического развития» (РФНТР) Санкт-Петербурга при электронном предприятии «Светлана». РФНТР Спб был учрежден семью соучредителями, в т. ч. банком «Россия» (Виталий Савельев, Ю.Ковальчук), акционерным обществом «Фонд Регионального развития (ФРР) Санкт-Петербурга» (Ю.Ковальчук, Александр Столяров), электронным предприятием ОАО «Светлана» и КУГИ СПб.
С 1993 года знаком с Владимиром Путиным, который на посту председателя городского Комитета по внешним связям (КВС) оказывал покровительство экономическим структурам Ю.Ковальчука и В.Якунина («…Мы познакомились в 1993 году. Он довольно активно нас поддерживал и во многом способствовал созданию научно-технического центра. Был тогда один сложный момент, связанный с передачей нам здания крупного оборонного предприятия, и Владимир Владимирович, будучи председателем комитета по внешним связям и курируя в числе прочего и нашу деятельность, способствовал, чтобы это решение было принято» – «Коммерсант ВЛАСТЬ», 22 марта 2004, с.31).
В 1995 году вступил в движение «Наш дом – Россия» (НДР); председателем совета Санкт-Петербургского отделения – которого был В.Путин.
В ноябре 1996 года стал одним из восьми соучредителей дачного потребительского кооператива (ДПК) «Озеро» на берегу Комсомольского озера в Приозерском районе Ленинградской области (другие соучредители кооператива: Владимир Путин, Виктор Мячин, Юрий Ковальчук, Владимир Смирнов, Владимир Якунин, Сергей Фурсенко, Николай Шамалов).
В марте 2000 г. был назначен генеральным директором Венчурного инновационного фонда (ВИФ), учрежденного правительством РФ при участии правительства Санкт-Петербурга.
С 23 июня 2000 по 27 июня 2003 был членом ревизионной комиссии Акционерного банка (АБ) «Россия» (совладельцы и руководители банка: Юрий Ковальчук, Виктор Мячин, Михаил Клишин, Владимир Якунин; другие члены рев. комиссии: Аркадий Буравой, Наталия Давидчук, Виталий Иванов).
В октябре 2000 г. стал почетным консулом Филиппин в Санкт-Петербурге.
С начала 2001 года – председатель научного (экспертного) совета Фонда «Центр стратегических разработок «Северо-Запад» («Центр Ковальчука»; председатель правления – Ю.Ковальчук, председатель попечительского совета – академик Александр Фурсенко). Учредителями фонда ЦСР «Северо-Запад» выступили в конце 2000 года московский фонд ЦСР (председатель совета – Герман Греф, президент – Дмитрий Мезенцев, вице-президент – Эльвира Набиуллина, председатель попечительского совета – Дмитрий Козак), АБ «Россия» (В.Ковальчук, В.Мячин), пивоваренная компания «Балтика» (Теймураз Боллоев), ЦНИИ «Гранит» (Георгий Коржавин) и ОАО «Телекомин-вест». Возглавил в ЦСР «Северо-Запад» проект «Институты развития инновационной экономики».
В декабре 2001 года был назначен заместителем министра промышленности, науки и технологий РФ (министр – Илья Клебанов). В июне 2002 года был назначен первым заместителем министра промышленности, науки и технологий РФ. После назначения вышел из ревизионной комиссии банка «Россия». 27 июня 2003 членом ревизионной комиссии банка «Россия» был вместо А.Фурсенко избран Борис Ковальчук (сын Ю.Ковальчука).
2 ноября 2003 был назначен и.о. министра промышленности, науки и технологий после отставки И.Клебанова.
13 ноября 2003 на встрече В.Путина с высшими чиновниками послужил вместе с министром по антимонопольной политике Игорем Юсуфовым и министром здравоохранения Юрием Шевченко объектом президентского раздраженного окрика: «Сюда нужно смотреть! И слушать, что я говорю!» («КоммерсантЪ», 14.11.03). Юсуфов и Шевченко, в отличие от Фурсенко, в следующий состав правительства не попали.
9 марта 2004 указом президента назначен министром образования и науки в правительстве Михаила Фрадкова.
С мая 2004 года – член Правительственной комиссии по повышению результативности бюджетных расходов.
С июня 2004 года – член Морской коллегии при Правительстве РФ.
В июле 2004 года назначен председателем российских частей Смешанной Российско-Греческой комиссии по экономическому, промышленному и научно-техническому сотрудничеству, Смешанной Российско-Австрийской комиссии по торговле и экономическому сотрудничеству и Российско-Мексиканской смешанной комиссии по экономическому, торговому, научно-техническому сотрудничеству и морскому судоходству.
На встрече с Патриархом Московским и всея Руси Алексием II в конце марта 2004 заявил о намерении продолжить курс на внедрение религиозных предметов в школах (НГ, 02.04.2004).
В конце марта – начале апреля 2004 неоднократно критиковал практику применения «единого государственного экзамена» (ЕГЭ), внедрявшегося прежним министром образования Владимиром Филипповым, и обещал, что ЕГЭ не станет единственной формой проверки знаний российских выпускников, а затем заявил, что прием в вузы по результатам массового ЕГЭ «несовместим с понятием профессионального высшего образования» («Время новостей», 7 апреля 2004).