Дела у преемника пошли довольно вяло. Впрочем, в том не его вина. В задачи Франклина входило сохранить союз с Францией в противовес Англии и способствовать развитию американской торговли с ведущими европейскими странами. Европейские государства, занятые своими проблемами, мало интересовались новым торговым партнером. На первых порах договор удалось подписать только со слабенькой Пруссией. Джефферсон утешал себя тем, что в случае войны американский флот сможет найти приют в прусских гаванях. Но вскоре эта страна отвергла договор. Было отчего прийти в уныние. Однако в 1789 г. американский конгресс одобрил посольскую деятельность Джефферсона и продлил его полномочия еще на три года. Но срок этот отбыть ему не довелось. Президент Вашингтон решил назначить его государственным секретарем.
В обязанности Джефферсона входило руководство внешнеполитической службой, проведение цензов, гарантирование патентов, наблюдение за работой федеральных служб, контроль над употреблением государственной печати, публикация законов, рассмотрение трений между штатами, определение границ между штатами и другое.
С первых же дней у Джефферсона стали складываться непростые отношения с главой департамента финансов и лидером федералистов А. Гамильтоном. Тот стремился превратить США в строго централизованную индустриальную державу. Сторонника «фермерской республики» и демократа Джефферсона это не устраивало.
Госсекретарь видел опасность как в крайней централизации, грозящей республике монархической формой правления, так и в чрезмерной самостоятельности отдельных штатов.
Главный конфликт между ними разразился по поводу создания национального банка. В конце концов Гамильтон победил. Конгресс утвердил представленный им законопроект, а Вашингтон подписал Закон об установлении Банка Соединенных Штатов. В июле 1793 г. Джефферсон подал в отставку. Он понимал, что этот факт означает негативное отношение большинства в правительстве к его курсу. Вашингтон просил его задержаться, поэтому только в январе следующего года госсекретарь оставил свой пост и покинул Филадельфию.
Томас направился в Монтиселло, где ждала его красавица дочь Мэри. Марта уже успела выйти замуж, подарить ему внука и жила по соседству. Отныне все внимание бывшего государственного деятеля заняли семейные и хозяйственные хлопоты. Он решил перестроить свой дом и намеревался создать лучшее хозяйство в Соединенных Штатах. В течение нескольких лет Джефферсон занимается проблемами улучшения своих полей и ферм. Но тут на его пути встало извечное проклятие Юга – рабство.
Ненавидевший рабство Джефферсон был очень мягким хозяином. Он боролся с телесными наказаниями, стимулировал труд рабов увеличением заработка. Но все это мешало ему в полной мере воспользоваться результатами рабского труда, который эффективен только при нещадной эксплуатации. Пытался хозяин Монтиселло заниматься и развитием ремесел. Он планировал производство поташа, потом создание гвоздильни и даже делал ключи, замки, цепи, строил мельницу.
Занятый всеми этими делами, Джефферсон, казалось, совсем отошел от политики. Но шло время, и жизнь сельского помещика постепенно стала надоедать. Томас чувствовал, что «домашнее заточение» негативно отражается на его разуме.
Еще в 1792 г. вместе с противником политики Гамильтона Медисоном он организовал первую оппозиционную партию в истории Америки. Чтобы предостеречь от возврата монархии, ее стали называть республиканской. Во второй половине 90-х гг. партия стала набирать силу. Республиканцы понимали, что только авторитет Вашингтона поддерживает федералистов и стоит тому уйти с поста президента, как республиканцы смогут рассчитывать на победу на выборах. Они стали искать лидера, который пользовался бы не меньшим, чем у Вашингтона, авторитетом, и нашли его в Джефферсоне. Автор Декларации независимости дал согласие баллотироваться на президентских выборах 1796 г.
Пожалуй, единственный в истории Соединенных Штатов кандидат в президенты не стал проявлять никакой активности. Он спокойно жил в Монтиселло, предоставив республиканцам заниматься предвыборной кампанией. И все же для победы над Джоном Адамсом ему не хватило всего четырех голосов. Второе место давало право на пост вице-президента.
В 1800 г. Джефферсон вновь выдвинул свою кандидатуру на президентских выборах. На этот раз избирательную кампанию развернули с большим размахом. Была издана биография лидера республиканцев, а единомышленники вице-президента даже написали песню: «Джефферсон и свобода». 12 декабря 1800 г. в Монтиселло прискакал гонец с запиской о победе.