Экономические трудности 2-й половины 1830-х гг. привели к падению влияния Демократической партии и усилению вигов. Полк с трудом был переизбран спикером в декабре 1837 г., но к этому времени у него уже созрели президентские амбиции, тем более он предполагал, что скорее всего проиграет на следующих выборах Палаты представителей, которые проводились каждые два года. Кроме того, никогда ранее руководители нижней палаты не выдвигались на президентский пост. Все эти обстоятельства обусловили решение Джеймса Полка не выдвигаться в Конгресс в 1839 г., а попытаться стать губернатором Теннесси.
Естественно, возвращение в родной штат известного федерального деятеля, руководителя Палаты представителей, близкого к президентам Джексону и Ван Бюрену, воспринималось как сенсация. Полк сразу же выступил за «очищение» штата от «порочной» политики вигов и их руководителя Ньютона Кэннона, который занимал пост губернатора и собирался его сохранить на третий срок на очередных выборах. Полк сразу был признан главой демократов в Теннесси и их естественным кандидатом на губернаторский пост.
Проведя успешную кампанию, объездив чуть ли не все населенные пункты штата, Полк выиграл выборы 1 августа 1839 г. Одновременно Демократическая партия победила при избрании легислатуры штата и добилась того, что всеми тремя представителями от Теннесси в Палате представителей США стали демократы.
Согласно Конституции штата, власть губернатора была ограниченной. Он не имел права вето, его администрация была небольшой по численности и скупо финансировалась. Но цель Полка выходила далеко за пределы штата. На этом посту он продолжал чувствовать себя не местным, а федеральным политиком, а губернаторский пост рассматривал в основном как стартовую площадку для будущей борьбы за президентство.
Казалось, что его надежды станут тщетными, так как губернатор Полк не добился существенных успехов. Его проекты местных законов, связанных с улучшением банковской системы, строительством дорог и развитием народного образования, были отвергнуты легислатурой. Единственным существенным достижением был тот факт, что на очередных выборах в Сенат США два вига были заменены демократами. Полку-губернатору явно мешало сохранение неблагоприятной экономической ситуации в родном штате, как и по всей стране.
Постепенно терявший авторитет в штате Полк проиграл губернаторские выборы 1841 г., а затем и два года спустя. Он вновь занялся адвокатской практикой, но сохранял тесные связи со столичными политиками-демократами, с членами Конгресса и был полон решимости вновь заняться общенациональными делами.
Когда же стала разворачиваться президентская кампания 1844 г., съезду демократов были представлены различные кандидатуры, ни одна из которых не смогла собрать необходимого большинства для номинации. Один тур голосования следовал за другим. Делегаты отвергали выдвигаемые кандидатуры, считая их недостаточно решительными в вопросе о присоединении Техаса к США. Именно эта проблема рассматривалась тогда как наиболее острая. В этих условиях Полк выдвинул свою кандидатуру, опираясь на несколько заявлений, сделанных в его пользу отставным президентом Джексоном, с которым перед этим встретился. Получив поддержку своей партии, кандидат вступил в сражение со столь опасным противником, как лидер вигов Генри Клей.
Свою предвыборную кампанию Полк построил на необходимости дальнейшей решительной экспансии путем окончательного закрепления Техаса за США, обеспечения господства над побережьем Тихого океана путем включения в США территории Орегона и приобретения огромной Калифорнии. Последняя пока что принадлежала Мексике, но значительная часть ее населения и местные политики явно тяготели к США. Эти экспансионистские цели дополнялись требованиями создания независимой казначейской системы, понижения налогов и таможенных пошлин. Полк, подобно Джексону, провозглашал себя сторонником ограниченного правительства, «империи свободы», широких прав штатов.
В свою очередь опытный политик Клей доказывал, что дальнейшая экспансия может привести к войне с Великобританией или Мексикой, а возможно и с обеими странами, что окажется катастрофой для США. Он сосредоточил внимание на защите национальной промышленности, в частности путем высоких таможенных тарифов. Хотя в целом виги защищали интересы бизнеса, они разделились по вопросу о рабовладении: южане защищали распространение этой системы на Запад, северяне выступали за полный запрет рабства в новых штатах.