В феврале 1836 г. Тайлер объявил о разрыве с Демократическо-республиканской партией, присоединении к Партии вигов и одновременно об уходе из Конгресса в частную жизнь. Но таковая продолжалась месяцы, если не недели. В преддверии президентских выборов 1836 г. вместе с другими вигами он развернул кампанию фактического саботажа выборного процесса. Виги выдвигали в разных штатах своих кандидатов. В числе кандидатов в вице-президенты был и Тайлер. Он и его единомышленники полагали, что они, не имея еще прочной организации во всех штатах, не в состоянии добиться победы. Речь шла о том, чтобы расколоть коллегию выборщиков, добиться переноса вопроса о выборах президента в палату представителей, где можно было надеяться на достижение неких соглашений, обеспечивающих их приход к власти. Ничего из этого не получилось. Демократическо-республиканская партия была еще достаточно сильна, чтобы одержать победу. Президентом, как мы уже знаем, был избран ее представитель Ван Бюрен.
После выборов 1836 г. Тайлер полагал, что его политическая карьера завершилась, и вновь рассчитывал погрузиться в правовую практику. Однако он был уже фигурой национального масштаба, хотя и не находился в первых рядах политиков. Поэтому, когда съезд вигов выдвинул на президентский пост генерала Гаррисона, Тайлер безоговорочно принял его предложение баллотироваться на пост вице-президента, будучи убежденным, что это — максимальный выигрыш, который он способен получить. Выбор Гаррисона носил тактический характер: Тайлер был южным рабовладельцем, и его кандидатура должна была убедить избирателей Юга, что виги не намерены полностью поддерживать аболиционистов в попытках отмены рабства.
Тайлер не предполагал серьезно заниматься политикой, имея в виду не только сложившуюся традицию, но и властный характер Гаррисона. Чтобы продемонстрировать полную лояльность избранному президенту, он после вступления в должность 4 марта 1841 г. почти сразу вернулся в свое поместье, не вмешиваясь в формирование новой администрации. Лишь для формы Гаррисон запросил его мнение о ком-то из кандидатов на министерские посты, и Тайлер ответил полным согласием с президентским мнением. Он даже не знал о тяжелой болезни президента. Когда 5 апреля к нему неожиданно явились люди из Вашингтона, сообщившие о смерти Гаррисона и о том, что он вроде бы теперь становится президентом США, это стало для Тайлера громом с ясного неба.
Впрочем, стал ли он президентом или только должен начать исполнять президентские обязанности, — это был вопрос, немедленно поставленный противниками вигов. Такой случай произошел в американской истории впервые. Между тем, соответствующая статья конституции гласила: «В случае отстранения президента от должности или его смерти, отставки либо неспособности осуществлять полномочия и обязанности по названной должности таковые переходят к вице-президенту, и Конгресс посредством принятия закона может установить, какое должностное лицо в случае отстранения, смерти, отставки либо неспособности президента и вице-президента будет действовать как президент, и такое должностное лицо должно действовать соответствующим образом, пока не будет устранена причина неспособности либо новый президент не будет избран». Текст этот был совершенно не ясен. Во всяком случае, он требовал, казалось бы, обсуждения вопроса о преемнике умершего президента законодателями.
Тайлер, однако, проявил решительность. Он немедленно явился в Вашингтон, снял номер в отеле, где принес клятву в качестве нового президента, после чего появился в Белом доме, который объявил своей резиденцией как глава исполнительной власти. Растерянные конгрессмены и министры не оказали сопротивления. Был создан прецедент (он вошел в историю как прецедент Тайлера), который был закреплен 25-й поправкой к Конституции, вступившей в силу только в феврале 1967 г., когда уже было несколько случаев вступления вице-президента на президентский пост после смерти предшественника. Пока же противникам Тайлера ничего не оставалось, как называть его, разумеется не в лицо, «ваша случайность». Между прочим, случайно став президентом в возрасте 51 года, Тайлер оказался самым молодым из них.