В годы ссылки, во многом под влиянием невесты — Н. А. Захарьиной и знаменитого масона зодчего Витберга усилились религиозные искания Герцена. Он восторгается Евангелием, обретает опыт глубокой молитвы, но за исключением короткого периода перед свадьбой остается чуждым и даже враждебным Православной Церкви. Свободолюбивый дух Герцена смущает казенность «николаевского православия» и он предпочитает быть «сердечным христианином» в традиции Сен Мартена. Друзей он просит прислать ему в ссылку сочинения знаменитых нецерковных мистиков — Парацельса, Эккартсгаузена, Сведенборга. Перед рождением своего первого сына он пишет «Бог поручает мне это малое существо, и я устремлю его к Богу» (Соч. т. 2, с. 263). Однако, вскоре этот религиозный настрой ослабевает и сменяется к 1842 г. настоящим бунтом против Бога. Внешней причиной перемены стали тяжелые жизненные испытания мыслителя — болезни жены, страдания и смерти трех детей. Вера в гармонию и разумность Божьего мира рухнула. Не желая сомневаться в человеке, видеть его органическую испорченность грехом, Герцен восстаёт на Бога и низвергает Его в своем мировоззрении.
На место Бога, как и другие революционные теоретики середины XIX века, он пытается поставить человека. Огромное влияние здесь на него оказывает сначала Гегель, а затем Фейербах. Но мощный ум Герцена не останавливается на половине пути. Он, страстно, совершенно религиозно взыскуя положительный идеал, отказывается его видеть не только в Боге, но и в любых исторических и социальных общностях. Он слишком хорошо знает человека, чтобы обольщаться на его счет. «Мужественная правдивость, которая проходит через все годы исканий Герцена, ведёт к тому, что в Герцене ярче, чем в ком-либо другом, секуляризм доходит до своих тупиков» — пишет о Герцене протоиерей Василий Зеньковский (Ист. рус. фил., Париж, 1948. — Т. 1, с. 278). Отсюда «печать трагизма на всём идейном творчестве» Герцена.
В 1842 г. Герцен вернулся в Москву и возглавил левое крыло «западников». Вместе с В. Г. Белинским, М. А. Бакуниным и др. он вступил в бой со «славянофилами»: «Мы видели в их учении новый елей, помазывающий благочестивого самодержца всероссийского, новую цепь, налагаемую на независимую мысль, новое подчинение ее какому-то монастырскому чину азиатской церкви, всегда коленопреклоненной перед светской властью». В 1840-е гг. Герцен написал роман «Кто виноват?», повести «Сорока-воровка» и «Доктор Крупов», в которых содержалось обличение крепостничества. Создал он и несколько философских работ, в том числе «Письма об изучении природы», о которых Г.В. Плеханов сказал: «Легко можно подумать, что они написаны не в начале 40-х гг., а во второй половине 70-х, и притом не Герценом, а Энгельсом. До такой степени мысли первого похожи на мысли второго». Василий Зеньковский считает Герцена основоположником русского философского позитивизма.
После смерти отца (1846) Герцен стал обеспеченным человеком и вскоре уехал в Европу, где занялся активной революционной работой, желая освободить человечество от гнета эксплуатации, клерикального и политического рабства. В конце 1840-х он занял место в самом центре международной революционной деятельности. Он тяжело переживал поражение европейских революций 1848–1849 гг.: «Я так еще не страдал никогда». Герцен разочаровался в революционных возможностях Западной Европы и в самом европейском обществе, смертельно отравленном, по его мнению, мещанством. Будущий успех освобождения человеческой личности от гнёта корыстной эксплуатации Герцен стал связывать с Россией. Он разработал теорию, согласно которой социализм разовьется в России из крестьянской общины. Герцен считал, что «человек будущего в России — мужик, точно так же, как во Франции работник». Отказавшись от веры в Бога и в Европу, он перенес свое страстное религиозное упование на Россию, и на русского мужика-общинника. Эти идеи впоследствии были восприняты народниками.
В Европе Герцен сблизился с местными революционерами, участвовал в издании газеты Прудона «Голос народа». В 1850 г. он ответил отказом на требование русского правительства вернуться в Россию, за что был лишен всех прав состояния и объявлен «вечным изгнанником». Переехав в Лондон, Герцен в 1853 г. основал там Вольную русскую типографию, чтобы печатать сочинения, запрещенные в России цензурой. С 1855 г. начал издавать альманах «Полярная звезда» (своего рода продолжение одноименного альманаха Рылеева). В 1856 г. в Лондон переехал Огарев, и в следующем году друзья приступили к изданию «Колокола» — первой русской революционной газеты, распространявшейся в России.