Детство Иоганна было характерным для детей из бедных деревенских семей. Читать и писать он учился где придется, с юных лет помогал отцу у ткацкого станка, пас гусей. Трудно было бы рассчитывать ему на хорошее образование, если бы не помог случай: деревенский пастор заметил мальчика, отличавшегося прекрасной памятью и любовью к чтению, и стал регулярно с ним заниматься. Последовавшие за этим события похожи на сказочный сюжет. Богатый помещик из соседней деревни барон фон Мильтиц, гостя у своего друга в Рамменау, решил послушать проповедь пастора, но опоздал к службе. Тогда ему посоветовали позвать Иоганна, который на память знал все проповеди своего наставника. Прослушав юного проповедника, изумленный барон решил, что такому таланту нельзя пропасть в глуши. В 1774 г. он устроил 12-летнего Иоганна в училище в г. Шульпфорте – закрытое учебное заведение для дворянских детей. А спустя шесть лет Фихте стал студентом теологического факультета Йенского университета. К этому времени его покровитель умер, и хотя юноша и получал материальную поддержку от семейства Мильтицев, этой помощи было явно недостаточно. Нужда заставила его отказаться от карьеры сельского пастора, и с 1784 г. Фихте стал учительствовать в богатых семействах Саксонии.
К этому времени относится и серьезный конфликт Фихте с матерью, которая страстно желала видеть своего сына на церковной кафедре. Ее незаслуженные упреки и обвинения, а также постоянная нужда сделали жизнь молодого Фихте сущим адом. Спасение пришло в 1788 г.: один из друзей нашел Иоганну место домашнего учителя в Швейцарии. В сентябре молодой учитель прибыл в Цюрих, где стал воспитателем двоих детей владельца гостиницы.
Это время было для Фихте периодом интенсивного изучения языков и напряженной переводческой деятельности. Он переводил Горация, Руссо, Монтескье, писал статьи и зарисовки на литературные темы. Занявшись переводом немецкого поэта Фридриха Клопштока на французский язык, Иоганн стал частым гостем в его доме, где познакомился с племянницей поэта Иоганной Марией Ран. Иоганна завидной невестой не считалась: она была на четыре года старше Фихте, не отличалась ни красотой, ни блестящим умом, а приличное состояние, унаследованное от отца, было частично растрачено человеком, который вел финансовые дела семьи. И все же Фихте искренне полюбил эту молодую женщину, пленившись ее кротостью, мягкостью суждений, добротой и готовностью принести себя в жертву ради любимого человека. Молодые люди решили пожениться, но по разным причинам (в основном материального плана) свадьба несколько раз откладывалась, и лишь в 1793 г. Фихте и Иоганна наконец обвенчались. Этот брак был счастливым. Фихте обрел преданную и духовно близкую ему женщину, поддержка и помощь которой позволили ему до конца своих дней полностью отдаться любимому делу – философии.
В 1790 г. Фихте впервые познакомился с трактатами Канта, которые произвели настоящий переворот в мировоззрении молодого учителя. Он писал: «Я посвящу этой философии, по меньшей мере, несколько лет – и все, что я отныне буду писать, будет только о ней. Она невероятно трудна, и ее непременно надо сделать более легкой». Чтобы встретиться с Кантом, Фихте пешком отправился в Кенигсберг, где и представил великому философу свое первое сочинение «Опыт критики всяческого откровения». Тот помог изданию труда начинающего философа, а благоприятная рецензия Канта и его публичное подтверждение авторства Фихте сделали его известным. Дело в том, что на заглавном листе этого религиозно-философского сочинения в типографии случайно забыли указать имя автора, и читающая публика, ожидавшая издания кантовского учения о религии, случайную анонимность приняла за намеренную. А поскольку содержание сочинения явно носило печать кантовского духа, возникло мнение, что автором мог быть только Кант. Тогда маститый философ поместил в печати опровержение, указав настоящее имя автора. Так Фихте сразу попал в число знаменитостей. Его первый публичный труд привлек такое внимание в философских кругах, что неоднократно становился предметом словесных и письменных диспутов, а в конце 1793 г. Фихте получил приглашение занять кафедру философии в Йене.
Новый преподаватель вызвал огромный интерес у студенческой аудитории. Студенты ждали его с нетерпением, приняли с восторгом и даже устроили овацию. Публичные лекции Фихте на тему «Назначение ученого» собирали так много слушателей, что их не вмещала огромная аудитория университета. Студентов увлекали энергия и пафос Фихте, резко отзывавшегося о старых порядках и призывавшего идти дорогой разума и свободы, проложенной Великой Французской революцией. Да и как могли не взволновать свободолюбивую молодежь речи преподавателя, в которых были такие слова: «Всякий, считающий себя господином других, сам раб. Если он и не всегда является таковым, то у него все же рабская душа, и перед первым попавшимся более сильным, который его поработит, он будет гнусно ползать… Только тот свободен, кто хочет все вокруг себя сделать свободным».