Мать Баха умерла в 9 лет, а через год умер отец. Осиротевший Себастьян вместе с братом Якобом отправились в город Ордруф, где их взял на попечение старший брат Иоганн Кристоф, опытный органист и педагог, но большой сухарь и схоласт. Он научил братьев игре на клавесине и органе, но был виновен в том, что под конец жизни Бах ослеп: брат, требуя от него постоянных упражнений, запрещал ему изучать сочинения выдающихся предшественников и современников, и будущий великий композитор читал их по ночам при свете луны. Бах здесь участвовал в школьном оркестре, мастерски играл на трехмануальном школьном органе и клавесине и пел в хоре. Не все знают, что он, кроме того, великолепно играл на гармонике. Его талант был замечен, и он был направлен в знаменитую певческую школу города Люнебурга.
В Ордруфе было создано первое известное нам произведение Баха — Фуга ми минор для клавира. Отсюда начались и беспрестанные странствия композитора — в общей сложности он 9 раз менял место жительства.
В Люнебурге Себастьян провел три года, не только учась, но и концертируя со школьным хором, совершенствуя свое мастерство у Георга Бёма, знаменитого композитора и органиста. Он и сам начал давать частные уроки, причем ни тогда, ни на протяжении всей своей последующей жизни никогда не брал за это деньги. В Люнебурге было создано несколько циклов вариаций для органа и юношеская сюита для клавира.
Из Люнебургской школы Бах вышел в 1703 году прекрасно подготовленным и сформировавшимся музыкантом. Свой первый практический опыт он приобрёл, поступив органистом в придворную капеллу герцога Иоганна Эрнста в Веймаре. Однако Бах уже ощутил себя в первую очередь композитором, а служба не отвечала его творческим потребностям.
По этой причине уже в том же году он принял предложение поступить на должность органиста при храме святого Бонифация в городе Арнштадте. Именно здесь композитор написал ряд органных произведений: фантазий, токкат, прелюдий, фуг, и стал настоящим виртуозом. Он не чуждался розыгрышей: приходил на службу в маленькие церкви в отдалённых деревнях под видом бедного учителя и просил местного органиста позволить ему немного поиграть на органе. Бах добивался таким образом сильного эффекта: прихожане, услышав невиданно совершенную игру, в испуге покидали службу. В Арнштадте созданы Пасхальная кантата и великолепное программное сочинение — «Каприччио на отъезд возлюбленного брата» для клавира. Виртуозное владение органом и особенно талант Баха к импровизации не нашли одобрения церковного начальства. А когда Иоганн Себастьян отправился с разрешения церковного совета в Любек для совершенствования своего исполнительского и композиторского мастерства у крупнейшего мастера того времени Дитриха Букстехуде и в итоге значительно опоздал вернуться к месту службы, начальство стало изводить его придирками. В результате, когда Бах в 1706 году выиграл конкурс на место органиста в храме св. Власия в соседнем Мюльхаузене, он снова сменил место жительства. Там он женился на своей кузине Марии Барбаре, также дочери музыканта. В общей сложности у них родилось семеро детей, из которых трое выжили. Двое из них — Вильгельм Фридеман и Филипп Эммануэль стали выдающимися композиторами.
Бах создал в Мюльхаузене «Выборную кантату» к выборам в городской совет этого «вольного имперского города», свою первую культовую кантату на текст 129 псалома «Aus der Tiefe rufe ich, Herr, zu dir» (Из глубины воззвах к тебе, Господи) и еще несколько, а также Прелюдию и партиту для клавира.
Но и здесь отношения музыканта с церковным начальством складывались не лучшим образом, правда, совсем по другой причине, чем в Арнштадте. Церковный совет Св. Власия был вялым и безынициативным, и на все просьбы Баха отремонтировать разрушавшийся церковный орган, пополнить и обучить жиденький хор — неизменно отвечал отказом.
Бах снова ушел. И в 1708 году встретился со старым знакомцем — герцогом Веймарским. Вильгельм-Эрнст, услышав блестящую игру Баха на органе, предложил ему должность придворного и городского органиста, за которую назначил довольно высокое жалование.