Александр Иванович Эртель был потомком берлинского бюргера. В автобиографии писатель рассказывает, что его дед Людвиг Эртель шестнадцатилетним юношей оказался в армии Наполеона и в сражении под Смоленском попал в плен. Некий русский офицер привёз его в свою усадьбу под Воронежом и хотел записать в крепостные. Родственники отговорили офицера от этого намерения, и Людвиг остался свободным человеком. Вноследствии он занял пост управляющего сначала на водяных мельницах, а затем был управляющим в помещичьих усадьбах в Воронежской и Тамбовской губерниях.
Позднее Людвиг принял православие. Отец писателя Иван Александрович служил приказчиком у московского купца, а затем занял место управляющего в том же имении, где раньше служил сам Людвиг-Иван Эртель. Мать писателя была незаконнорожденной дочерью помещика и крепостной нянюшки.
Более 20 лет отец писателя служил управляющим у помещика Савельева в деревне Ксизове Задонского уезда Воронежской губернии. Савельев и его жена актриса-француженка «Сильвия Ивановна», почти не говорившая по-русски, оказывали мальчику покровительство. Отец Эртеля надеялся, что общение с господами научит сына чему-нибудь полезному. Учение, с иронией вспоминает писатель, состояло в том, что Савельев иногда говорил, что значит такое-то французское слово. Все остальное время «ученик» играл с дворовыми мальчишками, гулял в саду и в огромном цветнике или сидел возле Сильвии Ивановны, которая привязалась к ребенку.
По настоянию матери Сашу начали готовить к поступлению в гимназию. Его «учил» то «пьяный конторщик», то «гувернантка, девица из крепостных, но почему-то с институтским образованием», то «барчуки-правоведы», когда он гостил у бабушки по материнской линии. В итоге в гимназию мальчик так и не попал, потому что в Воронеже, куда он поехал экзаменоваться, отцу, «закутившему» с товарищем, «отовсюду» не советовали отдавать ею в гимназию: «Будет образованный – родителей не станет кормить».
С 13 лет Александр Эртель начал проходить школу жизни. Отец получил новое место в имении Филипповых, и Саша стал его помощником, чем-то вроде приказчика. При этом должность помощника управляющего не мешала ему дружить с простыми людьми. Он вспоминает, что был «своим человеком» и в застольной, и в конюшнях, и на деревенской улице, и на посиделках, и на свадьбах – везде, где «собирался молодой деревенский народ». Этот богатый жизненный опыт впоследствии отразится в его творчестве.
Чтобы прекратить эти недостойные «фамильярные» отношения, отец согласился отпустить его на новое место службы, в имение, в котором требовался конторщик. Усадьба находилась в 20 верстах от города Усмани, где была приличная библиотека. С посещения этой библиотеки и началась его по-настоящему новая жизнь.
Управляла библиотекой дочь богатого купца М.И. Федотова. В её лице Эртель впервые встретился с женщиной «образованного круга» и вскоре женился на ней. Супругов сопровождали финансовые трудности. Потеряв место конторщика, Эртель попытался заняться предпринимательством, стать арендатором земли, но и здесь потерпел неудачу.
Отец жены, М. И. Федотов, был человеком высокообразованным для своего крута, страстным любителем чтения. В его доме собиралась городская элита. Из разговоров гостей Эртель, по воспоминаниям, почерпнул очень много, «в первый раз услыхал о земстве, о мировом судье, о полиции, об арестах, о политических процессах, о жизни в полку, на Кавказе, в Варшаве, в столице, за границей…» В доме тестя в 1876 г. Александр Иванович впервые познакомился и с «настоящим» литератором. Это был известный писатель-народник П. В. Засодимский, приезжавший в Усмань по семейным делам.
Общение с Засодимским побудило Эртеля испытать себя в литературном творчестве. Он написал свои первые произведения – рассказ «Переселенцы» и очерк «Письмо из Усманского уезда», которые столичный литератор помог опубликовать. Первый успех окрылил молодого «писателя», и с 1879 г. он начинает работать над книгой «Записки Степняка». Составляющие её произведения выходили в периодических изданиях – журналах «Вестник Европы», «Дело», «Русское богатство».
В 1879 г. Эртель переезжает в Петербург и, по предложению Засодимского, становится заведующим библиотекой, служившей местом встреч писателей и общественных деятелей народнического толка. Служа в библиотеке, Эртель знакомится с Г.И. Успенским, В.М. Гаршиным, Н.Н. Златовратским, С.Н. Кривенко, Н.Ф. Бажиным, Н.И. Наумовым, И.С. Тургеневым и другими известными писателями.
В 1880 г. из-за тяжелой болезни (туберкулёза) Эртель был вынужден вернуться в родные места – сначала в Усмань, а затем на хутор к матери. Здесь он продолжает работать над своей книгой. В 1883 г. «Записки Степняка» вышли в двух томах и сделали писателя известным.