Источниками рассказа послужили заимствованные из сборника А. Н. Афанасьева народные легенды «Крестный отец», «Грех и покаяние», а также апокрифическая (то есть не канонизированная в церковно-учительной литературе) «Повесть о сыне крестном, како господь крестил младенца убогого человека». Установлено, что для четвертой главки рассказа материалом послужил фольклорный сюжет («Медведь и чурбан»), записанный в Башкирии (И. И. Грибушин. Народные сюжеты в рассказах Л. Н. Толстого. — В кн.: «Русская литература 1870–1890 гг.». Свердловск, 1978, с. 110–111).
В многочисленных широко распространенных фольклорных сказаниях о грешнике финал иной: великий грешник кается в грехах, ему назначается неисполнимая епитимья, но он убивает другого, еще более тяжкого грешника и тем заслуживает отпущение грехов. В разных вариантах легенды грешник убивает жестокого пана, кулака-мироеда, купца, царя-людоеда, неправедного судью, барского приказчика, который колотит по могилам, сзывая мертвецов на панщину, и т. д. (ср. в поэме Некрасова «Кому на Руси жить хорошо» легенду «О двух великих грешниках»). В сборнике Афанасьева конец легенды либо изменен по цензурным соображениям, либо (более вероятно) приведен устный вариант письменных сказаний, распространенных в древней учительной литературе. Здесь грешник получает прощение после того, как «удаляется в непроходимые леса и, затворившись в пещере, день и ночь трудится богу» (А. Н. Афанасьев. Народные русские легенды, с. 188). Толстой написал свой конец: мальчик не убивает другого разбойника, но обращает его к добру.
Замысел написать для «Посредника» антивоенную сказку связан, несомненно, с той встречей, какая произошла у Толстого в апреле 1886 года на пути из Москвы в Ясную Поляну — с девяностопятилетним солдатом, служившим при Александре I и Николае I. Рассказом об этой встрече начат памфлет «Николай Палкин», созданный в то же время.
Опубликована сказка была в 1891 году М. Элпидиным в Женеве, с примечанием: «Из народных сказок, созданных на Волге в отдаленные от нас времена, восстановил Лев Толстой». В 1892 году С. А. Толстая пыталась поместить сказку в собрании сочинений; по требованию цензуры сказка была изъята из уже сверстанного тома. В том же году в научно-литературном сборнике «Помощь голодающим» «Работник Емельян и пустой барабан» был напечатан, но по всему тексту «царь» заменен «воеводой», «царица» — «княгиней», «придворные» — «слугами», «царский дворец» — «палатами», «солдаты» — «стрельцами». В словах о «мужицкой солдатской матери», изъято слово «солдатская».
В 1899 году В. Г. Чертков издал сказку в Англии, включив ее в антивоенный сборник: Л. Н. Толстой. Николай Палкин. Работник Емельян и пустой барабан. Дорого стоит.
«Посреднику» удалось напечатать сказку лишь в 1906 году.
Принявшись за роман о Петре I, Толстой, как и при работе над «Войной и миром», стал собирать исторические материалы. Десятки книг перечислены в его дневниках, записных книжках, письмах того времени. В архиве сохранились выписки из многих книг (напечатаны в т. 17, с. 386–444). В январе 1873 года С. А. Толстая отметила в своем дневнике: «Он записывает в разные записные книжечки все, что может быть нужно для верного описания нравов, привычек, платья, жилья и всего, что касается обыденной жизни, особенно народа и жителей вне двора и царя. А в других листах записывает все, что приходит в голову касательно типов, движения, поэтических картин и проч. Эта работа мозаичная. Он вникает до таких подробностей, что вчера вернулся с охоты особенно рано и допытывался по разным материалам, не ошибка ли, что написано, будто высокие воротники носились при коротких кафтанах» (Толстая С. А. Дневники, в 2-х томах, т. 1, с. 500). Особенно внимательно читал Толстой пять томов «Истории царствования Петра Великого» Н. Г. Устрялова (вышли в 1858–1859 гг.), назвав этот труд «вполне добросовестным».