Началом своей военной карьеры будущий выдающийся художник, признанный «совестью» передвижников, был обязан отцу, усердная многолетняя служба которого была вознаграждена чином генерал-майора. Образованного и честного Александра Михайловича Ярошенко очень уважали в Полтаве, где он нашёл семейное счастье в союзе с Любовью Васильевной Мищенко – дочерью местного небогатого помещика, отставного поручика артиллерии. Здесь, в Полтаве, 1 декабря 1846 года и появился на свет первенец супругов Николай.
Склонность к рисованию Николай Ярошенко обнаружил ещё в детстве, хотя примеров для подражания у него не было. Поначалу родители относились к художественному увлечению сына снисходительно, не считая нужным его поощрять и поддерживать. Будущую военную карьеру старшего наследника отец считал делом предначертанным и осенью 1855 года определил сына в Петровский полтавский кадетский корпус, где служил сам. Кардинально изменившаяся жизнь Николая от рисования его не отвлекла и даже познакомила с человеком, которого впоследствии он будет считать своим первым в искусстве учителем.
Иван Кондратьевич Зайцев – сын крепостного художника, принятый в Академию художеств и по завершении учёбы получивший вольную, – преподавал в Полтавском кадетском корпусе и разглядел в своём ученике задатки настоящего живописца. Своим вниманием к воспитаннику Зайцев сберёг в Ярошенко первые художественные ростки, а когда через пару лет, видимо из лучших отцовских побуждений, Александр Михайлович отправил старшего сына в столичный 1-й Кадетский корпус, Николай прибыл туда уже немного подготовленным ещё и по части изобразительного искусства, хотя петербургские однокашники больше заметили в новичке внутреннюю дисциплинированность и строгость к себе. Они не сразу разобрались и в том, что живость ума Ярошенко, страсть к художественному творчеству раздвинули для него стены казённого учреждения и помогли ступить в бурную столичную культурную жизнь, тем более что Академия художеств с регулярно проводимыми в ней выставками располагалась совсем недалеко от корпуса.
Тем временем сильное увлечение Николая изобразительным искусством, подкреплённое его первыми в этом деле успехами, стало очевидно даже отцу, и Александр Михайлович не стал чинить препятствий занятиям сына живописью с частным преподавателем. Кто-то из родственников, осведомлённых о художественных чаяниях Николая, направил юного воспитанника кадетского корпуса к Адриану Марковичу Волкову – ведущему художнику-карикатуристу сатирического журнала «Искра», разделявшего прогрессивные взгляды «Современника». В юнкерской форме Ярошенко появлялся у Волкова по субботам и обычно задерживался у него до понедельника, жадно внимая разговорам многочисленных гостей хозяина дома. Доброжелательная атмосфера собраний у Волкова, заряженная при этом энергией дискуссий, показалась Николаю необыкновенно притягательной, он увидел в ней возможность достойного соединения радости общения и верности своим убеждениям. Здесь, на этих встречах, зародилась дружба Ярошенко с литераторами Николаем Михайловским и Глебом Успенским.
Николай не расстаётся с карманным альбомом, страницы которого свидетельствуют – рисунок воспитанника корпуса становится всё более уверенным. Со своим альбомом Николай Ярошенко коротал время и в карцере, куда попал как один из самых активных участников акции неповиновения, случившейся в корпусе октябрьским вечером 1862 года. Тогда воспитанники «обнаружили неудовольствие» батальонным командиром, послав ему вслед топот, шиканье и свист. Происшествие имело для нарушителей порядка серьёзные последствия. Руководство корпуса настаивало на выявлении подстрекателей, а те и не думали отпираться и даже с избытком брали всю вину на себя. Главные подозреваемые в организации учинённых «беспорядков», среди которых значился Ярошенко, сидели в одиночках, в то время как по делу велось настоящее следствие. Вскоре выяснилось, что в протестной акции принял участие и младший брат Николая Ярошенко – Василий, к тому времени тоже обучавшийся в 1-м Кадетском корпусе. На одном из рисунков упомянутого альбома запечатлена одиночная камера с небольшим зарешеченным окном, а в правом нижнем углу можно прочитать шутливую авторскую ремарку: «от 1-го ноября по 10-е пользовался даровой квартирой со всеми удобствами». На допросы Николая водили каждый день. И, как было отмечено в протоколе, будучи вызванным в комитет, «воспитанник Ярошенко явился в оный улыбающимся». «…Имея надежду на исправление» оступившихся, дирекция не стала исключать главарей юных бунтовщиков из корпуса, ограничившись наказанием. Николая разжаловали из ефрейторов в рядовые, снизили балл по поведению, лишили отпуска, но Ярошенко остался благодарен полученному опыту: в себе он тогда обнаружил лидерские качества, умение быть убедительным и непоколебимым.