Не раз у Антона Макаренко возникала вполне понятная в той ситуации мысль: «Бросить все, уехать в город, заняться наукой». Нелегкое это было дело — воспитывать, по сути, из закоренелых преступников нормальных людей. И не только потому, что у тех, кто прибывал в колонию, поначалу полностью отсутствовали нравственные и моральные принципы. Это было полбеды. Макаренко всю жизнь приходилось бороться с теми, кто считал, что коммунистическая идеология все сделает сама и главное — вдолбить ее в головы детей. «К нам приводят запущенного парня, я делаю из него человека… Я поднимаю в нем веру в себя, говорю ему о человеческой и рабочей чести. Но оказывается, все это ересь — нужно воспитывать классовое самосознание, то есть научить трепать языком по тексту учебника политграмоты». А если беспризорники не желают подчиняться, значит, как считали многие, с позволения сказать, «педагоги», нужно применить самый простой метод воспитания — загнать всех за колючую проволоку. Но Антон Макаренко понимал: детей, их волю нельзя подавлять, такой путь абсолютно бесперспективен. Вряд ли в той ситуации можно было говорить о любви, но без уважения к своим подопечным добиться результата невозможно. Искреннее уважение к ребенку обязательно вызовет ответную реакцию. За годы существования полтавской колонии имени Горького в ней побывали десятки, если не сотни комиссий. И многих проверяющих интересовал вопрос: применяются ли в колонии физические наказания и где, собственно, карцер для особенно провинившихся? Таким людям трудно было понять, что наказание, которое не причиняет боль и не унижает достоинство, может быть очень эффективным. Например, некоторые воспитанники предпочитали входить в столовую не в дверь, а через окно. Попытки вразумить ни к чему не привели, и тогда Макаренко издал приказ по колонии, по которому эти ребята могли отныне попасть в столовую исключительно через окно. Естественно, что над ними смеялась вся колония и у сорванцов пропала всякая охота попадать в столовую, минуя дверь. А одного заядлого матерщинника (о таких говорят, что матом они не выражаются, они на нем говорят) Макаренко отвел в лес, посадил на пень и велел ругаться сколько душе угодно. Минут десять такое наказание мальчишке даже нравилось, но вскоре он понял, что ругаться ему больше совсем не хочется. С тех пор от него никто никогда не слышал бранного слова.
Советская власть добилась хороших результатов в борьбе с беспризорностью. Однако победить ее до конца так и не смогла. Годы шли, а беспризорников, несмотря на все усилия, оставалось очень много. И вот он, парадокс — усилия и методы Антона Макаренко и его последователей давали хороший результат, но ему постоянно ставили палки в колеса. На него постоянно писали доносы, припоминали брата, белого офицера, уехавшего во время Гражданской войны за границу, макаренковские методы обучения и воспитания трудных подростков называли «белогвардейскими штучками». Особенно усердствовала Надежда Крупская. Вдова вождя мирового пролетариата не была авторитетом в делах государственных, однако в вопросах педагогики к ее мнению все-таки прислушивались.
«Читали „Комсомольскую правду“ от 17 мая, как меня Крупская разделала? — писал Макаренко Галине Салько, которая впоследствии стала его женой. — Я начинаю приходить в восторг — шельмование во всесоюзном масштабе. Опять подняли безобразный крик по поводу моей колонии, грозили прокурором, междуведомственной комиссией, еще чем-то». Над Макаренко стали сгущаться тучи. Его фактически заставили написать заявление об уходе с поста руководителя колонии. Помог ему Максим Горький, который всегда ценил как педагогический, так и писательский талант Макаренко.
В конце 1927 года в пригороде тогдашней украинской столицы, в поселке под названием Новый Харьков была создана детская трудовая коммуна имени Ф. Э. Дзержинского (согласно официальной пропаганде, коммуна создавалась как памятник скоропостижно скончавшемуся руководителю ЧК и строилась на добровольные отчисления чекистов). Задачи у нового заведения были те же, что и у колонии имени Горького, и поэтому (а также благодаря влиянию Максима Горького среди руководства ЧК) Антона Семеновича Макаренко пригласили на пост руководителя коммуны.