Говорят, что Ягода не имел в глазах Сталина шансов стать командиром Большого террора потому, что при известном хамстве и безразличии ко многому не был лично жесток, не был любящим кровь садистом. Это довольно сомнительно, скорее Ягоду из кресла и обоймы сталинской команды к Большому террору выбросили не эти его принципы и даже не происхождение его из ленинской гвардии партийцев с дореволюционным стажем, а появившееся недоверие Сталина к нему и близость к группе правых Бухарина в партии.
Правда, в отличие от его наследника в НКВД Ежова о Ягоде действительно нет сведений, чтобы он лично участвовал в допросах с применением пыток или в расстрелах. В книге «КГБ: председатели органов госбезопасности» Леонид Млечин отмечал эту неоднозначность образа Ягоды в посвященной его персоне главе, приводя примеры человечного отношения Ягоды к арестованным. Там Ягода на докладной записке о том, что сотрудник НКВД вывел заключенных в лагере на мороз раздетыми, написал резолюцию: «Где вы находите таких мерзавцев? Женщин на мороз?! Кто позволил?!» Хотя это вряд ли можно считать доказательством человеколюбия наркома Ягоды, такие «гуманистические» резолюции будут позднее выходить в НКВД и из-под пера Ежова или Берии. Хотя он действительно в конце 20-х годов написал несколько циркуляров по ГПУ об усилении надзора за законностью, о наведении дисциплины в рядах ГПУ, об обязанности вежливого обращения с посетителями и собственными подчиненными (сам будучи по отношению к своим сотрудникам часто просто первейшим хамом). В 1926 году зампред ГПУ Ягода выступил с инициативой усиления законности в отношении содержания арестованных по делам ГПУ, предлагая сократить сроки содержания под стражей на следствии, а всем содержащим арестованных на следствии больше двух месяцев грозя дисциплинарными карами. В 1928 году Ягода опять пишет начальнику Секретного отдела ГПУ Дерибасу служебную записку: «Вопрос о загрузке наших тюрем опять стоит остро, необходимо применять уже не только меры внушения, но и репрессивные меры к тем нашим товарищам, которые не могут и не хотят понять: содержание в тюрьме человека необоснованно долго ложится на нас пятном. Есть же десятки приказов, запрещающих задерживать более 24 часов, а держат ведь 7 суток и более без оформления». Такие документы из-под пера Ягоды в его архивном наследстве есть, и было бы неверно их не учитывать. Хотя и не ясно до конца, чего же здесь больше: человечного отношения к арестованным, идейного восприятия коммунистической законности, просто заботы о чести мундира ГПУ или все той же тяги чиновника все делать по букве инструкции.
Есть устойчивый слух и о том, что Ягода вроде бы в кругу своих призывал придерживаться не только законов и инструкций, но и ленинских заветов в партии, а излишнее возвышение личности Сталина с конца 20-х годов называл неправильным и нескромным. И будто бы до самого Сталина донесли тогда эти брошенные фразы первого зампреда ГПУ, на что Сталин многозначительно сказал: «Но пока он очень полезен, пусть поработает». Хотя в эту историю не слишком верится хотя бы потому, что Ягоду действительно очень трудно заподозрить в истинном идейном большевизме в душе, да и сам он в своих пристрастиях не очень стремился к завещаемой Лениным скромности в быту, и аскетичности его предшественника Дзержинского в наркоме НКВД и близко не наблюдается.
У Ягоды уже не было интеллигентности Менжинского или суровой харизмы Дзержинского. Этот нервный и худой человек во френче со щеткой усов бывал взвинчен, с подчиненными часто просто хамоват, срываясь на крик при удобном случае и матерный ор в своем лубянском кабинете, был не чужд страсти к интригам даже внутри ГПУ, где к его приходу еще сохранялись остатки заложенного Дзержинским духа чекистского сурового братства. Многих еще в ГПУ поражало его спесивое высокомерие, которое с годами в нем окрепло. Дзержинский не орал на подчиненных, что сгноит их, а Ленин не мог воспитывать Дзержинского словами: «А то в морду дам!», как Сталин, по свидетельствам многих очевидцев таких бесед, завершал часто очередные прения с Ягодой.
В целом недалеким человеком Генриха Ягоду назвать сложно, он действительно любил литературу и дружил с писателями. Хотя это не мешало ему устраивать оргии с любовницами или повесить в бане на своей даче церковные иконы, чтобы голый нарком внутренних дел с гостями с удовольствием палили в них из револьверов, тренируясь в меткости стрельбы. После ареста и расстрела Ягоды на его даче НКВД устроит секретный объект, где в дни Большого террора стреляли уже не по безмолвным иконам, а расстреливали сотнями привезенных сюда по ночам из московских тюрем приговоренных. Расстреляв веру, взялись без жалости за население страны.