ХХ съезд КПСС и отсутствие в ГДР официальной информации о том, что там происходило, потрясли Хавемана. Он стал критиковать государственную политику, выдвигая требования десталинизации СЕПГ. Выступая на партийных собраниях, оценивал забастовки и митинги в Польше и *венгерскую революцию 1956 года
как проявления стремления к демократизации, которому коммунисты не должны препятствовать. Осуждал идеологическое подавление независимой мысли, в ее свободе и в беспрепятственном обмене информацией видел условие преодоления сталинизма. В сентябре 1962 года Хавеман выступил с лекцией, в которой обвинил официальных представителей марксизма, в особенности советских, в его дискредитации в глазах общества и заявил, что политическая косность связана с идеологическим догматизмом. Не имея возможности опубликовать лекцию, он размножил ее на пишущей машинке и рассылал почтой по стране и за границу, в результате чего в 1963 году был выведен из парткома университета.В зимнем семестре 1963/64 годов прочел последний цикл лекций по теме «Философские проблемы естественных наук», который прослушали свыше тысячи человек в ГДР и Западном Берлине. По поводу свободы личности при социализме Хавеман, в частности, высказался так: человек должен «действовать сообразно своим индивидуальным стремлениям, не быть ограниченным и связанным приказами, директивами и догматами». Был отстранен от преподавания и исключен из партии. Предлогом стало интервью гамбургской газете, где он заявил, что гарантией успеха социализма может быть только свобода граждан, поэтому в ГДР она должна быть больше, чем в западных странах. В январе 1964 года Штази начало оперативное наблюдение за Хавеманом, которое продолжалось непрерывно вплоть до его смерти.
Окончательно потерял работу в декабре 1965 года (уволен из отдела фотохимии и исключен из Академии наук). Непосредственной причиной послужила статья, написанная по поводу легализации компартии в Западной Германии, в связи с чем Хавеман призывал к демократическому обновлению партии в ГДР. СЕПГ развернула против Хавемана кампанию в СМИ, которая, впрочем, не принесла видимых результатов.
В 1960–1970‐х Хавеман активно выступал в печати, вокруг него сплачивались оппозиционеры, включая деятелей искусства, таких как Вольф Бирман
и Юрген Фукс. Ему удавалось также поддерживать контакты с западными еврокоммунистами и демократическими левыми. В 1968 году он выступил в защиту реформ в ЧССР; его сыновья Франк и Флориан были арестованы за протест против *вторжения в Чехословакию.После того как в ноябре 1976 года его друг Бирман был лишен гражданства ГДР, Хавемана посадили под домашний арест. Несмотря на препятствия со стороны Штази, в феврале 1977 года он встретился с Лючио Ломбардо-Радиче, членом ЦК итальянской компартии. Осенью 1978 года голос Хавемана можно было услышать по западному радио – это были тайно вывезенные магнитофонные записи с ответами на вопросы Манфреда Вильке из Западного Берлина. Вскоре была издана созданная на основе этих записей книга «Немецкий коммунист. Прошлое и будущее – взгляд из изоляции».
В мае 1979 года домашний арест был снят, но на сфабрикованном процессе Хавемана присудили к штрафу в размере 10 тысяч марок за публикации на Западе. Несмотря на это, он выступил с текстом «Десять тезисов к 30-летию ГДР», критикуя ужесточение уголовного законодательства, в особенности ст. 106 УК об «антигосударственном подстрекательстве». Он считал необходимым наличие оппозиции в Народной палате, освобождение политзаключенных, отмену цензуры, создание независимого печатного органа, отмену возрастных ограничений при поездках на Запад. Требовал публикации своих тезисов в официозе СЕПГ «Нойес Дойчланд».
В 1980 году издал последнюю книгу – «Завтра. Промышленное общество на перепутье. Критика и реальная утопия». В ней, рассматривая катастрофы и кризисы ХХ века, Хавеман писал, что ни современный капитализм, ни реальный социализм не решат глобальных проблем человечества.
В последние годы жизни поддерживал независимые движения за мир. В открытом письме Эриху Хонеккеру в июле 1979 года, написанном совместно с пастором Райнером Эппельманом
, призывал к демилитаризации общественной жизни в ГДР, созданию в Центральной Европе свободной от ядерного оружия зоны и выводу с этих территорий всех иностранных войск. Оба автора видели в пацифизме единственное возможное политическое решение.20 сентября 1981 года Хавеман составил открытое письмо Л. И. Брежневу, призывая провести переговоры по вопросам мира и разоружения с последующей ликвидацией разделения Европы на военные блоки. В письме говорилось о необходимости объединения Германии, ибо «ее раздел ‹…› создает самую убийственную угрозу, которая когда-либо существовала в Европе». Под этим письмом подписалось множество людей, в том числе и на Западе.