О том, что Канарис находится на Принц-Альбрехтштрассе, его друзья узнали через «дядю May». Тот в связи с допросом Канариса в августе, который проводил Гуппенкотен, попросил следователя разрешить заполнить Канарису несколько банковских чеков для поддержания его домашнего хозяйства. Гуппенкотен задумался, но его приветливая секретарша уже схватила чековую книжку и сказала, что это можно быстро сделать, в ответ на что шеф согласился. Действительно, секретарша уже через несколько минут вернулась с подписанными чеками. Товарищами Канариса по несчастью, находившимися на Принц-Альбрехтштрассе, были многочисленные члены оппозиции против Гитлера, в их числе Герделер, генералы Гальдер, Томас и Остер, бывший министр Попиц, государственный секретарь Планк, главный судья Зак, Герберт Геринг, двоюродный брат рейхсмаршала доктор Яльмар Шахт, который в начале сентября был отправлен в Заксенхаузен, далее доктор Йозеф Мюллер, Лидиг, Штрюнк и Гере, также сын генерала Линдемана, Небе и пастор Бонгёфер и многие другие. Канарис относился вместе с Остером и Мюллером к тем заключенным, которые подвергались особенно плохому обращению. На него были надеты наручники особого образца, доставлявшие ему мучительные страдания; длительное время он получал только одну треть тюремного питания и даже в период рождественских праздников страдал от голода. Ему приходилось исполнять самую грязную работу. Однажды, когда он вместе с Мюллером и Гере должен был мыть коридор, что имело, однако, свои положительные стороны, потому что друзья могли при этом переговариваться, один язвительный эсэсовец сказал ему: «Ну, маленький матрос, ты, наверное, не думал, что тебе придется когда-нибудь мыть коридор!»
Большинство узников оставались на Принц-Альбрехтштрассе до воздушного налета ночью 3 февраля 1945 г., во время которого было разрушено здание гестапо. Исключением был Герделер, которого 2 февраля забрали на казнь. 7 февраля заключенные, которые имели отношение к 20 июля, были увезены из Берлина. В предыдущую ночь прибыли еще несколько «гостей» и были временно размещены; 7 февраля их должны были также вывезти из Берлина. Среди них были доктор Яльмар Шахт, граф Готфрид фон Бисмарк, бывший прежде главой земельного правительства в Потсдаме, и бывший военный губернатор в Бельгии фон Фалькенхаузен. Так как водопровод и туалет были разрушены в результате воздушного налета, во дворе вырыли ямы. Это обстоятельство облегчило взаимопонимание между узниками «со стажем» и вновь прибывшими.
Отправка проходила 7 февраля. По неизвестным причинам заключенные были разделены на две группы. Первая, к которой принадлежали Канарис, Остер и Штрюнк, была отправлена во Флоссенбюрг, вторая, в которой были доктор Йозеф Мюллер, Лидиг и множество других, уже упоминавшихся заключенных, в Бухенвальд. Одна часть второй партии узников прибыла в начале апреля также во Флоссенбюрг.
Однако прежде, чем отправиться во Флоссенбюрг, нужно сначала коротко рассказать о методе допросов, проводимых в гестапо на Принц-Альбрехтштрассе. Гуппенкотен, о котором уже много раз говорилось, особенно активно участвовал на допросах самых важных заключенных, среди них, конечно, был и Канарис. Он не принадлежал к типу «людей с квадратным подбородком», которых можно было часто встретить среди эсэсовцев, а скорее производил впечатление образованного чиновника из аппарата управления или полиции. Он старался, по крайней мере в начале допроса, показать себя джентльменом; однако если это не приносило успеха, то он быстро менялся. Его внешний облик не мог надолго никого обмануть: в своем желании «разделаться» с узниками он не знал никаких моральных преград. Более человечным со многими заключенными был штандартенфюрер Панцингер, заместитель группенфюрера Мюллера, который время от времени подключался к допросам. Кроме того, в допросах на Принц-Альбрехштрасе принимали участие комиссары уголовной полиции Зондереггер, который еще в прошлом году был помощником Рёдера, Ланге, Шрей и Старвицкий; последний был особенно груб и любил переходить к рукоприкладству, бил заключенных, если они ему не покорялись.
Пытки, которым подвергали заключенных, были не только физического характера. Тот, кто знал чувствительного, впечатлительного Канариса, может себе представить, что он испытывал, если даже ночью, когда он на жестких нарах, несмотря на наручники с короткой цепью, пытался заснуть, ослепительно яркая лампа, висящая над ногами, светила ему прямо в лицо. Поворачивать тело, даже отворачивать голову было строго запрещено. Таким образом, сон, если наконец он приходил из-за полного переутомления, оставался беспокойным и не приносил никакого освежения. Другое мучение: сознательно и с прямым намерением перегретые камеры! Туалетов в камерах не было. С одной стороны, это было хорошо, но с другой — это ставило заключенных в полную зависимость от милости их охранников, которые по собственному желанию либо водили заключенных в уборную, либо могли заставить их ждать, иногда часами.