В Сухуми, на Черноморском побережье Кавказа, Верещагина возмутила бестолково построенная пристань, к которой не могли приставать пароходы. И это заставило его опубликовать письмо в той же газете. Тематика газетных и журнальных выступлений Верещагина была разнообразна. В одной статье он негодовал по поводу ловкачей, подделывавших предметы старины и даже выдававших полотна каких-то посредственных живописцев за его, верещагинские. Мошенники явно спекулировали на популярности художника. В другой статье речь шла о беспорядках на российских железных дорогах, на которые он немало насмотрелся за время своих поездок. В третьей — художник со свойственным ему пылким пафосом негодовал по поводу пренебрежительного отношения к памятникам старины, пребывающим в запустении, и реставрационных работ в архитектурном ансамбле Углича, исказивших его первоначальный облик.
В конце прошлого века в архитектуре крупных городов России стал насаждаться псевдорусский стиль. В большинстве случаев это были малоталантливые, претенциозные подделки под старину, с башенками, всякой лепниной, лишенные четкого архитектурного образа. Вряд ли такие творения могли вызывать восторг у требовательного художника. Наиболее плодотворными он считал поиски нового самобытного русского стиля в архитектуре, в котором бы повторялись наиболее выразительные элементы древнерусских памятников. Верещагин даже выступил с архитектурным проектом торговых рядов в Москве. По своему облику они должны были гармонировать с Кремлем, поскольку художник использовал некоторые внешние мотивы несохранившегося Коломенского дворца. По его замыслу при осуществлении проекта должны были учитываться технические новшества — металлические конструкции, мощные подъемные лифты и другие. Этот проект так и не был осуществлен, но попытка Верещагина выступить и в качестве архитектора примечательна: она раскрывает еще одну грань его творчества.
Во время своих поездок на Кавказ Верещагин не раз присматривался к живописным уголкам Черноморского побережья. Особенно ему нравились окрестности Сухуми с их богатой субтропической растительностью. Горные склоны были покрыты виноградниками и фруктовыми деревьями. Выше начинались леса, а над ними белели снеговые шапки горных вершин. Гостеприимные абхазцы приглашали русского художника в гости, вели с ним неторопливые застольные беседы, угощали терпким виноградным вином. Велеречивый седобородый тамада произносил в честь гостя витиеватую речь, наполненную восточной народной мудростью. Потом гости и хозяева запевали протяжную многоголосую песню.
Верещагин стал задумываться — а не перебраться ли из Москвы, с Серпуховской заставы, сюда, на Черноморское побережье Кавказа? Здоровьем своим художник не мог похвастать. Периодически его мучили приступы лихорадки, единственным спасением от которых был нестерпимо горький хинин. Теплый кавказский климат действовал на Верещагина благодатно. И художник решился. Он приобрел вблизи Сухуми, в направлении Ново-Афонского монастыря, два рядом расположенных участка земли, один из которых прежде принадлежал местному армянскому священнику, а другой — одному престарелому абхазскому князю, получилось небольшое поместьице. Оно занимало часть морского берега и прибрежные склоны. Здесь были и фруктовые деревья, и естественная рощица. В глубине стоял совсем небольшой летний домик в две комнаты. Рядом с домиком художник оборудовал небольшую мастерскую — легкое сооружение из дерева. Со временем Верещагин намеревался возвести дом побольше и совсем перебраться сюда, но так и не успел осуществить свой замысел.
В последние годы жизни художника семья Верещагиных почти каждое лето проводила в своем именьице под Сухуми. Для жизни зимой крохотный и легкий домик не был приспособлен.