В Шушенское за свой счет поехала Надежда Константиновна вместе со своей матерью, которая к этому времени рассчиталась с хозяином квартиры и продала участок на Новодевичьем кладбище рядом с мужем. С этого времени она будет постоянно сопровождать свою дочь во всех ее странствиях за Владимиром Ильичем. С собой они взяли все «самое необходимое»: книги, теплые вещи, инструмент, посуду, чай, сахар, одеколон, провиант. Запаслась Елизавета Васильевна табаком, папиросными гильзами и специальной машинкой для набивки папирос. По просьбе Владимира Ильича везли набор ювелирных инструментов для ссыльного рабочего Оскара Энгберга, жившего в Шушенском. Корзина с инструментами весила два пуда (32 килограмма). Для Владимира Ильича как подарок приобрели керосиновую лампу с зеленым абажуром. Эту лампу Надежде почти всю дорогу пришлось держать в руках.
«В село Шушенское, где жил Владимир Ильич, - рассказывает Крупская, - мы приехали в сумерки; Владимир Ильич был на охоте. Мы выгрузились, нас провели в избу. В Сибири - в Минусинском округе - крестьяне очень чисто живут, полы устланы пестрыми самоткаными дорожками, стены чисто выбелены и украшены пихтой. Комната Владимира Ильича была хоть невелика, но также чиста. Нам с мамой хозяева уступили остальную часть избы. В избу набились все хозяева и соседи и усердно нас разглядывали и расспрашивали». Надежда Константиновна им понравилась своей приветливостью, своим городским платьем и особенно длинной и толстой косой.
По прибытии в Шушенское Крупская написала Марии Александровне Ульяновой 10 мая 1898 г: «Дорога в Шушу совсем не утомительна, если вам удастся выбраться сюда, то ехать будет ничего себе. А с нашим бесчисленным багажом дело обошлось вполне благополучно, ничего не растеряли, в вагоны нас всюду пускали. Спасибо так же за провизию, мы питались ею три дня, и это было намного приятней вокзальной еды». Владимир Ильич написал письмо лишь через три дня: «Приехали ко мне, наконец, дорогая мамочка, и гости. Приехали они седьмого мая вечером, и как раз ухитрился я именно в этот день уехать на охоту, так что они меня не застали дома. Я нашел, что Надежда Константиновна высмотрит неудовлетворительно - придется ей здесь заняться получше своим здоровьем. Про меня же Елизавета Васильевна сказала: “Эк Вас разнесло!” - отзыв, как видишь, такой, что лучше и не надо!»
«Надежде Константиновне, как ты знаешь, поставили трагикомическое условие: если не вступит немедленно в брак, то назад — в Уфу. Потому мы уже начинаем хлопоты о выдаче документов, без которых нельзя венчать, чтобы успеть сделать все до поста», — писал Владимир своей матери.
Для оформления брака нужны были документы, а Ульянов, как и все ссыльные, паспорта не имел. Его заменял так называемый «статейный список». Но он, как выяснилось, затерялся где-то в красноярском тюремном правлении. Переписка и волокита по этому поводу шла почти два месяца. И 30 июня в прошении начальнику Енисейской губернии Владимир Ильич пишет: «Получается крайне странное противоречие: с одной стороны, высшая администрация разрешает по моему ходатайству перевод моей невесты в село Шушенское и ставит условием этого разрешения немедленный выход ее замуж; с другой стороны, я никак не могу добиться от местных властей выдачи мне документа, без которого вступление в брак не может состояться; и в результате всего виновной оказывается моя невеста». От венчания зависел и размер пособия, полагавшегося ссыльным молодоженам.
Наконец, в начале июля документы были получены, и можно было идти в церковь. Но тут случилась новая оказия. Не оказалось ни поручителей, ни шаферов, ни обручальных колец, без которых свадебная церемония немыслима. Дело в том, что из Минусинска бежал ссыльный социал-демократ С. Г. Райчин. И исправник категорически запретил выезд из Тесинского на бракосочетание и Кржижановским, и Старковым. Конечно, можно было бы опять начать хлопоты, но Владимир Ильич решил не ждать.
Оскар Энгберг, бывший когда-то учеником у ювелира, изготовил из медного пятака и надраил до золотого блеска обручальные кольца. «10 июля 1898 г. в местной церкви священник Иоанн Орестов свершил таинство венчания. И надел он жениху и невесте кольца. И водили их вокруг аналоя. И причащались они и кланялись иконам Спасителя и Божьей Матери у Царских Врат. Все как положено». Свидетелями на свадьбе со стороны жениха стали местные крестьяне Заверткин и Ермолаев, а со стороны невесты - Журавлев. По свидетельству крестьян, невеста была одета в скромную белую блузку и черную юбку, а жених в потертом коричневом костюме. По одним данным, свадебного застолья у молодоженов не было — якобы они ограничились скромным чаепитием. Другие заявляли, что свадебное веселье было шумным и даже заставило хозяев дома, в котором жил их квартирант, вмешаться в происходящее. Пришло поздравление с бракосочетанием от Аполлинарии Якубовой, которая была арестована за активное участие в деятельности организации «Союз борьбы» и была выслана в село Казачинское под Красноярском.