Первыми приобретениями тогда еще великого князя стали различные предметы декоративно-прикладного искусства. В одном из писем он писал: «Ваш подарок сделал мне большое удовольствие, потому что я именно люблю такие вещи и особенно старинные. Ты спрашиваешь, милая Ма, что привезти мне из-за границы, я всего больше желал бы в этом именно роде вещи старинные. Вазы и бокалы из хрусталя и фарфора, потому что я желал бы пополнить мою маленькую коллекцию мало-помалу. Алексей привез мне из Венеции отличные вещи из майолики и все старинные, так что моя коллекция прибавляется». Первой картиной, которую приобрел великий князь в 1864 году, была работа И.П. Келера-Вилианди «Итальянская девочка, черпающая воду». Поначалу все приобретения хранились в Аничковом дворце и в Царском Селе, но с конца 1870-х годов основным местом размещения коллекции становится Гатчина.
Великий князь не только приобретает произведения искусства на выставках и в антикварных магазинах за границей, но и скупает частные коллекции. Многие картины заказывались специально, особенно если это касалось портретов членов императорской семьи. Большое количество картин было куплено в Прибалтийских странах, особенно в Дании и Финляндии. Любимым датским художником Александра III был известный живописец Антон Мельби, четыре картины которого находились в Гатчинском дворце. Один из художников, Лауритис Туксен, посещал Гатчину, когда работал над семейным портретом датской королевской четы, и оставил воспоминания о пребывании в России: «Императрица позировала часто, так же как и царские дети: великий князь Михаил, великие княжны Ксения и Ольга, император — лишь один раз. В тот день я встретил его во всем величии. Он спросил, как он должен встать, и в течение 3/4 часа стоял не двигаясь. Это единственное время, которое он уделил мне. Я старался делать мазки как можно гуще, чтобы получить ощутимый результат. Когда после окончания сеанса Александр III подошел и взглянул на холст, он разразился гомерическим хохотом. Больше император не позировал. Вместо него передо мною в военном мундире стоял один из царских лакеев, но, увы, — это было лишь слабое напоминание того образа, который оставил о себе император».
Судьба гатчинской коллекции императора Александра III трагична. Из 210 картин, собранных им и его супругой, остались лишь жалкие крохи. Большую часть власти продали за границу в 1928–1934 годах, некоторые полотна погибли во время Великой Отечественной войны. А то, что удалось эвакуировать, распределили по разным музеям России.