К концу 1860-х годов Третьяков, вдохновлённый модной в то время просветительской идеей о важной роли личности в истории, задумал создать портретную галерею выдающихся деятелей русского искусства. Собиратель не только покупал уже имеющиеся портреты выдающихся русских писателей, композиторов и других деятелей искусств, но и заказывал их у художников-современников. Интересно, что сам Третьяков категорически отказывался позировать, сделав только два исключения за всю свою жизнь — для И. Н. Крамского и И. Е. Репина.
С каждым годом коллекция Третьякова становилась больше. Для того чтобы разместить все картины, пришлось перестроить усадьбу — построить новые помещения и расширить галерею, которой был придан статус музея. Несмотря на то что юридически галерея оставалась частной, любой человек, без различия рода и звания, мог бесплатно посетить её в любой день недели.
В августе 1892 года от своего имени и от имени своего покойного брата Третьяков принёс своё собрание в дар городу Москве. Кроме того, основатель галереи подарил городу свою часть дома в Лаврушинском переулке, оставив за собой право на пожизненное попечительство и пользование жилой частью дома. До самой своей смерти Третьяков вёл активную собирательскую деятельность и подарил галерее ещё свыше 220 произведений русской живописи и графики. Последним крупным приобретением коллекционера было знаменитое полотно «Богатыри» кисти Васнецова. В 1898 году Третьяков скончался. После его смерти к старинному зданию по проекту Васнецова был пристроен новый фасад в «русском стиле», ставший эмблемой Третьяковской галереи.
Уже в дореволюционное время Третьяковская галерея стала самым популярным и посещаемым музеем России. После революции 1917 года галерея была национализирована, и её коллекции пополнились множеством работ из экспроприированных частных коллекции и ликвидированных музеев.
3 июня 1918 года Третьяковская галерея была объявлена «государственной собственностью Российской Федеративной Советской Республики». С этого момента музей стал называться Государственная Третьяковская галерея.
Положение перед национализацией было катастрофическим. Всякие ассигнования на содержание галереи прекратились: отсутствовали средства на топливо, на зарплату служащим, не говоря уже о пополнении коллекции.
Директором был назначен И. Э. Грабарь. При его активном участии в том же 1918 году был создан Государственный музейный фонд. На протяжении 1918–1927 годов он был одним из источников пополнения коллекции «Третьяковки».
Из фонда в Третьяковскую галерею пришли как отдельные произведения, так и целые собрания — князя С. А. Щербатова, П.И. и В. А. Харитоненко, К. Ф. Арцыбушева, И. А. Морозова, М. П. Рябушинского. К 1922 году собрание музея увеличилось почти вдвое, причём значительная часть новых поступлений была признана первоклассной.
Уже в середине 1920-х годов Третьяковская галерея имела четыре филиала. Среди них — Государственная Цветковская галерея и Музей иконописи и живописи имени И. С. Остроухова. Филиалом был и Пролетарский музей Рогожско-Симоновского района, часть коллекции которого составляло собрание И. С. Исаджакова. Работы авангардного направления были представлены в филиале — Музее живописной культуры, который расформировали в 1928 году. Картины из этого собрания попали и в галерею, и в провинциальные музеи. Основная часть фондов филиалов была поглощена галереей, а сами они прекратили существование.
В 1925 году были переданы на хранение произведения русской живописи из Московского Публичного и Румянцевского музеев. Это были коллекции известных собирателей — М. М. Львовой, А. П. Бахрушина, С. А. Щербатова и К. Т. Солдатёнкова. Только через семь лет галерея обрела из того же источника «Явление Христа народу» А. А. Иванова (1837–1857) вместе с этюдами и эскизами. Тогда-то для этой картины и был построен специальный зал.
Музей стал обладателем собрания Ф. И. Прянишникова, о котором так мечтал П. М. Третьяков в молодые годы. Коллекция включала в себя первоклассные картины А. Г. Венецианова, Д. Г. Левицкого, Ф. М. Матвеева, В. А. Тропинина, К. А. Сомова, П. А. Федотова.
Классификация художественных произведений из дореволюционных собраний подчинялась жёсткой государственной политике в области музейного дела. В 1925 году работы французских живописцев, собранные Сергеем Михайловичем Третьяковым, были переданы в Музей изящных искусств (ныне ГМИИ). Государственный музейный фонд был ликвидирован в 1927 году, а его хранение распределено по музеям. В этом же году Третьяковская галерея получила работы русских художников из коллекции И. А. Морозова, которые и сегодня украшают музей.