Музейный комплекс в Берлине начал складываться в XVII в. на основе придворной кунсткамеры (от нем. Kunstkammer — «кабинет редкостей», «музей») правителей Бранденбурга (впоследствии королей Пруссии). При Фридрихе II (1740–1786 гг.) она стала значительным собранием, включившим в себя памятники Древнего Египта и Древнего Рима.
В 1830 г. в центре Берлина, на острове, образованном рекой Шпрее и её рукавом, был открыт Старый музей, возведённый по проекту архитектора Карла Фридриха Шинкеля (впоследствии этот остров назвали Музейным). В музее разместились Картинная галерея, Собрание скульптуры, вскоре пополнившееся произведениями итальянских мастеров XV в., Кабинет гравюры и Антиквариум (коллекция античной мелкой пластики и монет). В 1847 г. поблизости был построен Новый музей — для древностей Египта. В 1876 г. открылась Национальная галерея, объединившая памятники немецкого искусства.
Благодаря стараниям Вильгельма фон Боде (1845–1929), крупнейшего немецкого искусствоведа, в 1890 г. возглавившего Картинную галерею, а с 1906 г. все берлинские музеи, коллекции пополнились произведениями мастеров эпохи Возрождения — Донателло, Сандро Боттичелли, Джорджоне, Альбрехта Дюрера и Ханса Хольбейна Младшего, — а также голландских живописцев XVII в. Франса Халса, Рембрандта и др. Эти приобретения с 1903 г, разместились в Музее императора Фридриха.
В 1895–1907 гг. в берлинском собрании были образованы Отдел раннехристианского и византийского искусства (его украсила мозаика церкви Сан-Микеле ин Аффричиско из итальянского города Равенны), Переднеазиатский музей, Музей ислама, Восточно-азиатский музей и Музей первобытного искусства.
В конце XIX — начале XX в. берлинское собрание пополнилось остатками античного Пергамского алтаря из Малой Азии, знаменитой каменной головой царицы Нефертити из Египта, воротами богини Иштар из Вавилона. С 1930 г. эти и другие прославленные памятники древности и Средневековья разместились в новом музее Пергамон. В его просторных, восемнадцатиметровой высоты залах также смонтированы античные рыночные ворота из малоазийского города Милета и украшенная богатой резьбой стена средневекового арабского замка Мшатта из Иордании (поступила в 1903 г. как подарок турецкого султана).
Нацисты во время своего правления (1933–1945 гг.) объявили «произведениями упадочного искусства» около четырёхсот экспонатов музеев, в частности Национальной галереи, а затем выбросили или уничтожили их.
Вторая мировая война нанесла огромный ущерб берлинскому собранию. В 1945 г. Новый музей был разрушен полностью; сильно пострадали здания Старого музея и Пергамона. Советские солдаты разобрали развалины на Музейном острове; большинство памятников было отправлено в СССР. Однако ещё до падения Берлина значительную часть картин, лучшие скульптуры (в том числе голова Нефертити), античные золотые и серебряные изделия, собрание искусства Дальнего Востока немецкое командование спрятало в бункерах и соляных копях близ города. Впоследствии их обнаружили американские и британские военные.
После политического раздела Германии и её столицы в 1949 г. коллекции берлинских музеев тоже поделили между Восточным и Западным Берлином. В 1958 г. экспонаты, которые попали в Советский Союз, были переданы правительству ГДР.
В начале 60-х гг. в Восточном Берлине был вновь открыт Пергамон. В 1966 г. в отреставрированном Старом музее разместились Галерея современного искусства и Кабинет гравюры. Музей императора Фридриха в 1956 г. переименовали в Музей имени Боде. Здесь помимо произведений изобразительного искусства хранятся пятнадцать тысяч древнеегипетских папирусов и собрание монет, состоящее из полумиллиона экспонатов.
Почти одновременно многие памятники с Музейного острова были выставлены в Западном Берлине. Египетский музей и Музей античности разместились рядом с двориово-парковым комплексом Шарлоттенбург. Для собрания европейской живописи в 1968 г. в районе Далем было построено новое здание.
После объединения Германии в 1990 г. коллекции Государственных музеев Берлина были восстановлены. В здании Старого музея ныне действует Новая берлинская галерея, которая проводит выставки современных художников со всего мира.