От места, занимаемого ныне этими двумя зданиями, начинающими Большую Лубянку, и пошло существующее до сих пор название улицы — Лубянка. Слобода новгородцев, поселенных в Москве Иваном III, располагалась как раз здесь, а ее главная улица проходила перпендикулярно нынешней Большой Лубянке — по Пушечной, на которой стоит слободская церковь Святой Софии, и по северной стороне Лубянской площади. Слобода на север простиралась до Кузнецкого Моста, далее жили своей слободой псковичи, слободу которых так и называли — Псковичи, а их церковь, ныне снесенная, называлась храм Введения Пресвятой Богородицы в Псковичах.
В конце XVIII века на планах Москвы Лубянкой обозначалась эта перпендикулярная улица, а нынешняя Большая Лубянка писалась
Однако до настоящего времени на Большой Лубянке осталась живая памятка о старинном ее названии: это
Подобный способ образования названий улиц и переулков действовал и в последующие столетия. В изданном в 1782 году «Описании императорского столичного города Москвы…» перечислен ряд переулков, которые тогда уже существовали, но еще не имели устойчивых названий, и их первоначальные, прикидочные названия построены по тому же принципу, что и при Иване III: «К Белому городу», «К Живодерке старой», «К Пятницкой церкви», «К Трем прудам». В дальнейшем из них возникли названия: Живодерный Старый переулок на Тишинке (с 1931 года — улица Красина) и Трехпрудный переулок.
Сретенский переулок, идущий к Сретенке — будущей Большой Лубянке — от Милютинского переулка, в том же справочнике 1782 года обозначен уже под этим устоявшимся названием, что является свидетельством его более давнего происхождения, он появился и получил свое название, видимо, в XVII веке.
В XV–XVI веках между Лубянкой — слободой новгородцев и рекой Неглинной находился Пушечный двор (память об этом — название улицы Пушечной), на нем лили пушки, колокола, монументальные храмовые паникадила. Здесь литейный мастер Андрей Чохов в 1586 году отлил Царь-пушку. Во второй половине XVII века Пушечный двор перевели на новое место — за Земляной город к Красному пруду, а земли были розданы частным владельцам под усадьбы и сады. Так появились здесь дворы князей Волконских, Голицыных, Урусовых и другой знати. В начале XIX века территория, ныне занятая творением Палуя и Макаревича, принадлежала князю М. Н. Голицыну, который не чуждался новых экономических тенденций. Он открыл в Москве пассаж «Галереи с магазинами М. Н. Голицына» между Неглинной и Петровкой за Малым театром (на территории нынешнего ЦУМа), а также перестроил под торговые помещения свой дом на Большой Лубянке, не сгоревший в пожар 1812 года.
Среди купцов, снимавших у Голицына и его наследников помещения под свою торговлю, были такие, кто оставил по себе память в московских летописях. В 1813 году здесь открывается просуществовавшая много десятилетий «Санкт-Петербургская кондитерская». В 1814 году профессор Московского университета химик Ф. Ф. Рейс открыл аптеку и начал торговать минеральными водами, позже в компании с коллегой — профессором медицины Х. И. Лодером он открыл на Остоженке известное «Лечебное заведение искусственных минеральных вод». С именем Лодера предание связывает появление в русском языке слова «лодырь» — так народ прозвал прогуливавшихся по саду после приема воды вполне здоровых на вид господ. В 1850-е годы в доме Голицына на Большой Лубянке открылась торговля семенами и саженцами садовых и сельскохозяйственных растений Карла Мейера, имевшего собственные питомники и плантации за Семеновской заставой, хорошо известные не только в Москве. Улица, где находилась плантация, до 1974 года называлась Мейеровским проездом (с 1974 года — проспект Буденного).