Достоверно известно, что по меньшей мере с конца XVI в. до начала XVIII в. Московские большие тюрьмы располагались на территории Китай-города, в северо-восточной части Зарядья, неподалеку от Варварских ворот и занимали площадь 821,5 квадратных саженей (более 3700 м2
). Что касается численности узников, то наиболее точные данные имеются для середины XVII в. Так, 13 апреля 1655 г. в тюрьме (имеются в виду Московские большие тюрьмы) и на Бархатном дворе, судя по всему, относившемся к приказу Новой четверти, находились 541 человек, включая пленных поляков и женщин с детьми, а на следующий день к ним прибавилось еще 29 человек, присланных на тюремный двор. Из них 377 человек сидели на тюремном дворе, включавшем в себя мужскую и женскую тюрьмы, и 193 — на Бархатном дворе.Интересные сведения о внутреннем устройстве и численности узников Московских больших тюрем содержатся в расходной записке о раздаче денег от имени Алексея Михайловича заключенным в рождественский сочельник 24 декабря 1664 г. На территории тюрьмы имелось 8 изб, где содержались колодники: опальная (98 человек), барышкина (98 человек), заводная (120 человек), холопья (68 человек), сибирка (79 человек), разбойная (160 человек), татарка (87 человек), женская (27 человек). Всего же жалование получили 737 заключенных, из которых 98 человек получили по рублю, а 647 — по 50 копеек.
Как ясно из названий изб на тюремном дворе, в них могли содержаться заключенные с разными правонарушениями: беглые холопы (холопья), разбойники (разбойная), преступники, возможно связанные с торговлей лошадьми (барышкина), лица, совершившие административные правонарушения или попавшие в опалу (опальная), а также главари разбойных и воровских шаек или зачинщики других преступлений (заводная). Отдельные избы были для женщин, татар, жителей Сибири или тех, кто, вероятно, был прислан из Сибирского приказа.
В 1672 г. во время похорон патриарха Иоасафа II власти раздали по алтыну 680 заключенным Московских больших тюрем. Кроме того, в это же время в приказах находились еще 431 колодник. Таким образом, данные за вторую половину XVII в. позволяют отметить незначительное увеличение количества заключенных. Это объясняется тем, что тюрьма уже была переполнена и не могла вместить всех, кого следовало бы сюда отсылать. При этом даже в первой четверти XVII в. пенитенциарная система позволяла в случае большой необходимости на короткое время разместить на тюремном дворе и в других местах более 2 тысяч человек. Очевидно, что в регулярном режиме работы тюрьмы Москвы в XVII в. могли вмещать около тысячи человек, и по достижении этого числа власти уже начинали говорить о перенаселенности мест заключения.
Во главе Московских больших тюрем стояли дворские, обычно набиравшиеся из числа московских дворян. Срок службы на этой должности мог быть довольно долгим. Например, в феврале 1617 года дворским был назначен Афонасий Кононов, который продолжал находиться на своем посту и спустя более 7 лет в 1624 году. Дворские должны были уметь читать и писать хотя бы для того, чтобы утверждать собственной подписью прием и освобождение узников.
Служба в дворских не считалась почетной, и дворяне, занимающие эту должность, старались как можно быстрее вернуться к военной службе, а потому нередко относились к своим обязанностям пренебрежительно. Известен принятый Алексеем Михайловичем указ 1663 года, рассылавшийся дворским и запрещавший вывозить тела умерших заключенных на улицу и перекрестки (т. н. кресцы). Дворские были обязаны немедленно отдать труп родственникам для захоронения, или, если родных не могли найти, требовалось сообщить об этом в Разбойный приказ, выдававший деньги на погребение. В самом начале XVIII века приказ все так же продолжал за свой счет хоронить одиноких колодников, тела которых увозились в убогие дома.
Как глава тюрьмы дворский нес персональную ответственность за порядок на ее территории. Одной из проблем, о которой сохранившиеся источники упоминают не так часто, были постоянные побеги заключенных. Именно за непредотвращение побегов колодников в 1669 г. был отставлен дворский Игнатий Захряпин, а его обязанности поручили Денису Ульянову. Впрочем, для того, чтобы побеги прекратились, одного дворского было мало, поэтому власти решили приискать еще одного дворянина на эту должность, из чего видно, что руководить тюремным двором могло несколько человек.
В прямом подчинении у дворских находился подьячий московского тюремного двора, занимавшийся делопроизводством Московских больших тюрем. Также к ним был прикреплен и находившийся на жаловании Разбойного приказа священник, он «ведал духовностью» колодников, то есть проводил церковные службы, совершал таинства, исповедовал заключенных. За непосредственный надзор за заключенными отвечали выборные целовальники и сторожа. В тюрьме также служили палачи, приставы и недельщики. Формально они относились к персоналу Разбойного приказа и бывали в тюрьме по необходимости.