Подобная композиция использована Булгаковым не впервые: прежде таким образом («театр в театре») выстраивались пьесы. Так, зритель на спектакле «Кабала святош» видел Мольера стоящим на сцене театра в Пале-Рояле и обращающимся к королю с экспромтом. Пролог и эпилог «Багрового острова» (подзаголовок «Генеральная репетиция пьесы») происходили в здании театра, а остальное представляло собой сценическое действо под одноименным заглавием, написанное биографически близким автору героем, Дымогацким. В пьесу «Полоумный Журден» были вставлены сцены мольеровского «Мещанина во дворянстве». В прозе «текст в тексте» присутствовал в рассказе «Морфий» в форме дневника доктора Полякова, а также в «Записках покойника», которые начинались с предисловия публикатора, однако этим предисловием и отказом от авторства роль обрамляющего произведения исчерпывалась.
В МиМ вставной роман несет значительно бóльшую смысловую нагрузку. Для обрамляющего повествования это своего рода подтекст, эхо и пространство переклички. Необходимость сочленения вставного романа, написанного мастером — героем романа обрамляющего, с основным повествованием продиктовало и принцип сегментации текста, и дальнейшие структурообразующие решения, к которым Булгаков приходил не сразу, а по мере работы над своим «закатным» произведением.
По сравнению с окончательным вариантом в первых редакциях ершалаимская линия, где повествователем выступал Воланд, выглядела обедненной. Действие в ней доводилось только до момента объявления Пилатом приговора. В 3-й редакции (с ее несколькими вариантами) ершалаимский сюжет дополняется казнью, причем рассказ о ней выделен в особую главу. Булгаков до времени не был уверен в ее названии и даже в порядке ее следования в тексте, поэтому в разметках глав присутствуют варианты: глава 13 «На Лысой Горе» (562-7-1-46) и глава 14 «На Лысом Черепе» (562-7-3-10). Не зафиксирован окончательно и рассказчик: в одном случае это мастер, в других — Воланд. Более ясен Булгакову адресат повествования, поэт Иван, фамилия которого пока еще варьируется (Попов, Покинутый, даже Тешкин с псевдонимом Беспризорный). Закреплена, уже вплоть до окончательного варианта, и привязка рассказа к месту нахождения поэта — палате психиатрической клиники.
Третья часть вставного романа намечена в «Материалах к 6-й и 7-й редакциям», где первоначальное название 25-й главы «Как прокуратор пытался…» зачеркнуто и заменено новым — «Погребение» (562-8-1-4). Любопытно, однако, что следующей в разметке идет не 26-я, а 27-я глава, как если бы Булгаков сразу же осознал, что ввиду большого объема последнюю часть «романа в романе» придется разделить на две главы, как это и было сделано в последней редакции. Повествование в этих главах (как сохранилось и в окончательном тексте) велось от лица мастера: читатель узнавал их содержание из восстановленной Воландом рукописи. Этому сопутствовал и выбор рассказчика во второй части ершалаимского сюжета. Чтобы, с одной стороны, не возникло повторения, а с другой — еще более утвердилось представление о величайшем «угадывании» мастера, казнь предстает в вещем сне Ивана Бездомного.
Троекратное введение в основное повествование т. н. древних глав потребовало особого композиционного приема в точках «входа» в «воображаемый» (определение Булгакова) Ершалаим и «выхода» из него. В МиМ таким приемом становится совпадение начал и концов соседствующих «древних» и современных глав. Таким способом действие перебрасывается из начала христианской истории в современную писателю Москву и наоборот. На стыке 1-й и 2-й глав слова Воланда «…в белом плаще с кровавым подбоем…», вводящие в первую часть вставного романа, повторяются как зачин экспозиции ершалаимского сюжета. То же происходит на стыке 2-й и 3-й глав, когда действие возвращается в Москву — атрибуция ремарки с обозначением времени «Было около десяти часов утра» в ершалаимской линии МиМ передается Воланду: «Да, было около десяти часов утра, досточтимый Иван Николаевич, — сказал профессор» (5, 43).