На первых же стадиях работы определилась структура книги. Хотя оглавление и подзаголовки, раскрывающие содержание главы, появились лишь в издании 1895 г., но границы глав, их последовательность, задачи и материал каждой главы были четко обозначены уже в черновой рукописи. Первые тринадцать глав строятся как очерки путевые (передвижение повествователя по Северному, а затем Южному Сахалину); главы XIV–XXIII – как очерки проблемные; в каждой главе решается свой вопрос на материале, добытом во время всего путешествия по Сахалину и в итоге изучения литературы: состояние сельскохозяйственной колонии, правовое положение каторжных, поселенцев, женщин, детей, труд, пища, одежда, духовная жизнь, нравственность сахалинцев, преступления и наказания, бегство с острова, болезни, смертность. С каждой главой расширялись концентрические круги повествования, усиливалось то основное впечатление, которое вынес сам автор: Сахалин – «ад».
Оставался неизменным в процессе всей работы тот принцип организации материала, который принят был еще в черновой рукописи: чередование в разной последовательности авторских зарисовок, размышлений, чужих рассказов, описаний, научных наблюдений, так же как неизменным оставалось само многообразие форм включения разнородного материала и многоинтонационность повествования – чередование спокойно-описательных, обличительных, лирических, научно-деловых частей.
Не было принципиальных изменений композиции книги, но в последние печатные тексты вносились дополнения (экскурс в историю каторги, этюд о сахалинском надзоре) и устранялись эпизоды, сцены, описания, ассоциации, если они имели уже параллели (освящение часовни во Владимировке, один из трех рассказов о смертной казни, три из многочисленных случаев побегов) или если уводили в сторону от центральных проблем: этюд о военной шхуне «Восток», рассказ И. Белого о пережитом шторме, разросшееся уподобление Стриндберга гилякам. Сжимались пространные описания: г. Николаевска, зажиточной Корсаковки и др. (см. варианты к стр. 41–42, 109, 110, 178, 186, 193–194, 300–302, 339–340).
В редких случаях Чехов менял последовательность эпизодов, повествовательных кусков или переставлял местами авторское рассуждение и конкретный случай (см. варианты к стр. 256, 259, 262–263, 354), или, наконец, перемещал в другое место описание (см. варианты к стр. 350–353).
Стремясь избежать повторений и в то же время помочь читателю следить за логикой изложения, Чехов отсылал его к следующим главам: «Я буду описывать», «Я опишу в своем месте»; но в процессе работы число этих отсылок всё уменьшалось; многие автор снял (см. варианты к стр. 53, 63, 131).
По черновой рукописи «Сахалина» видно, что Чехову труднее было писать те главы и страницы, где нужно было публицистически четко сформулировать свое отношение к тому или иному явлению, дать свою оценку, к тому же нередко расходившуюся с официальной или общепринятой точкой зрения. Многие страницы такого рода (в главах VII, XIV, XVIII) пестрят поправками, уточнениями.
В художественных зарисовках (сцены венчания, похорон, телесного наказания, изображение ссыльнокаторжных: Егора, Красивого, Соньки-Золотой Ручки, диалоги с детьми и др.) заметна большая свобода автора; в рукописи в этих местах число поправок незначительно. Однако границы научно-публицистической и художественной «сфер» не столь уже определенны и четки. Чехов выступает в «Острове Сахалине» как художник и ученый одновременно.
Во время путешествия и в процессе работы над книгой определились и уточнились ее задачи, которые автор не скрывал, хоти и не афишировал: противопоставить официальному освещению сахалинской действительности всестороннее, объективное ее исследование; воссоздать правдивую, основанную на проверенных, точных фактах, картину русской каторги; показать обреченность человека, оторванного от родины, на физическую и нравственную гибель в условиях сурового климата, произвола и деспотизма властей, подневольного труда; пробудить в обществе внимание к «месту невыносимых страданий». Постепенно определялись и некоторые частные задачи: воевать против пожизненности и неравномерности наказаний, устаревших и противоречивых законов о ссыльных, против насильственной земледельческой колонизации острова (якобы не только с целью карательной, но исправительной).
Чехов передавал читателю то впечатление, которое он вынес сам с Сахалина – «целый ад». Этот образ поддерживается в ходе книги частными замечаниями: «всё в дыму, как в аду», «какой ад бывает здесь зимою» (стр. 54, 131). В черновой рукописи число подобных замечаний было еще больше (см. варианты к стр. 180, 247).