После оккупации Польши Германией, в октябре 1939 года во Франции было создано правительство в изгнании, которое возглавил Владислав Рачкевич. Премьер-министром и одновременно главнокомандующим, министром военных дел, министром внутренних дел, а так же министром юстиции стал генерал Владислав Сикорский, имевший широкую поддержку французских правящих кругов
На территории Польши появились его подпольные органы управления. В частности, польские подпольные организации действовали в 1939—1941 годах в Западной Белоруссии, вошедшей в СССР, и неоднократно ликвидировались НКВД.
В ноябре 1939 года был организован «Звензек вальки збройней» («Союз вооруженной борьбы» — ЗВЗ). До конца 1941 года командованию ЗВЗ удалось подчинить ряд военных конспиративных организаций, действующих на территории Польши
Во главе АК стоял комендант. Эту должность занимали генералы Стефан Ровецкий («Грот») — до 30 мая 1943 года, Тадеуш Коморовский («Бур») — до 2 октября 1944 года и Леопольд Окулицкий («Недзьвядек») — до 19 января 1945 года.
Заместителями комендантов и начальниками штабов были генерал Тадеуш Пелчинский («Гжегож») — до 2 октября 1944 года, полковник Бокщанин («Сенк») — до 19 января 1945 года.
Коменданту АК подчинялись начальник штаба, Бюро информации и пропаганды, Бюро финансов и контроля. Руководящим органом Армии Крайовой была главная комендатура, в состав которой входили отделы, организационные части (секторы) и самостоятельные службы.
I отдел (организационный) занимался планированием и организацией деятельности, кадровыми вопросами, поддержанием связи с лагерями военнопленных и группами поляков на территории Рейха, которые были вывезены на принудительные работы. Руководителем отдела до июля 1944 года был полковник А. Санойца, затем его сменил полковник Ф. Каминский. Отделу подчинялись: Центральная часть; Руководство службы правосудия (возглавлял полковник К. Зелинский); Военная служба женщин; Пасторская служба (церковная часть). Последнюю последовательно возглавляли полковники Т. Яхимовский, С. Ковальчук (до августа 1944 года), М. Пашкевич (до ноября 1944 года), Сенкевич (до роспуска АК).
II отдел (информационно-разведывательный) занимался вопросами безопасности, разведки, контрразведки, легализации и связи. Его руководителями были подполковник Е. Дробик (до декабря 1943 года), полковник Казимир Иранек-Осмецкий (до октября 1944 года), затем полковник Б. Зелинский.
III отдел (оперативно-подготовительный) планировал и готовил мероприятия, связанные с вооруженной борьбой и будущим общенациональным восстанием, а также координировал работу инспекторов отдельных видов вооружения. Его руководителями были генерал С. Татар (до мая 1944 года), полковник И. Шостак (до октября 1944 года), затем майор И. Каменский. Отделу подчинялись: Саперный отдел; Артиллерийский отдел; Отдел флота.
IV отдел (снабженческий) координировал работу служб вооружения, интендантства, географической, санитарной, ветеринарной и обозной; также заведовал подпольным производством.
p отдел (оперативная связь) занимался вопросами оперативно-технической связи, оснащения оборудованием, планированием десантных выбросок, координировал работу курьерской службы, шифровальщики, главная канцелярия, опекал солдат союзнических войск. Руководитель — К. Плута-Чаховский.
pI отдел (Бюро информации и пропаганды) заведовал пропагандисткой деятельностью. Его руководителями были полковник Жененцкий (до октября 1944 года), затем капитан К. Мочарский.
pII отдел (Бюро финансов и контроля) контролировал финансовые потоки и денежное обеспечение, а так же организовывал конспиративные точки. Руководители: полковник С. Тун (до октября 1944 года), затем майор Е. Любовецкий.
В январе 1943 года была создано Управление диверсиями («Кедыв»), которое готовило и проводило диверсионные и специальные акции. Им руководили полковник А. Е. Фелдорф (до марта 1944 года), затем подполковник Мазуркевич.
В состав АК также входили структурные единицы, которые действовали за границей:
самостоятельный отдел по вопросам страны (Польши) при Штабе главнокомандующего. Руководители: подполковник Смоленский (до апреля 1942 года), подполковник М. Протасевич (до июля 1944 года), затем полковник Е. Утник.