В устройство танка внесли ряд улучшений. В связи с использованием германской пехотой бронебойных пуль толщину брони в лобовой части довели до 16, бортов—до 12, а крыши —до 8 мм. Бронирование теперь защищало танк от ружейно-пулеметного огня на всех дальностях. Скос у спонсонов снизу увеличили, и появилась возможность вдвигать их внутрь корпуса по салазкам, что облегчало транспортировку по железной дороге — у Mk I, II и III спонсоны приходилось отделять (иногда в бою, при большом крене, спонсоны срывали фиксаторы и, внезапно сползая в танк, калечили экипаж). Двери спонсонов увеличили с 600x400 до 900x500 мм. На "самках" спонсоны заметно уменьшили, так что масса танка несколько снизилась. Под пулеметными спонсонами выполнили люки-лазы с двухстворчатыми крышками — посадка и, главное, высадка из машины стали удобнее.
Стволы орудий укоротили с 40 до 23 калибров. Это облегчало вдвижение спонсонов внутрь, к тому же орудийные стволы больше не утыкались в землю при крене, и не задевали деревья или стены домов. При небольших дальностях ведения огня укорочение стволов было оправдано. Угол наведения орудия по горизонтали составлял 100°— 110°. В боекомплект входили картечные выстрелы, часто помогавшие "очищать" окопы огнем в упор. Пулеметы "Льюис" крепились в шаровых установках. На "самках" последние монтировались в поворотных цилиндрических щитах. "Самцы" вооружались четырьмя "Льюисами" (два из них запасных); "самки" — шестью (один-два запасных). Кожух системы воздушного охлаждения пулемета требовал увеличения амбразуры. Бронировать такие амбразуры было сложно, углы наведения оказались невелики, а работа с пулеметами малоудобной. Однако шаровая установка была лучше, чем прежняя цапфенная, и на машинах следующих марок она использовалась для пулеметов "Гочкис".
Модернизации подвергся и двигатель. Применение алюминиевых поршней и двойных карбюраторов позволило повысить мощность до 125 л.с., хотя удельная мощность в 4 — 5 л.с./т все равно оставалась недостаточной. Установили регулятор малых оборотов, вытяжной вентилятор, наконец, ввели глушитель, расположив его на крыше. Бачок системы подачи горючего "Автовак" ("Вакуум") крепился над карбюратором, а вакуумный насос работал от двигателя. Бензин выкачивался из баков в бачок за счет разрежения и подавался в карбюратор самотеком. Важной новинкой стала установка бензобаков вне корпуса на корме, под прикрытием боковых выступов. Емкость баков увеличили до 272,5 л.
Опорные катки, ведущие и направляющие колеса, траки гусениц, изготавливались теперь из литой никелиевой стали. Шпоры для лучшего сцепления с грунтом крепили на каждый 3-й, 6-й или 9-й трак. Установили грязеочистители. Цепную передачу закрыли от засорения.
Сзади на крыше в особой коробке укладывался буксирный трос или запасные канистры с горючим. Трос служил для буксировки грузовых волокуш — до трех на танк. Появились средства навигации — магнитный компас. Попытки компенсировать влияние стальных масс на этот прибор небольшими "отстраивающими" магнитами результатов не дали. Поэтому остановились на простом приеме — практически определяли положение стрелки компаса при известных курсах танка, сводили полученные поправки в таблицу, которая и передавалась водителю.
Была усовершенствована и "система самовытаскивания". К корпусу болтами крепились согнутые из уголка направляющие, приподнимавшиеся над верхней ветвью гусениц и рубкой. К направляющим на цепях подвешивалась "незарывающаяся" балка — призматический брус тикового дерева длиной 3,6 м с окованными железом концами.
Mk IV обладал неплохой ударной силой. В проволочных заграждениях он оставлял проходы шириной до 2,5 м. В первый день сражения под Камбрэ один Mk IV прошел через каменный забор высотой 1,5 м, фруктовый сад и, развернувшись, разрушил уголздания. Но надежность танка возросла незначительно. Капитальный ремонт требовался машине после 100 — 112 км пробега.
Опробовали на Mk IV и гусеничный обвод, значительно пониженный в задней части, с удлиненной опорной поверхностью, прозванный за характерную форму "Тэдпол" ("Головастик"). В Центральных мастерских заготовили комплекты задних выступов для массовой переделки танков по схеме "Тедпол", но работы эти так и не провели. В опытном порядке между задними выступами крепили платформу с минометом Стокса — это был едва ли не первый вариант самоходного миномета.
По мере поставки в войска танков Mk V часть Mk IV переделывали в танки снабжения, по аналогии с Mk I. Однако именно Mk IV оставался самым массовым английским танком в 1916 — 1918 годах.