Своего наставника Франческо Гвиччардини герцог вскоре отстранил от дел и отправил в родовое поместье Арчетри. Там Гвиччардини посвятил время работе над книгой «История Италии», в результате чего прославился как писатель и историк. Его именем названа та улица во Флоренции, где до сих пор находится его палаццо. Это улица, которая идет от Старого моста до дворца Питти, дворец Гвиччардини находится рядом с палаццо Питти. Потомки Франческо Гвиччардини до сих пор живут в Тоскане. Козимо I Медичи признал себя вассалом Карла V, но у него не было другого выбора. Его далеко идущей целью был захват других городов Тосканы и создание Великого герцогства Тосканского, и без помощи войск императора ему было не обойтись.
В те времена некоторые города Тосканы уже были под властью Флоренции: Пиза, захваченная в 1509 году, Прато, Пистойя, Ареццо, Вольтерра, Сан-Джиминьяно, Сан-Сеполькро, Чертальдо. Козимо укрепил свою власть в этих провинциях и занялся фортификацией. Он заказал архитектору Аристотелю да Сангалло и военному инженеру Луке Мартини построить новые крепости XVI века, пригодные для артиллерии и пушек. Постепенно крепости возводили в городах: Ареццо, Пистойя, Пьомбино, Ливорно, Сан Сеполькро, Сан Пьеро на Сьеве, Эмполи, Кортона, Монтекарло – городка, расположенного около Лукки, и в Сиене после ее захвата. В остальных городах крепости были значительно перестроены и укреплены. В Пизе уже был форпост, построенный флорентийцами после захвата города в 1406 году. По заказу герцога была построена новая крепость на другой стороне реки Арно, недалеко от Пизанской башни. Затем Козимо выкупил у Генуи остров Эльба и основал там город-крепость Портоферрайо. Расположенный на побережье Тирренского моря город Ливорно он превратил в мощный торговый и военный порт, откуда отплывали корабли на войну с мусульманскими пиратами и торговые парусники по всему Средиземноморью.
Козимо значительно укрепил армию, приобретая оружие и артиллерию нового типа и нанимая надежных, опытных солдат. В 1561 году он учредил новый военно-морской орден Святого Стефана Мученика, базировавшийся в Пизе в палаццо деи Кавальери (дворец Рыцарей). Палаццо и все остальные здания на площади Рыцарей были построены по проекту его придворного архитектора Джорджо Вазари. В орден Святого Стефана могли вступать только мужчины благородного происхождения на протяжении минимум четырех поколений – как со стороны отца, так и со стороны матери. Магистрами этого ордена были все герцоги Медичи, начиная с самого Козимо. Таким образом, герцог значительно улучшил тосканский флот. Рыцари ордена Святого Стефана вместе с войсками Священной лиги, Венецианского и Генуэзского флота, герцогствами Савойя и Урбино, флотом Мальтийского ордена и войсками испанского короля Филиппа II участвовали в битве при Лепанто в 1571 году во время войны с турками за остров Кипр. В этой битве они одержали победу, но войну все равно проиграли.
К 1552 году в Тоскане оставались независимыми только два крупных города: Лукка и Сиена. Лукку Козимо даже не пытался завоевать – жители этого города строили слишком крепкие и неприступные стены, которые до сих пор стоят неразрушенные. За все это время никто не нападал на этот город с целью захвата, очевидно, понимали, что бесполезно. К тому же императору было выгодно, чтобы Лукка осталась единственным независимым городом-государством в Тоскане. Этот город благодаря своему богатству пользовался значительной поддержкой и других могущественных европейских государств, поэтому попытка завоевания Лукки могла иметь непредсказуемые последствия для герцога Флорентийского. Сиена оставалась независимой, пока там располагался испанский гарнизон Карла V. Но в 1552 году сиенцы подняли восстание и изгнали испанцев из города. Через два года Козимо заручился поддержкой императора, чтобы вести войну против Сиены, используя свою собственную армию. После 14 месяцев осады и многочисленных сражений город пал, и Сиена потеряла свою независимость. Некоторые жители города во главе с Пьеро Строцци укрылись в крепости Монтальчино и восстановили республику, которая продержалась 6 месяцев. После осады Монтальчино войсками герцога Медичи и императора эта маленькая Сиенская республика сдалась на милость победителей, а Пьеро Строцци с братом Львом опять сбежали во Францию к своей кузине Екатерине Медичи. После завоевания Сиены Козимо I Медичи объединил всю Тоскану, кроме Лукки, под своей властью.