Прошедшие со дня Марафона годы в Афинах были заполнены бурной политической борьбой, в ходе которой все чаще стали прибегать к остракизму. Именно в это время на политической арене появился один из самых ярких деятелей, которому столь многим обязаны Афины, — Фемистокл. Он выдвинул программу развития морской мощи Афин, средства для осуществления которой должны были дать серебряные рудники Лавриона. Однако вопреки широко распространенному мнению Фемистокл думал не о Персии, а об Эгине, с которой уже несколько лет шла война. Ему удалось убедить граждан в целесообразности своего плана; строительство флота началось и шло такими быстрыми темпами, что к 480 г. Афины имели более 150 военных кораблей (триер). Это был самый мощный тогда военный флот.
Угроза нового персидского нашествия не сплотила всех греков, но некоторого объединения сил достичь удалось. Собравшиеся в 480 г. в Коринфе представители ряда городов приняли решение прекратить войны между полисами. Среди многих трудностей, вставших перед союзниками, особенно сложным оказался вопрос о выборе государства — руководителя (гегемона) объединенными вооруженными силами, ибо здесь сталкивались два, в общем, несовместимых принципа: стремление к политической свободе и необходимость объединения. Согласно политической теории (да и практике) того времени участие в любом союзе означало утрату части свободы — одной из основополагающих характеристик полиса как независимой и самоуправляющейся (автономной) общины. Гегемоном стала Спарта, избранная голосами полисов Пелопоннеса — членов Пелопоннесского союза, находившегося под эгидой Спарты. Афины, которые в силу своего географического положения подвергались более непосредственной угрозе со стороны персов, вынуждены были согласиться на главенство Спарты. К союзникам не присоединились многие полисы: Аргос — из-за вражды со Спартой, Беотия — из-за вражды с Афинами, фессалийцы — из-за антиперсидской позиции фокидян и др.
Выступление персов в 480 г. поставило перед полисами новые проблемы, опыта решения которых у них не было, и прежде всего вопрос — где встретить неприятеля. Весь военный опыт греков приходил в противоречие с новой ситуацией. Прежние войны развертывались на небольшом удалении от родного города, врага встречали у границ государства; теперь же предстояло действовать союзной армии. Стремление как-то примирить традиционные методы войны и приоритет собственных интересов, с одной стороны, и задачи общеэллинской борьбы — с другой, характеризует стратегию греков в эти годы. Первая встреча противников произошла у Фермопил (на границе Северной и Центральной Греции), в узком горном ущелье, где оказалась только небольшая часть союзной армии. Из-за предательства одного из греков персы смогли, перейдя горы, зайти в тыл эллинам. Основной удар принял на себя отряд из трехсот спартанцев во главе с царем Леонидом, которые все погибли, снискав себе бессмертную славу. На месте их гибели был поставлен памятник в виде льва с эпитафией, написанной известным поэтом Симонидом:
Героическое сопротивление греков у Фермопил имело не только моральное, но и стратегическое значение. В те же дни, когда греки мужественно сопротивлялись у Фермопил, произошло морское сражение, не принесшее успеха ни одной из сторон. Но греческий флот должен был отступить, когда стало известно о переходе персов через горы. Как показали современные исследования, если бы Леонид увел свой отряд, флот бы погиб. К югу от Фермопил пролив становится так узок, что корабли могли идти только гуськом, один за другим, в непосредственной близости от берега. В такой ситуации, имея к тому же в тылу прекрасную персидскую эскадру, греки неизбежно потеряли бы свой флот.
Успехи персов у Фермопил открыли им путь в Центральную Грецию, Беотия подчинилась им. Армия греков находилась у Истма — перешейка, отделяющего Центральную Грецию от Пелопоннеса, где велись работы по его укреплению. В этой критической для Афин ситуации граждане пошли на крайние меры, приняв план Фемистокла: все боеспособные мужчины сели на корабли, отправив жен, детей и стариков на о. Саламин и в соседнюю Трезену. Захватив город, персы предали его разорению, сжигая дома и разрушая храмы (некоторые памятники увезли в Персию). Фемистокл, веря в афинский флот, настаивал на морском сражении, которое и произошло у Саламина. Персидский флот потерпел сокрушительное поражение. Красочное описание Саламинского боя дал в трагедии «Персы» (ст. 412-428) Эсхил, который сам принял в нем участие: