Несмотря на то что неудача похода в Италию была очевидна уже давно, осознание того, что его необходимо прекратить, далось Ганнибалу нелегко. По крайней мере, именно такое впечатление остается от речи, которую вложил в уста Пунийцу Тит Ливий: «Уже без хитростей, уже открыто отзывают меня те, кто давно уже силился меня отсюда убрать, отказывая в деньгах и солдатах. Победил Ганнибала не римский народ, столько раз мною битый и обращенный в бегство, а карфагенский сенат своей злобной завистью. Сципион не так будет превозносить себя и радоваться моему бесславному уходу, как Ганнон, который не смог ничего со мной сделать, кроме как погубив Карфаген, только бы погрести под его развалинами мой дом» (Ливий, ХХХ, 20, 2–4). Сомнительно, впрочем, чтобы Ганнибал всерьез мог относиться к этим словам, если вообще их произносил, ведь почти на всем протяжении войны он получал подкрепления из Карфагена, а влияние в совете его противников – «партии» Ганнона Великого – было крайне малым (единственное за всю войну упоминание о Ганноне связано с приездом в Карфаген Магона после битвы при Каннах, но и тогда его слова остались неуслышанными). Судя по всему, пунийский полководец просто хотел извлечь хоть какую-то выгоду из своего поражения, заранее возложив ответственность за него на своих политических противников. Далее Ливий прямо подтверждает, что Ганнибал предвидел необходимость ухода из Италии и приготовил для этого флот.
О последних днях, проведенных Ганнибалом в Италии, сохранились противоречивые данные. Ливий сообщает, что Пуниец выделил из остатков своей армии лучших воинов, а остальных под видом гарнизонов распределил по подвластным ему городам, оставляя их тем самым на милость римлян. В соответствии же с Аппианом, перед тем как навсегда покинуть Бруттий, Ганнибал отдал на разграбление города, в которых стояли его гарнизоны. Эта версия выглядит гораздо более логичной, так как сомнительно, чтобы в данной ситуации у Ганнибала оказались бы «лишние» воины или же на них вдруг не хватило кораблей (ведь, как признает сам Ливий, Ганнибал заранее готовился к отплытию). Не менее правдоподобно и объяснение такого поведения, данное Аппианом: возвращаясь после шестнадцати лет своего неудачного похода в Карфаген, полководец как нельзя более нуждался в верных сторонниках, самыми лучшими из которых были его воины (Аппиан, Ганнибал, 58). Единственными, кого Ганнибал мог не брать с собой, были сражавшиеся на его стороне италики; для тех из них, которые не успели отличиться в боях, отъезд в Африку казался более страшной перспективой, чем суд римлян. Их Ганнибал дал приказ убить, просто для того, чтобы римляне не могли привлечь их на свою сторону (Аппиан, Ганнибал, 58; Ливий, ХХХ, 20, 6).
После того как Магон и Ганнибал покинули Италию, в Риме, а вернее вне городской черты, в храме Беллоны, были проведены переговоры с карфагенскими послами относительно условий мирного соглашения. Рассказ о них у Ливия и Аппиана (соответствующее место в труде Полибия утрачено) опять различается довольно сильно. Согласно Ливию, карфагеняне перекладывали всю ответственность за развязывание и ведение войны на Ганнибала, а их собственное поручение заключалось в том, чтобы восстановить мирный договор, который был заключен после Первой Пунической войны. Но когда старые сенаторы, участвовавшие в его разработке и утверждении, стали задавать вопросы по существу, выяснилось, что послы из-за своей молодости не помнят условий упоминаемого ими договора. Все это убедило римских сенаторов в правоте мнения, высказанного Марком Валерием Левином: лицемерные карфагеняне и не собирались вести переговоры всерьез, а их послы – обыкновенные лазутчики, которые должны протянуть время, пока в Африку не вернутся Ганнибал и Магон. Вследствие этого было решено карфагенян немедленно выслать, не давая им никакого ответа, а Сципиону предписать продолжать боевые действия (Ливий, ХХХ, 22–23).