Со слонами карфагенян познакомил в 295-272 гг. до н.э. Пирр, царь Эпира, и они быстро отказались от своих боевых колесниц в пользу слонов. Впервые они использовали слонов против римлян при Агригенте в Сицилии в 262 г. до н.э. Первоначально карфагеняне использовали только африканских слонов, пойманных в лесах вокруг Карфагена, у подножия Атласских гор и вдоль морского побережья Марокко. Дикие слоны в действительности были слишком маленькими, чтобы нести что-нибудь кроме воина без седла. Есть монета с изображением боевого слона, на котором без седла сидит погонщик в плаще. Почти наверняка можно сказать, что сам слон был оружием. Кажется вероятным, что позже Ганнибал получил из Египта несколько индийских слонов большего размера. Пока не сформировалась тактика противостояния слонам на поле боя, они повергали в одинаковый ужас и людей, и лошадей, и их небольшое количество было непропорционально эффективным. Однако, будучи испуганными, слоны иногда поворачивали назад и нагадали на солдат, вызывая смятение в своих собственных рядах.
Не позже 274 г. до н.э. в битве при Беневенте римляне усовершенствовали тактику противостояния слонам:- легковооруженные пехотинцы размахивали факелами с горящей соломой. Однако кажется, что каждое поколение солдат должно было встретиться в бою со слонами, по крайней мере один раз, прежде чем научиться успешно противостоять им.
Несмотря на два заметных успеха в Первой Пунической войне, во Второй и Третьей слоны использовались мало. Из 34 слонов, которых Ганнибал попытался провести в Италию, после преодоления Альп в живых осталось только семь слонов, и только один выжил после последовавшей суровой зимы.
В 215 г. до н.э. Ганнибал получил большее количество слонов, но, видимо, первоначально использовал их, чтобы устрашить туземные племена, которые раньше никогда не видели этих животных, или против конницы, чьи лошади не были подготовлены к встрече со слонами.
Численность африканской пехоты Ганнибала в Италии постепенно сократилась, и потери не были компенсированы. В течение 15 лет Ганнибал получил только одно подкрепление из Африки - 4000 нумидийских всадников и некоторое количество слонов. Нехватку воинов в своих рядах он пополнил кельтами и италийцами, которые не имели таких же достоинств.