Länger als die meisten anderen Mächte des Mittelmeerraumes hielten die Karthager am Gebrauch von Streitwagen fest, die vor der Phalanx der Schwerbewaffneten eingesetzt wurden, um die feindliche Formation zu brechen, zumal die weiten Ebenen Nordafrikas den Gebrauch einer solchen Waffe begünstigten. Im 3. Jh. wurde jedoch die typisch hellenistische Waffengattung der Kriegselefanten, möglicherweise angeregt durch die Erfolge des Pyrrhus von Epirus gegen die Römer, auch in Karthago adaptiert und übernahm fortan die selbe Funktion.
Die damals noch großen Elefantenpopulationen Nordafrikas boten leichten Zugriff auf Nachschub, während Treiber als begehrte Experten aus weit entfernten Ländern, insbesondere aus Indien geholt wurden. Bald wurden in Karthago in einem Maßstab Kriegselefanten gehalten und trainiert, wie in kaum einem anderen antiken Staat: die Ställe an der Stadtmauer boten Raum für 300 Tiere. Um ihre Kampfeslust zu trainieren, ließ man die Elefanten zu Tode verurteilte Gefangene zermalmen. Ihre ohnehin schon durch Wucht, Lärm und Größe erschreckende Wirkung versuchte man durch Bemalung, Kleidung und Schmuck mit Federbüschen zu erhöhen. Ihre Schwäche war ihre Eigenwilligkeit und psychologische Anfälligkeit. Um die Gefahr für die eigenen Truppen durch in Panik Amok laufende Elefanten zu verringern, erfand Hannibals Bruder Hasdrubal eine Methode, bei der der Elefantenführer mit einem Hammer ein Eisenstück in die Stirnwurzel des Elefanten trieb, um sie im Notfall zu töten.
Zum ersten Mal wurden Kriegselefanten im ersten punischen Krieg in typisch hellenistischer Weise eingesetzt. Nach anfänglich eher bescheidenen Erfolgen konnte schließlich die vom Spartaner Xanthippos reformierte karthagische Armee das römische Heer, das unter Regulus in Afrika selbst gelandet war, in der Schlacht von Tunis vernichtend schlagen, wobei die Elefanten eine entscheidende Rolle spielten. Aus Furcht vor den karthagischen Elefanten mieden es die Römer fortan für einige Jahre, den Karthagern im freien Feld entgegenzutreten, eine Invasion von Afrika wagten sie für mehr als 50 Jahre nicht mehr.
Mit der Zeit entwickelten die Römer jedoch Taktiken gegen diese neue Waffe. Zwar gelang es Hannibal im zweiten punischen Krieg, 40 Elefanten in seinem kühnen Marsch gegen Rom über die Alpen zu führen, doch überlebte nur ein einziger den harten Winter in den Appeninen. In der Schlacht von Zama zeigte sich, dass die Kriegselefanten für die Römer ihren Schrecken verloren hatten und mittlerweile leicht ausmanövriert werden konnten. Nach der Niederlage wurde den Karthagern im Friedensvertrag mit Rom die Haltung von Elefanten verboten und sie mussten alle, die sie noch besaßen, an die Römer ausliefern, die sie selbst im Krieg gegen Makedonen und Seleukiden einsetzten.
Da in zahlreichen antiken Texten die von den Karthagern und den ägyptischen Ptolemäern eingesetzten „afrikanischen“ Elefanten als kleiner und schwächer als die indischen Elefanten der östlichen Diadochenreiche beschrieben werden, geht die Forschung davon aus, dass die Karthager nicht die großen, nur schwer zu zähmenden, afrikanischen Elefanten einsetzten, sondern die vergleichsweise kleinen, heute ausgestorbenen, nordafrikanischen Waldelefanten. Diese wären allerdings nicht in der Lage gewesen Aufbauten oder gar Türme zu tragen, entsprechende antike Berichte und Abbildungen wären demnach falsch, oder als Hinweis zu deuten, dass zumindest vereinzelt auch indische Elefanten eingesetzt wurden, wie vermutlich den riesigen Suru, den Hannibal in der Schlacht am Trasimenischen See selbst ritt. In der karthagischen Religion genossen Elefanten als „himmlische Tiere“ kultische Verehrung und es existierten zahlreiche Sagen und Legenden über ihren scharfen Verstand und ihre hohe Moral.