Manoma, kad Kaspijos poniai yra viena seniausių arklių veislių pasaulyje. Jie kilo iš dabar jau išnykusių miniatiūrinių Mesopotamijos arklių, gyvenusių tame regione nuo 3000 m. pr. Kr. iki VII mūsų eros amžiaus. Šiandien Kaspijos poniai paplitę tarp Kaspijos jūros ir Elburso kalnų.
Ilgai manyta, kad ši veislė išnykusi, tačiau Kaspijos poniai vėl buvo atrasti amerikiečių kilmės Irano arklių veisėjos Louise Firouz 1965 metais. Ji ieškojo tinkamų ponių joti vaikams, kai kalnuotuose Irano kaimeliuose užtiko nedidelių, bet gerai sudėtų vietinių arkliukų. Išsiaiškinusi, kad jie nepaprastai panašūs į senovinius Kaspijos arklius, Louise ėmėsi atkurti šią veislę. Iš viso buvo surasta tik 50 individų, atitikančių veislės standartą. Taipogi jie nebegalėjo būti visiškai gryno kraujo, kadangi buvo plačiai išsimėtę regione.
1965 -1970 metais veisimui panaudotos septynios kumelės ir šeši eržilai. Veisiant juos nustatyta, kad kumeliukai užauga į aukštį per primuosius savo šešis gyvenimo mėnesius, o lytinė branda branda pasiekiama per aštuoniolika. Taipogi veisiant grynaveislius individus pastebėta, kad jų palikuonys darosi mažesni už tėvus. Tai gali būti dėl to, kad anksčiau jie buvo kryžminti su kitų veislių poniais, siekiant gauti aukštesnius individus.
Šie arkliai yra labai atsparūs ir tvirti, netgi retai kada reikalingi kaustymo. Sudėjimu jie panašūs į arabus: maža galva su didelėmis akimis ir siauromis prusnomis, uodega išaugusi aukštai, o užpakalinė kūno dalis tvirta. Ausys labai mažos. Nuožulnūs pečiai poniams leidžia žengti plačiai, ir jie bėgdami neatsilieka ir nuo didesnių arklių. Įdomu ir tai, kad kai kurie poniai neturi raginių išaugų ant kojų – kaštonų – ir išaugų ant čiurnos sąnario.
Šiandien atliekami tyrimai, siekiant patikrinti, ar Kaspijos poniai yra šiuolaikinių karštakraujų, taip pat ir Arabų arklių protėviai. Buvo rastos kelios anomalijos, lyginant su kitais arkliais. Visų pirma, Kaspijos ponių kaukolė skiriasi savo sandara, mentikauliai, plaštakų kaulai taipogi ilgesni nei paprastai. Kanopos siauros ir ovalo formos, varlė ne tokia ryški, kaip pas kitus arklius. Šeštasis stuburo slankstelis taipogi ilgesnis nei įprasta, pastebėti ir papildomi dantys.
1979 metais atliktame tyrime išsiaiškinta, kad kai kurie Kaspijos poniai turi 65 chromosomas, kiti – 64(kaip ir įprasti naminiai arkliai). Spėjama, kad chromosomų padaugėjimą galėjo sukelti kryžminamasis tarp arklių (Equus caballus) ir Prževalskio arklių(Equus przewalskii).