O historii pyrenejského horského psa můžeme s jistotou říci snad jen to, že pochází z Francie. Všichni francouzští autoři jsou přesvědčeni, že toto plemeno pochází z tibetské dogy, a za jakýsi důkaz pro toto tvrzení pokládají to, že ve vykopávkách na francouzském území nebyly nalezeny žádné pozůstatky po tak velkých psech. Proti této tezi mluví jak typické bílé zbarvení pyrenejského horského psa, tak to, že první tibetské dogy dovezené do Evropy byly menší a dosahovaly sotva velikosti bernského salašnického psa. 
Za další možné předky plemene byli u různých autorů uvažováni psi starořímští i psi ze Sibiře, jako pravděpodobná možnost je tu příbuznost plemene s maremmsko-abruzským pasteveckým psem z Itálie a maďarským kuvasem - ale k jednoznačnému závěru se nedošlo. Jisté je, že jde o plemeno velmi staré – ovšem jeho původ už nebude pravděpodobně nikdy beze zbytku objasněn.
Slovem pyrenejský je označován proto, že byl po tisíciletí využíván jako pastevecké plemeno právě v baskidské oblasti Pyrenejí, horské oblasti mezi Francií a Španělskem. Přesný původ plemene je stejně tak nejasný jako původ baskidských lidí, ale říká se, že lidé se svými pozoruhodnými psy pocházejí ze Středního východu a přišli na západní pobřeží Středozemního moře s fénickými kupci. Ve francouzské části Pyrenejí toto plemeno odedávna neslo jméno patou. Dnes jsou údolí propojena a pospojována silnicemi, ale až do středověku byla relativně uzavřená, což z hlediska vývoje plemene mělo svůj význam. Někdy býval patou označován jako pyrenejský vlčí nebo pyrenejský medvědí pes, neboť právě před těmito predátory chránil stáda ovcí.
První historicky doložená zmínka o patou jako ochráncích stád pochází z roku 1441 a popisuje situaci kolem roku 1287, kdy jistá hraběnka von Foix nechávala své zámky hlídat obrovitými patou. Lze předpokládat, že tito psi pocházeli z horských pastvin, protože stejně jako zde existovali pastýři a jejich stáda dávno před tímto rokem, existovali i patou, aby je chránili před ataky vlků a medvědů.
Obliba pyrenejského horského psa stoupala i ve francouzských vyšších kruzích: už v roce 1675 se stal psem tzv. královským, oblíbeným u dvora pro svou krásu, a každý, kdo tehdy něco znamenal, pořídil si tohoto psa na svůj zámek.
V 17. století si začali první francouzští osadníci brát s sebou tyto psy na cestu na New Foundland, kde jejich křížením se zdejšími svatojanskými černými psy vzniklo plemeno novofunlandských psů.
Jak již bylo zmíněno, vývoj plemene probíhal v mnoha uzavřených společenstvích, což mělo vliv na jisté odlišnosti. Ještě v roce 1874 vyšel v Revue d´acclimation článek o pyrenejských horských psech, z něhož shrneme:
V Pyrenejích existuje více typů velkého pyrenejského psa, mezi jinými dvě dobře rozlišitelná plemena: západopyrenejský pes s širokým čenichem a povislými pysky, trojúhelníkovýma ušima a lehce vlnitou srstí bílé barvy s černými plochami, který se vyskytuje po celé Francii; a typ východopyrenejský, velký a štíhlý, se zašpičatělým čenichem, špičatýma svislýma ušima, s měkkou, hedvábnou a hustou bílou srstí se skvrnami barvy šedé nebo bílé kávy. Ty jsou především v přední části hlavy a na uších, někdy s načernalým pruhem kolem každého oka. Tento typ hlídacího psa se už vidí zřídka.
Koncem 19. století, kdy francouzští kynologové začínali s čistokrevným chovem velkého pyrenejského psa, bylo toto plemeno skutečně na pokraji vyhynutí, protože jeho původní využití k hlídání stád ovcí a dobytka ztrácelo na významu s tím, jak klesaly počty medvědů a vlků v Pyrenejích. Služba pasteveckých psů se omezila na pouhé nahánění stád, což dokázala i jiná plemena, takže po pyrenejských horských psech přestala být poptávka. Nebýt atraktivního vzhledu plemene a neagresivní povahy, patou by se dnešních dnů zcela jistě nedočkal. Namísto toho se stal oblíbeným společenským plemenem.