Dokładne pochodzenie hiszpańskiego psa wodnego nie zostało jednoznacznie ustalone. Wiadomo jednak, że psy o kręconej sierści i użytkowym charakterze od dawna występowały na terenach dzisiejszej Hiszpanii. Oficjalny wzorzec FCI wskazuje, że rasa od wieków obecna była na Półwyspie Iberyjskim i posiada wspólne korzenie z innymi europejskimi psami wodnymi, między innymi z francuskim psem wodnym. Jedna z najczęściej przywoływanych teorii mówi o wpływach północnoafrykańskich. Psy podobnego typu mogły przybywać do południowej Hiszpanii wraz z ludnością przemieszczającą się między Afryką Północną a Andaluzją. Inne źódła mówią o początkach rasy z dawnymi szlakami handlowymi basenu Morza Śródziemnego. W historii rasy często pojawiają się wzmianki o morskiej drodze handlowej między Hiszpanią a terenami Imperium Osmańskiego. Dawne nazwy takie jak „Turco Andaluz” czy „Perro Turco” sugerują, że już przed wiekami dostrzegano możliwe związki tych psów ze wschodnimi regionami Morza Śródziemnego. Nie oznacza to jednak tureckiego pochodzenia rasy w dzisiejszym rozumieniu, lecz raczej historyczne skojarzenia związane z handlem morskim i przemieszczaniem się ludzi oraz zwierząt.

Najsilniej rasa rozwinęła się w Andaluzji, gdzie przez wiele pokoleń była nieodłącznym elementem życia pasterzy, rybaków i mieszkańców terenów wiejskich. Psy te ceniono przede wszystkim za inteligencję, wytrzymałość oraz zdolność do samodzielnej pracy. W przeciwieństwie do wielu współczesnych ras hodowanych głównie pod kątem wyglądu, hiszpański pies wodny przez większość swojej historii był selekcjonowany wyłącznie użytkowo. Liczyła się skuteczność pracy, odporność na trudne warunki i umiejętność współpracy z człowiekiem. Pierwotnie był wykorzystywany w Andaluzji jako pies pasterski pracujący z owcami i bydłem. Dzięki zaangażowaniu w pracę z człowiekiem rasa była używana coraz szerzej, z czasem Hiszpany wykorzystywano do pracy z myśliwymi oraz rybakami. Jedną z cech rasy, która była wykorzystywana było sygnalizowanie i alarmowanie ludzi o zbliżających się do stada drapieżnikach oraz jednocześnie szczekanie miało odstraszyć niechcianych gości. Ta cecha jest z rasą do dziś, a obecni przedstawiciele nadal wykazują się np. w zaganianiu owiec.