Veliki bijeli morski pas je pelagična vrsta, što znači da živi u otvorenom oceanu, ali često se približava obali za hranjenje. Neka područja u kojima se obično nalaze veliki bijeli morski psi uključuju:
- Tihi ocean, posebno uz obale Kalifornije, Oregona, Washingtona, Havaja, Australije, Novog Zelanda i Japana
- Atlantski ocean, posebno uz obale Massachusettsa, New Yorka, Sjeverne Karoline, Južne Karoline, Floride, Georgije i Južne Afrike
- Indijski ocean, posebno uz obale Južne Afrike, Mozambika, Madagaskara i Australije
Stanište velikog bijelog morskog psa uključuje razna okruženja, od šuma alpi i pješčanih plaža do dubokih, morskih voda. Mogu se naći u dubinama do 3.900 stopa (1.200 metara), ali se najčešće nalaze u dubinama manje od 1.640 stopa (500 metara).
Veliki bijeli morski psi su samotni lovci i ne okupljaju se u velikom broju, osim tijekom sezone parenja. Oni obično putuju sami ili u malim skupinama od dvije ili tri.