Odrasli sivi kitovi prvenstveno se hrane sitnim rakovima zvanim krill i drugi mali beskralješnjaci poput amfipoda i copepods . Također jedu malo male ribe.
Da bi pronašli njihovu hranu, sivi kitovi koriste tehniku nazvanu plug blata . Izgubili su velike količine sedimenata s oceanskog dna, koristeći svoje ploče za filtriranje čestica hrane i izbacivanje blata i vode.