Costello se je rodil v Patersonu v New Jerseyju italijanskim priseljencem. Svojo kariero v šovbiznisu je začel kot najstnik, nastopal je v vodviljih in burleskah. Leta 1936 je spoznal Buda Abbotta in ustanovila sta komedijsko ekipo. Hitro so postali ena najbolj priljubljenih komedijantov na svetu, saj so nastopali v nočnih klubih, na radiu in v filmih.
Za komedijo Abbotta in Costella so bile značilne njune slapstick rutine ter Costellov visok glas in pretirana obrazna mimika. Skupaj sta nastopila v 36 filmih, vključno z "One Night in the Tropics" (1940), "Buck Privates" (1941) in "Abbott and Costello Meet Frankenstein" (1948).
Costellovo zdravje je začelo pešati v zgodnjih petdesetih letih prejšnjega stoletja in prestal je več operacij srca. Umrl je zaradi srčnega infarkta leta 1959 v starosti 52 let.
Costello kljub prezgodnji smrti velja za enega najvplivnejših komikov 20. stoletja. Njegovo delo z Budom Abbottom je pomagalo opredeliti žanr komedije in navdihnilo nešteto drugih komikov.