Za gledališko delo je bil trikrat nominiran za tonyja, preboj v svet filma pa mu je uspel z vlogo obsojenega morilca v filmu Anatomy of a Murder Otta Premingerja iz leta 1959. V svoji dolgoletni karieri je nastopil v številnih šovih, filmih in predstavah ter sodeloval s priznanimi režiserji, kot je John Cassavetes. Z njim sta posnela več filmov, med drugim gangstersko dramo The Killing of a Chinese Bookie leta 1976.
Rodil se je v New Yorku kot Biagio Anthony Gazzara v priseljenski družini, kariero pa začel v gledališču. Prva udarna vloga je bila vloga Bricka v izvirni broadwayski uprizoritvi Williamsove Mačke na vroči pločevinasti strehi v režiji Elia Kazana.
V filmu je prvič nastopil leta 1957 v drami The Strange One in nato večkrat igral v vlogah kompleksnih značajev, zlasti zlobnežev. Leta 1998 je v kultni komediji Veliki Lebowski bratov Coen igral producenta pornofilmov Jackieja Treehorna, v Aferi Thomasa Crowna s Pierceom Brosnanom in Rene Russo pa stransko vlogo.
Pri Gazzari gre rado v četrto
Na malih zaslonih je med drugim v NBC-jevi seriji Run for Your Life igral uspešnega odvetnika Paula Bryana, ki se po diagnozi smrtne bolezni odloči živeti in opusti kariero. Za vlogo je bil dvakrat nominiran za emmyja, tretjo nominacijo mu je prinesla vloga v televizijskem filmu An Early Frost, kipec pa je končno osvojil za stransko vlogo v HBO-jevem filmu Hysterical Blindness.
Ben Gazzara se je trikrat poročil, dvakrat ločil, s tretjo ženo Elke je imel hčer Elizabeth.