Szabó Gyula tervei között nem szerepelt a színi pálya: eredetileg papnak készült, sorsa azonban a Színművészeti Főiskola felé vezette, ahova elsőre felvették. 1954-től a Petőfi és a Jókai Színház tagja, majd évtizedekig a Thália Színház vezető színészeként emlékezetes, óriási sikerű produkciók részese. Alkata, jellegzetes orgánuma népi hősök megformálására tette leginkább alkalmassá, de más szerepkörökben is kiváló alakítást nyújtott. Pályája során játszott többek közt Molnár Ferenc, Shakespeare, Bulgakov, Stendhal és Katona József színműveiben, de filmen is sokat foglalkoztatták (Egy pikoló világos, Vasvirág, Kölyök, A tizedes meg a többiek, Kinek a törvénye). Számos sikeres tévéjátékban szerepelt: ő volt a Tenkes kapitánya Buga Jakabja, a Princ, a katona Csontos őrnagya, a Robog az úthenger Józsija. Kezdettől fogva az ő hangján szólalt meg magyarul Columbo hadnagy, a magyar rajzfilmsorozatokban dr. Bubónak (Kérem a következőt), a Pumukli kalandjai című mesében Éder Mesternek és Frakknak, a macskák rémének is ő kölcsönözte a hangját.
Mesemondása legendás volt: a hetvenes évek elejétől a Magyar népmesék sorozatban ízesen, telve szeretettel és humorral mesélt. Ő maga azt mondta erről, hogy a több, mint harminc év alatt ez a mesesorozat élete részévé vált, mindegyik darabját egyformán szerette. Egy másik nyilatkozatában úgy fogalmazott: egész életében arra törekedett, hogy mindig az igazat mondja, és a szeretet nyelvén közvetítsen.
Szinte minden művészeti elismerést megkapott, 2006-ban a nemzet színészévé választották. Szabó Gyulától mély fájdalommal búcsúzik a Nemzeti Színház is, saját halottjának tekintve őt. A színművész évek óta betegeskedett, a halál otthonában érte, tudatta családja az MTI-vel, egyúttal arra kérve a médiát: tartsák tiszteletben gyászukat.