Jerry Stiller erblickte als Sohn des Busfahrers William Stiller und dessen Ehefrau Bella das Licht der Welt. Seine Kindheit verbrachte er in East New York, bevor die Familie in die Lower East Side umzog, wo er die "Seward Park High School" besuchte. Nach der Schulzeit schrieb sich der angehende Schauspieler schließlich an der "Syracuse University" ein, wo er im Jahr 1950 seinen Bachelor im Fach "Speech and Drama" machen konnte.
Anfang der 1950er Jahre lernte Jerry Stiller Anne Meara kennen, die er 1954 heiratete: Gemeinsam bildeten die beiden in den 1960er und 1970er Jahren das Comedy-Duo "Stiller and Merea", das äußerst erfolgreich im TV zu sehen war. Das Ehepaar war in verschiedenen Shows zu Gast, darunter ganze 36 Mal in der legendären "Ed Sullivan Show". Nachdem es seit Mitte der 1970er etwas ruhiger um die beiden geworden war, starteten sie 1986 ein Comeback mit "The Stiller and Meara Show", die jedoch schnell wieder eingestellt wurde. Zwischen 1993 und 1998 konnte der Schauspieler wieder einen Erfolg auf seinem Steckbrief verbuchen: Für die Rolle des Frank Costanza in der Sitcom "Seinfeld" erhielt er eine Nominierung für den "Emmy" und eine Auszeichnung mit dem "American Comedy Award".
In den 2000er Jahren spielte er sich, auf Bitten des Schauspielers Kevin James, in der Erfolgsserie "King of Queens" in die Herzen der Zuschauer. Bis weit in das neue Jahrtausend wirkte Jerry Stiller in diversen Filmen mit - unter anderem in Filmen seines Sohnes. Denn sein komödiantisches Talent hatte der Schauspieler an seine Kinder Amy Stiller und Ben Stiller weitergegeben.