Es considerado como uno de los actores más respetados y aclamados de su generación, así como uno de los actores más populares del cine clásico de Hollywood. Su carrera actoral le llevó a personificar papeles de diferentes géneros, especialmente el drama y la comedia.
Empezó interpretando a personajes secundarios en películas como el musical cómico-dramático Marino al agua (1953), La rubia fenómeno (1954), Pfhht!
(1954), Mi hermana Elena (1955), Fuego escondido (1957) o Cowboy (1958).
Por su trabajo en Escala en Hawaii (1955) gana su primer premio Óscar, en este caso al mejor actor secundario.
El apartamento (1960), junto a Shirley MacLaine y Fred MacMurray, puso de relieve la maestría de este actor para dominar los detalles de un personaje tan sencillo, pero rico en matices. La película ganó varios Oscar y Jack Lemmon ya era conocido por todos.
Por su actuación en Salvad al tigre (1973) ganó su único premio Óscar como mejor actor principal; en realidad este galardón hay que considerarlo tardío o de consolación porque Lemmon había tenido papeles muy superiores en la década anterior.
En esta época inició su madurez interpretativa como actor, con incursiones en un cine más comprometido y dramático que antaño. A modo de ejemplos: El prisionero de la segunda avenida (1975) y El síndrome de China (1979).
En su última etapa redujo su actividad, aunque participó en filmes de prestigio, como JFK (1991) de Oliver Stone, Éxito a cualquier precio (Glengarry Glen Ross) de James Foley, Short Cuts (1993) de Robert Altman y Hamlet de Kenneth Branagh. En 1996 le fue otorgado el Oso de oro en el Festival Internacional de Cine de Berlín, en agradecimiento a toda su carrera. En 1998, durante la ceremonia de los Globo de Oro, el actor Ving Rhames resultó vencedor frente a su gran ídolo, Jack Lemmon, y decidió entregarle su premio como reconocimiento a su gran carrera. Acto seguido, todos los asistentes a la gala se pusieron en pie para aplaudir tan noble gesto.
