Kawalerowicz nació en Hvizdets-Gwoździec Polonia, ciudad en la que había una mezcla inextricable de población polaca, ucraniana y judía. Por su parte, el padre de Kawalerowicz pertenecía a una familia procedente de Armenia, de apellido Kavalarian, que fue modificado posteriormente.
Jerzy Kawalerowicz trabajó al principio como ayudante de dirección, y con el film Gromada, de 1951, pasó él mismo a dirigir.
Encabezó pronto la Escuela Polaca de Cine, destacando con Cień, (1956) y Pociąg (1959). De Kawalerowicz sobresalen su poderosa imaginería así como la profundidad de las ideas que circulan por sus películas. Por cierto, él se negó siempre a hacer filmes de propaganda. De su misma escuela destacan obras de otros directores de talento como Andrzej Wajda, Tadeusz Konwicki y Juliusz Machulski, hoy clásicos.