Estudió en el City College de Nueva York y comenzó como dibujante gráfico e ilustrador para la revista Stars and Stripes. Viajó a Europa donde se matriculó en Historia del Arte en la Universidad de la Sorbona de Paris donde coincidió con el pintor Fernand Léger. Practicó mucho la pintura durante estos años desde una perspectiva abstracta a través de obras de fuerte carácter geométrico llegando a exponer en Milán. A su vuelta a Nueva York, combinó sus trabajos fotográficos en el campo de la moda para la revista Vogue con sus reportajes de ciudades como el célebre reportaje sobre Nueva York en el que indaga sobre la psicología de sus habitantes. Este reportaje supuso un revulsivo en la escena fotográfica del momento junto a los fotografías de “The Americans” de Robert Frank ya que se oponían ambos a la fotografía humanista que se estaba practicando en Europa en esos años. El reportaje sobre Nueva York supone una nueva mirada a su ciudad después de unos años en Europa. Lo que Klein se encontró a su vuelta fue una ciudad solitaria y violenta que supo captar a través de imágenes directas, desenfocadas, con grano, sin importarle la calidad técnica sino la potencia y el resultado final. En los años sesenta abandonó la fotografía por el cine realizando filmes políticamente comprometidos como Who are you polly maggoo? o Mr. Freedom. En los años ochenta retomó la fotografía que sigue practicando en la actualidad.