Cuando tiene diez años se traslada junto a su familia a Estados Unidos y se instalan en Indianápolis. En esta misma ciudad estudia Bellas Artes en el John Herron Institute. A finales de los años sesenta y comienzos de los setenta realiza una serie de viajes por los desiertos de Nuevo México, Arizona y California, donde toma fotografías de estos paisajes así como del océano y del cielo. Su trayectoria artística se caracteriza por la creación de pinturas que toman como base fotografías que recrean escenas naturales, ya sean constelaciones, cielos nocturnos o representaciones del mar y del desierto. En sus cuadros, Celmins utiliza una paleta reducida de negros y grises con los que crea a partir de imágenes reales, pinturas abstractas que remiten a ciertos estados de ánimo como la melancolía. Algunas de estas obras se han comparado acertadamente con las obras realistas de Gerhard Richter. En sus últimos trabajos, explora las telas de araña. Su trabajo es muy conocido en Estados Unidos donde ha sido la protagonista de varias retrospectivas como las realizadas en el Whitney Museum de Nueva York o el Walker Art Center de Minneapolis mientras que en Europa, ha habido que esperar hasta finales de los noventa para conocer sus obras. En la actualidad, vive y trabaja entre Nueva York y California.