Estudia Derecho, Economía y Política en la Universidad de Moscú, pero su afición a la pintura le lleva a dedicarse por entero a su formación artística. Asiste a clases en la Academia de Munich con Franz von Stuck, miembro de la “Secesión”. En 1901 funda la Phalanx, asociación de artistas independientes, y en los años siguientes viaja a Rusia, Italia, Tunez, París y Holanda, donde expone con frecuencia. En esta etapa muestra reminiscencias del art nouveau y del folcklore ruso y su obra se caracteriza por el brillante colorido, influido por el fauvismo
de su paso por París. De vuelta a Munich en 1908, alterna su estancia en la ciudad con los veranos en Murnau. Se convierte en la figura central de un grupo de artistas, entre los que se encuentran Jawlensky, Marc y Macke. Con ellos se separa de la “Neue Küstlervereinigung”, previamente fundada por él mismo en 1909, y forma con el grupo expresionista Blaue Reiter (1911). Durante estos años tiende a la abstracción en un proceso lento en el que el color alcanza independencia respecto del objeto y en el que la composición adquiere planteamientos, incluso títulos, similares a los de la música (Impresiones, Composiciones,…). Inaugura la abstracción con su Primera acuarela abstracta (1910), convencido de que el arte tiene más que ver con lo espiritual que con lo material. Formas y colores se mueven en el espacio y son suficientes para expresar la emoción. De lo espiritual en el arte (1912) y el resto de sus escritos recogen su pensamiento teórico sobre la autonomía del arte. Al estallar la Primera Guerra Mundial vuelve a Rusia y se dedica a la enseñanza y a la dirección de museos en los medios artísticos oficiales; sin embargo, ante el cariz totalitario de los acontecimientos, marcha a Berlín en 1921 e inicia su actividad en la Bauhaus. Su trabajo se vuelve más racional y tiende a la abstracción geométrica por influencia de Malevitch, pero las formas no pierden dinamismo. Con el cierre de la Bauhaus en 1933 se traslada a París y sus composiciones recuperan flexibilidad, sin dejar de ser un maestro de la composición. Durante la primera mitad de siglo está considerado como el artista más influyente en la abstracción lírica.