Né à Zavraje en ex-Union Soviétique, Andrei, fils du poète Arseni Tarkovski, est très vite poussé vers le milieu artistique, allant jusqu'à étudier la géologie lors d'une expédition en Sibérie. En 1956, il entre à l'Institut Fédéral de Cinéma de Moscou (le VGIK), dans la classe de Mikhaïl Romm, qu'il considère comme un de ses maîtres.Son film de fin d'étude Le Rouleau compresseur et le violon est bien reçu par le pouvoir et il réalise en 1962, L'Enfance d'Ivan film autobiographique récompensé par un Lion d'Or à Venise, où s'exprime déjà toute sa puissance d'évocation visuelle. Pourtant, la rupture qu'il opère avec l'esthtétique du réalisme soviétique et son succès international (jugé suspect) lui vaut désormais les foudres de la censure.Ses films suivants, notamment la fresque monumentale mystique et picturale Andrei Roublev sont mutilés par la censure, jugés trop proche de préoccupations religieuses. Pourtant son succès sur la scène internationale ne se dément pas avec ses films suivants, le "space opera" existentiel Solaris (1972) et le très intime et onirique Miroir (1974).Toujours ennuyé par les autorités, il réussit à terminer Stalker (1979), un film de science-fiction habité, en URSS. Il voyage alors en Europe et revient en Russie en 1981, pour revoir sa famille et son fils. Pourtant, il ne tournera plus sur ses terres : Nostalghia en 1983 sera une co-rpoduction italienne et Le Sacrifice (1986) sera réalisé avec un financement français.Les médecins détectent alors chez lui un cancer du poumon. La France l'accueillit pour lui fournir des soins, mais il meurt le 28 janvier 1986 des suites de sa maladie entouré d'autres auteurs russes apatrides comme Ivan Bounine. Son statut et l'importance de son oeuvre dans l'histoire du cinéma ne seront reconnus, en Russie, que quelques années après sa mort, à la chute de l'Union Soviétique.
