Robert Duvall naît à San Diego en Californie. Il est le fils d'un amiral de l'armée américaine. Après des études supérieures en art dramatique dans l'Illinois, il emménage à New York, où il poursuit sa formation en suivant des cours.
C'est sur les planches de Broadway qu'il débute, il y jouera notamment la pièce Vue du pont en 1957. Grâce à cette prestation, il attise l'intérêt des producteurs à son égard et entame son impressionnante carrière cinématographique. C'est en 1962 qu'il fait sa 1ère apparition sur les écrans, il incarne un simple d'esprit dans To Kill A Mockingbird.
De nombreux films, plus où moins bons, suivront et Robert Duvall joue aux côtés des plus grands, comme Gregory Peck (Le Combat Du Capitaine New Man,1963), Frank Sinatra (Le Détective,1968), Marlon Brando (La Poursuite Impitoyable, 1968), ou encore Steve MacQueen (Bullitt, 1968), et John Waynes (Cent Dollars Pour Un Shérif,1969).
Apprécié par la profession, il reste longtemps un second rôle méconnu du grand public, jusqu'aux films Mash de Robert Altman et surtout Le Parrain (1972) de Francis Ford Coppola. Sa performance en avocat de la famille Corleone, lui vaut une 1ère nomination aux Oscars. La décennie 70 lui apporte quelques-uns uns de ses plus beaux rôles. Il s'illustre particulièrement dans Le Parrain II (1974) et dans Apocalypse Now (1979) pour lequel il se voit décerné le Golden Globe du meilleur second rôle.
En ce qui concerne les années 80, on retiendra principalement son rôle de policier des quartiers difficiles de Los Angeles dans Colors (1988), avec Sean Penn et sous la direction de Dennis Hopper, ainsi que Jours De Tonnerre (1990), où il coache un jeune pilote de course interprété par Tom Cruise.
En 1983 son interprétation d'un chanteur country dans Tendre bonheur, dont il à également écrit la bande-son, lui apporte enfin la consécration avec l'oscar du meilleur rôle masculin. Musicien, on lui doit d'ailleurs 2 albums. Duvall s'est également essayé plusieurs fois à la mise en scène Il est l'auteur d'un documentaire Were Not The Jet Set, réalisé en 1974. Il a également dirigé en 1983, Angelo My Love, sur les milieux gitans de New York, qui fut présenté à Cannes, et Le prédicateur datant de 1997.
En 2002, Robert Duvall est à l'affiche de John Q de Nick Cassavetes, et réalise 2 ans plus tard un nouveau film en tant que réalisateur ayant pour sujet une autre de ses passions, la danse et plus particulièrement le Tango (Assassination tango).
Parmi les autres films complétant sa filmographie, on note en 2007 La nuit nous appartient, où cet inspecteur de police a pour fils Mark Walhberg et Joaquin Phoenix. En 2008, il est à l'affiche de Tout... sauf en famille de Seth Gordon, aux côtés de Vince Vaughn. en 2009, on le retrouve dans le thriller d'anticipation La route de John Hillcoat.