Edward Gargan est né de parents irlandais à Brooklyn, New York en 1902. Il était le frère aîné de l'acteur William Gargan avec qui il partageait l'anniversaire du 17 juillet.
Edward Gargan a débuté comme acteur de comédie musicale à Broadway. Il a chanté dans « Good News », « Rose-Marie » et autres comédies musicales à succès des années 1920, ainsi qu'à l'opéra. L'une de ses premières pièces fut « Polly of Hollywood » en 1927. Il a incarné l'agent Mulligan, l'un des rôles principaux de « Strictly Dishonorable », en 1930.
Il s'est installé à Hollywood en 1932 et l'année suivante faisait partie de la distribution du film « David Harum ». Au cours des dix-neuf années suivantes, il a joué dans une grande variété de films. Gargan était l'un des acteurs de second plan les plus prolifiques de l'histoire du cinéma, se spécialisant dans les rôles de policiers benêts et de compagnons obtus. Il a participé à près de 300 longs métrages sur une période de trois décennies entre 1921 et 1952, ainsi qu'à des productions télévisées de 1951 à 1953.