Sergey Filippov est né à Saratov dans une famille ouvrière. Son père était serrurier et sa mère couturière. À l'école, Sergei Filippov n'était pas un bon élève et au lycée, il s'était même fait connaître comme un voyou. Lors d'une leçon de chimie en l'absence du professeur, il mélangea l'acide chlorhydrique avec de la limaille de fer et ajouta quelques réactifs. Après cette expérience, une odeur terriblement piquante se répandit dans toute l'école. Les cours furent perturbés et Filippov fut expulsé. Après son expulsion, il trouva du travail comme apprenti boulanger dans une boulangerie privée. Mais ce travail l'intéressait peu et durant les mois suivants, il essaya plusieurs métiers, jusqu'à ce qu'il se retrouve dans un studio de ballet. Les cours le captivèrent tellement qu'en quelques semaines, il fut considéré comme le meilleur élève et un bel avenir s'ouvrit à lui dans le ballet. En 1929, sur les conseils de ses professeurs, Filippov se rendit à Moscou pour entrer à l'école de ballet du Bolchoï. Arrivé dans la capitale, il apprit que les examens d'entrée étaient déjà terminés et, sur les conseils de gens avisés, il partit à Leningrad, à une école de chorégraphie. Mais il arriva trop tard pour ces examens et déposa ses documents au collège de variétés de cirque qui venait d'ouvrir, où il fut accepté. Les professeurs prédisaient un avenir brillant à cet élève talentueux et, après l'obtention de son diplôme en 1933, Sergei Filippov fut engagé dans la troupe du Théâtre d'Opéra et de Ballet. La carrière de danseur de ballet fut trop brève – lors de la représentation suivante, Filippov tomba malade. Les médecins appelés diagnostiquèrent une crise cardiaque et lui conseillèrent d'abandonner le ballet. Filippov entra au studio de théâtre de variétés. Il se produisit beaucoup dans les salles de Leningrad et lors d'un de ses concerts, il fut remarqué par Nikolai Pavlovich Akimov, qui suggéra au jeune acteur d'aller au Théâtre de la Comédie. De 1935 à 1965, il fut acteur du Théâtre de la Comédie de Leningrad, et à partir de 1965, du studio de cinéma « Lenfilm ». Il devint populaire grâce à ses rôles au cinéma dans les films « Le Dompteur de tigre » (1954), « La Nuit du carnaval » (1956), « La Fille sans adresse » (1957), « Les Douze Chaises » (1971), « Ivan Vassilievitch change de profession » (1973). Filippov maîtrisait aussi bien les grands rôles complexes que les petits rôles. Filippov fut très populaire à Leningrad et dans les grandes villes du pays entre 1940 et 1960. En 1965, on découvrit chez lui une tumeur au cerveau. En 1971, avant le tournage des « Douze Chaises », l'acteur souffrait de violentes migraines dues au cancer du cerveau découvert, et Gaidai invita donc Rostislav Plyatt en l'approuvant pour le rôle de Kisa. Cependant, Filippov déclara qu'il serait filmé de toute façon. La situation se résolut quand Plyatt apprit les rumeurs du désir insistant de Filippov et il céda lui-même le rôle de Kisa à Filippov. Malgré les faibles chances d'amélioration, Sergei Filippov termina avec succès son traitement après le tournage et vécut encore vingt ans, jouant son dernier rôle également avec Leonid Gaidai. Sergey Filippov fut enterré au cimetière du Nord, à côté d'Antonina Golubeva. La guilde des acteurs de cinéma de Saint-Pétersbourg installa un buste sur sa tombe. Quelques jours avant sa mort, l'acteur confia à Lyubov Tishchenko son rêve : « Tu sais, toute ma vie j'ai voulu jouer un rôle tragique positif, mais je n'ai eu que des personnages odieux », soupira Filippov. « J'ai même pleuré quand j'ai appris que le rôle principal du film "Quand les arbres étaient grands" allait à Yuri Nikulin. »
