Peter est né à Houston, au Texas. Il a poursuivi ses études à l'université Wesleyan dans le Connecticut, où il a obtenu une licence en littérature anglaise. Il s'est ensuite installé à New York pour se lancer dans une carrière d'acteur. Après deux ans dans la Big Apple, il a été accepté par l'Institut de formation avancée en théâtre de l'American Repertory Theatre à l'université Harvard et par le Théâtre d'art de Moscou, où il a obtenu une maîtrise en jeu d'acteur. Peu de temps après avoir reçu son diplôme, Peter a décroché un rôle dans la production de La Cerisaie du Mark Taper Forum, aux côtés d'Annette Bening et Alfred Molina en 2006. Pendant le tournage, un producteur lui a proposé d'auditionner pour le pilote de Notes from the Underbelly sur ABC, un rôle qu'il a obtenu face à Jennifer Westfeldt. La série a été commandée cet été-là et a été diffusée sur ABC pendant deux saisons. Peter a ensuite été engagé dans la série dramatique NCIS : Los Angeles sur CBS, où il incarne le psychologue des opérations Nate Getz. Il continue d'incarner ce personnage en tant que membre régulier de la distribution. Peter a récemment joué dans la comédie Wedding Band sur TBS, diffusée à l'automne 2012. Il vient de terminer le tournage du pilote Assistance pour NBC, aux côtés de Krysten Ritter, Alfred Molina, Zach Cregger et Vinette Robinson.