Al principio, Sarsgaard no tenía pensado dedicarse a la actuación. De hecho, estudió Historia y Literatura en la Universidad Washington en San Luis. Sin embargo, una vez allí decide fundar el grupo de teatro Mama's Pot Roast., por lo que su carrera y su futuro empieza a tomar un rumbo hasta ese momento impensado.
Una vez optó por la actuación, Sarsgaard decide viajar a Nueva York, donde recibió clases en el Actor's Studio. Ya en la Gran Manzana su talento lo hizo ganarse un sitio en en Broadway, en obras de teatro tan importantes como "Kingdom of Earth") y "Laura Dennis".
Es para 1995, que Tim Robbins le ofreció su primera oportunidad en cine en la cinta "Dead Man Walking", donde interpretó a un hombre al que asesina Matthew Poncellet (Sean Penn). Tres años después participó en la recordada película titulada "El hombre de la máscara de hierro", donde dio vida a Roul, el hijo del mosquetero Athos (John Malkovich), quien perece en una batalla porque el rey Luis XIV (Leonardo DiCaprio) lo dispone así.
Desde entonces Sarsgaard ha aparecido en incontables producciones, lo que le ha valido nominaciones a galardones del cine y la televisión tan importantes como los Globos de Oro, los SAG Awards, entre muchos otros.