Fiatalkora
Los Angelesben született, Jill Jordan és Alvin G. Segel gyermekeként és Pacific Palisades-ben nőtt fel. Apja zsidó, anyja pedig keresztény; apja vallása szerint nevelték, de keresztény iskolába is járt. Állítása szerint ő és féltestvére, Adam, fiatalon nem álltak egymáshoz közel.
Az általános iskola után Segel közép- és felsőfokú tanulmányait a Harvard-Westlake Schoolban végezte, ahol 193 cm-es magassága segítette, hogy fontos tagja legyen az állami fiú kosárlabda-csapatnak. A főiskolán arról álmodott, hogy profi színész lesz, a helyi palisades-i színházban játszott darabokban.
Karrier
Az NBC rövidéletű dráma-vígjátékával, a Különcök és stréberekben Nick Andopolis szerepével vált ismertté. Ő írta a karakterének, Nicknek is egy dalát, amit a női főszereplőnek, Lindsaynek (Linda Cardellini) énekel. Ő és Segel pár évig jártak a sorozat megszüntetése után. Elterjedt, hogy a lány azért szakított vele, mert felszedett 10 kilót, de közben kiderült, hogy csak vicc volt, amit egy másik szövegkörnyezetből emeltek ki.
Segel később visszatérő szerepet kapott a CSI: A helyszínelőkben és az Undeclaredben is. Marshall Eriksen szerepét alakította az Így jártam anyátokkal című szituációs komédiában. Filmszerepei között van többek között a Svihákok – A nyúl viszi a puskát, az SLC Punk!, az A humor forrása és az Egy hulla a szobatársam. 2007-ben szerepelt a Felkoppintva című filmben, amit a Különcök és stréberek megalkotója, Judd Apatow rendezett. Majd 2008-ban ő volt a főszereplő a Lepattintva című filmben, amit ő írt, és aminek Apatow illetve Shauna Robertson volt a producere. Szintén ő a főszereplő a 2009. március 20-án kiadott Spancserekben.
A 2010-es vígjátéknak, a Felhangolva című filmnek Segel írta a legtöbb betétdalát, amit egy kitalált együttes, az Infant Sorrow adott elő. Craig Ferguson talk showjában is előadott egy teljesen eredeti dalt, a "Wonky Eyed Girl"-t.
2010-ben ő adta a hangját Gru ősellenségének, Vektornak a Universal animációs filmjében, a Gruban.
