Professionista dal 1996 dopo alcuni mesi da stagista nella precedente stagione, sul finire degli anni novanta De Jongh è stato uno dei velocisti più competitivi, sebbene gli sia mancato l'acuto in una frazione delle grandi corse a tappe. Pericoloso concorrente anche nelle classiche del Nord, è stato nel finale di carriera in forza alla Quick Step, dove ha avuto la funzione di lanciare lo sprint del capitano Tom Boonen.
In carriera ha ottenuto 54 vittorie. Si è ritirato al termine della stagione 2009, diventando, nel 2010, direttore sportivo per il Team Sky. Nel 2013 è entrato a far parte dello staff di Bjarne Riis alla Tinkoff-Saxo; nell'aprile 2015 è stato quindi promosso a capo del gruppo dei direttori sportivi dopo la separazione tra il team Tinkoff-Saxo e Riis. Dopo la dismissione della Tinkoff, avvenuta a fine 2016, è diventato direttore sportivo del team Trek-Segafredo.