Han utnämndes till USA:s senat1870 när senator Daniel S. Norton dog. Han lämnade senaten i januari1871 när en ny senator hade valts till resten av Nortons mandatperiod. Windom däremot hade blivit invald till en hel mandatperiod och återvände till senaten redan i mars samma år. Han satt i senaten i tio år till mars 1881, då han blev utnämnd till USA:s finansminister. Han var finansminister i James A. Garfields kabinett och en kort tid under efterträdaren Chester A. Arthur, när Garfield blev mördad. Windom avgick som finansminister redan i november 1881 för att återvända till senaten. Han var en tredje period senator till mars 1883 men lyckades inte bli omvald.