Figlio di un meccanico e di un'operaia, ha diretto la fotografia del suo primo lungometraggio nel 1999, quando era ancora uno studente universitario. Trasferitosi a New York senza completare gli studi per perseguire una carriera artistica, mossa che avrebbe poi ricordato come «irresponsabile [verso i propri genitori]», si è affermato come prolifico direttore della fotografia all'interno della scena cinematografica underground e micro-budget newyorkese. È stato operatore e archivista di Albert Maysles, che ha descritto come il suo mentore, nell'ultima parte della carriera del celebre documentarista.
Nel 2015, il critico del New Yorker Richard Brody l'ha definito «il direttore della fotografia di molti dei migliori e più significativi film indipendenti dello scorso decennio», come quelli di Alex Ross Perry e dei fratelli Safdie (tra cui Good Time, il primo girato da Williams in 35mm), di cui è un frequente collaboratore.