Diplomatosi nel 1950 alla Broad Ripple High School, ottenne il titolo di baccalaureato all'Università di Cincinnati (divenendo altresì membro della confraternita Sigma Chi) e la laurea all'università di Harvard. Tra il 1960 e il 1962 studiò presso la American Academy di Roma. Svolse la professione di architetto a Princeton, nel New Jersey, dal 1964, fu professore emerito all'università di Princeton e diresse la Michael Graves & Associates, che ha uffici a Princeton ed a New York. Oltre che per la sua popolare linea di articoli per la casa, Graves e la compagnia da lui capeggiata hanno ottenuto fama ed elogi per un'ampia varietà di edifici commerciali e residenziali e per opere di arredamento. Nel 1999 Graves ricevé la National Medal of Arts e nel 2001 la medaglia di oro dall'American Institute of Architects.
Nel 2003 un'infezione di origine sconosciuta (forse una meningite batterica) lo paralizzò dalla vita giù; rimase comunque attivo nella professione, progettando svariati edifici, compresa un'aggiunta al Detroit Institute of Arts e un grande Resort a Singapore.
Si spense nella sua casa di Princeton nel 2015 all'età di 80 anni.