Green trat bereits mit 13 Jahren als Musiker auf. In jungen Jahren wurde er durch die Musik von Charlie Christian und Charlie Parker beeinflusst. Zunächst spielte er Boogie-Woogie, später wechselte er zum Rhythm and Blues und zum Jazz. Seine erste Aufnahme in St. Louis nahm er mit dem Tenorsaxophonisten Jimmy Forrest auf; der Schlagzeuger der Band war Elvin Jones, der Pianist Harold Mabern. Weiterhin spielte er in den Bands von Sam Lazar (1960) und Jack Murphy. Schließlich wurde er von Lou Donaldson entdeckt, als er in einer Bar in St. Louis spielte. Nach einer Tournee mit Donaldson kam er im Herbst 1960 nach New York.
Grant wurde von Down Beat als Bester Newcomer des Jahres 1962 gewählt.
Im Jahre 1966 verließ Grant Blue Note, um Platten für verschiedene andere Label, darunter Verve Records, aufzunehmen. Zwischen 1967 und 1969 nahm er aufgrund persönlicher Probleme und der Begleiterscheinungen seiner Heroinsucht keine Platten auf.
1969 kam er mit einer mehr Funk-orientierten Band zurück auf die Bühne. In diese Periode fiel auch der kommerzielle Erfolg Green Is Beautiful und der Soundtrack zum Film The Final Comedown. Grant verließ Blue Note abermals im Jahre 1974, um kommerziellere Projekte zu verfolgen.
Das Jahr 1978 verbrachte Grant zum größten Teil im Krankenhaus. Gegen den Rat seiner Ärzte ging er wieder auf Tournee. In New York spielte er mit George Benson. Grant starb am 31. Januar 1979 im Alter von 43 Jahren an einem Herzinfarkt. Er wurde in seinem Heimatort St. Louis begraben und hinterließ sechs Kinder.
Rezeption
Im Rahmen der Acid-Jazz-Welle Ende der Achtzigerjahre wurden die Platten und der Sound von Grant Green von einem neuen Publikum entdeckt. Samples aus seinen Stücken fanden zu Beginn der Neunzigerjahre im Hip-Hop häufige Verwendung.
1991: Cypress Hill – Stoned Is the Way of the Walk (Cypress Hill, Ruffhouse) enthält ein Sample von Down Here on the Ground (Alive!, Blue Note, 1970)
1992: Eric B. & Rakim – Kick Along (Don't Sweat the Technique, MCA 1992) enthält ein Sample aus Upshot (Carryin’ On, Blue Note, 1970)
1992: Public Enemy – Gotta Do What I Gotta Do (Greatest Misses, Def Jam) enthält ein Sample aus Ain't It Funky Now (Green Is Beautiful, Blue Note, 1970)
1993: Us3 – Tukka Yoot's Riddim (Hand on the Torch, Blue Note) enthält ein Sample aus Sookie Sookie (Alive!, Blue Note, 1970)
1996: Étienne de Crécy – Prix Choc (Super Discount) enthält ein Sample aus Hurt So Bad (Carryin' On, Blue Note, 1969)
2012: Kendrick Lamar verwendete Samples aus Maybe Tomorrow (von Visions, 1971) für seinen Titel Sing About Me, I'm Dying Of Thirst (auf Good Kid, M.A.A.D City).
2017: Mr. Jukes (Jack Steadman vom Bombay Bicycle Club) verwendete ein Exzerpt aus Ain’t It Funky Now für den Titel Grant Green (feat. Charles Bradley) (auf dem Album God First, Island Records, 2017)
↑Der Jazzzeitung zufolge ist sein Geburtsjahr umstritten; dort wird sich auf 1931 festgelegt. Andere Quellen, darunter seine Biografin Sharon Andrews Green und Feather/Gitler, geben 1935 an, was den Angaben auf seinem Grabstein entspricht.