Butler startet sitt første band, Rare Breed, sammen med Ozzy Osbourne på høsten 1967. Så ble de med i Polka Tulk sammen med gitaristTony Iommi og trommeslagerBill Ward. Etter å ha endret navnet til Earth byttet de så navn til Black Sabbath i 1969, da de fant et annet band med samme navn. Butler spilte gitar i begynnelsen, men Iommi sa at han ikke ville spille sammen med en annen gitarist, så han gikk over til bassgitar.
Butler er kjent for å være den første som brukte Wah-wah pedal på bassen, blant annet på sangen «N.I.B.», noe som inspirerte mange bassister senere. Han var også en av de første bassister til å stemme ned bassen fra EADG til C#F#BE, dette for å spille samstemt med Iommi som stemte ned sin gitar. Butler er også låtskriver og har skrevet mesteparten av tekstene for Black Sabbath.
I 1984 forlot Butler Sabbath til fordel for å starte The Geezer Butler Band. Han ble med Ozzy i 1988 på No Rest For The Wicked World Tour. Butler ble gjenforent med Sabbath i 1991, men sluttet så igjen etter Cross Purposes tour i 1994. Året etter var han med på musikkalbumetOzzmosis fra 1995 med Ozzy. Han startet så bandet GZR hvor han ga ut flere album. Han ble så med i Sabbath igjen i 1997 for å spille på Ozzfest og har siden vært med bandet. I tillegg har han forstatt med GZR og blitt med i bandet Heaven and Hell sammen med Tony Iommi, Ronnie James Dio og Vinny Appice.
Paranoid / Rat Salad / Wight is Wight·Superheavy Vol. 1·I Won't Let It 'Appen Agen / Lay Down / What Made Milwaukee Famous / Changes·Rock Impact '73·Rock Impact '73·Supergrupos Vertigo·Street Fighting Men·Supergroup Festival Volume II·Heavy Rock·Living Legends·Super Groups' Meeting·Heavy Metal·Maxi-Simple Para Difusión Exclusivamente 45 R.P.M.·High Intensity Discharge·Maxi Simple·Smoke on the Water·Black Sabbath / Judas Priest·Burn! Special Edition/Burning Live-Rary Vol. 1·The Ultimate in Heavy Metal·Faith and More – Reprise Rock Preview 92·Kerrang! Four-Play·The Ozzman Cometh·The Ozzfest 2000 Sampler·Live & Loud + The Ozzman Cometh·Dio: Stand Up and Shout – The Anthology·Ronnie James Dio: We Rock – Greatest Hits·Fubar II: Music From the Motion Picture·Frantic / Paranoid·Mightier than the Sword: The Ronnie James Dio Story
Club-Sonderauflage·The Best Of·Attention! Black Sabbath·Pop Giants: Volume 9·Attention! Black Sabbath Volume 2·Reflection·We Sold Our Soul for Rock 'n' Roll·Paranoia·Star Gold·Greatest Hits·Rock Heavies·The Best: The Ultimate in Heavy Metal·The Collector Series – The Collection·Backtrackin' ·Blackest Sabbath / Black Sabbath 1970–1987·Rock Giants·The Black Sabbath Story·The Ozzy Osbourne Years·Iron Man·Between Heaven and Hell·The Best of Ozzy Osbourne Years·Between Heaven & Hell: 1970–1983·Ozzy Osbourne Best Tracks·The Sabbath Stones·The Sabbath Collection·The Best of Black Sabbath 1970–1987·The Collection·The Best of Black Sabbath·Rock Champions·Symptom of the Universe·Greatest Hits 1970–1978·The Dio Years·Black Sabbath's Greatest Hits·The Ultimate Collection·Evil Woman / Paranoid
«Evil Woman»· «The Wizard»· «Paranoid»· «Wicked World»· «Sweet Leaf»· «Children of the Grave»· «Iron Man»· «Paranoid '72»· «Tomorrow's Dream»· «Changes»· «Sabbath Bloody Sabbath / Changes»· «Back Street Kids»· «Gipsy»· «It's Alright»· «Am I Going Insane (Radio)»· «Paranoid / Sabbath Bloody Sabbath»· «Hard Road»· «Never Say Die»· «Lady Evil / Children of the Sea»· «Neon Knights»· «Die Young»· «Mob Rules (Domina La Masa)»· «Mob Rules»· «Turn Up the Night»· «Trashed»· «No Stranger to Love»· «The Shining»· «Black Moon»· «Call of the Wild»· «Headless Cross»· «Devil and Daughter»· «Feels Good to Me»· «TV Crimes»· «Master of Insanity»· «Get a Grip»· «Psycho Man»· «The Devil Cried»· «God is Dead?»· «Age of Reason»· «Headless Cross / Anno Mundi»· «Evil Eye / Get a Grip»
Never Say Die – Live in Concert·The Black Sabbath Story Volume 1: 1970–1978·The Black Sabbath Story Volume 2: 1978–1992·The Last Supper·The End – 4 February 2017 Birmingham