Nato a Città del Capo nel 1934, crebbe ascoltando musica tradizionale africana, gospel, musica sacra e jazz. Iniziò a suonare il piano all'età di 7 anni e a 15 era già un musicista professionista. La sua carriera ottiene un incisivo impulso dopo l'incontro con Kippi Moeketsi, avvenuto nel 1959: Moeketsi lo convinse a dedicarsi a tempo pieno alla musica.
Negli anni '60, a causa della grave crisi civile sudafricana, si trasferì con la moglie prima in Svizzera e poi a New York. Da qui iniziò a percorrere importanti strade nel mondo jazz.
Lottò contro l'apartheid e si convertì all'Islam assumendo il nome Abdullah Ibrahim nel 1968.
Nel 1999 fondò una scuola di musica a Città del Capo: oltre a suonare e comporre, fu insegnante di musica.
«Per il suo eccellente contributo alle arti, che hanno messo il Sudafrica sulla mappa internazionale, e la sua lotta contro il razzismo e l'apartheid.» —dicembre 2009