Timnit Gebru

Timnit Gebru (* 1983 in Addis Abeba) ist eine Elektroingenieurin und Informatikerin, die insbesondere zu Computer Vision, algorithmischer Verzerrung und den gesellschaftlichen Folgen künstlicher Intelligenz (KI) forscht. Bis Anfang Dezember 2020 war sie Co-Leiterin des Teams für ethische KI (Ethical AI) bei dem US-amerikanischen Technologieunternehmen Google. Seit 2021 ist sie Gründerin und geschäftsführende Direktorin des unabhängigen Forschungsinstituts Distributed Artificial Intelligence Research Institute (DAIR). 2026 wurde ihr der Right Livelihood Award zuerkannt.

Leben und Ausbildung

Gebru wurde in Äthiopien als Tochter einer Familie eritreischer Herkunft geboren. Mit 15 Jahren verließ sie Äthiopien während des Krieges zwischen Äthiopien und Eritrea; nach einem etwa einjährigen Aufenthalt in Irland gelangte sie in die Vereinigten Staaten, wo sie Asyl erhielt.

2001 nahm sie ein Studium der Elektrotechnik an der Stanford University auf und erwarb dort einen Bachelor- und einen Masterabschluss. Von 2005 bis 2007 arbeitete sie bei Apple als Audioingenieurin. Anschließend setzte sie ihre wissenschaftliche Laufbahn in Stanford fort, wo sie bei Fei-Fei Li forschte und 2017 mit der Dissertation Visual computational sociology: computer vision methods and challenges im Bereich Computer Vision promoviert wurde.

In ihrer Promotionsforschung verwendete Gebru unter anderem computergestützte Bildanalyse, um aus Fahrzeugtypen in verschiedenen Stadtvierteln statistische Zusammenhänge mit Merkmalen wie Einkommen, ethnischer Zusammensetzung und Wahlverhalten abzuleiten. Rückblickend erklärte sie, dass ihr die möglichen Verbindungen solcher Verfahren zu Überwachung und gesellschaftlicher Unterdrückung zunächst noch nicht bewusst gewesen seien; ihre stärkere Beschäftigung mit diesen Fragen habe sich erst später entwickelt.

Während ihrer Zeit in Stanford war sie Mitbegründerin der Organisation Black in AI, die sich für stärkere Zusammenarbeit, Sichtbarkeit und Teilhabe Schwarzer Menschen in der KI-Forschung einsetzt. Ein wichtiger Hintergrund für die Gründung war Gebrus Wahrnehmung der sehr geringen Repräsentation Schwarzer Forschender auf großen KI-Konferenzen.

Forschung zu algorithmischer Verzerrung

Einer breiteren Öffentlichkeit bekannt wurde Gebru 2018 durch die gemeinsam mit der Informatikerin Joy Buolamwini vom MIT Media Lab verfasste Studie Gender Shades. Darin untersuchten die Wissenschaftlerinnen kommerzielle Systeme zur automatischen Geschlechtsklassifikation anhand von Gesichtsbildern und fanden erhebliche Unterschiede der Fehlerquoten in Abhängigkeit von Hautfarbe und Geschlecht. Während die untersuchten Systeme bei hellhäutigen Männern sehr geringe Fehlerraten erreichten, betrug die Fehlerquote bei dunkelhäutigen Frauen bei einzelnen Systemen bis zu 34,7 Prozent. Die Arbeit wurde zu einer einflussreichen Untersuchung darüber, wie scheinbar neutrale technische Systeme bestehende gesellschaftliche Ungleichheiten reproduzieren können.

Tätigkeit bei Google und Ausscheiden 2020

Nach einem Jahr als Postdoc bei Microsoft Research wechselte Gebru 2018 zu Google AI. Dort wurde sie gemeinsam mit Margaret Mitchell Co-Leiterin eines Teams, das sich mit ethischen und gesellschaftlichen Problemen künstlicher Intelligenz beschäftigte.

Im Jahr 2020 gehörte Gebru zu den Autorinnen und Autoren des später unter dem Titel On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? veröffentlichten Beitrags über Risiken sehr großer Sprachmodelle. Die Arbeit thematisierte unter anderem den hohen Energie- und Ressourcenverbrauch großer Modelle, die Konzentration von Forschungskapazitäten bei finanzstarken Organisationen sowie diskriminierende Verzerrungen, die aus sehr großen und weitgehend ungefilterten, aus dem Internet gewonnenen Trainingsdatensätzen entstehen können.

Vor der Veröffentlichung verlangte das Google-Management, dass die Arbeit zurückgezogen oder die Namen der Google-Beschäftigten daraus entfernt würden. Anfang Dezember 2020 endete daraufhin Gebrus Beschäftigung bei Google. Über die genauen Umstände gab es widersprüchliche Darstellungen: Gebru erklärte, sie sei entlassen worden, während Google den Vorgang als Annahme ihrer Kündigung beziehungsweise ihrer Bedingungen für ein Ausscheiden darstellte.

Laut Google-AI-Direktor Jeff Dean habe das Papier nicht den internen Qualitätsanforderungen entsprochen. Gebru hatte unter anderem gefordert, ihr Informationen darüber zugänglich zu machen, welche Personen zu dieser Einschätzung beigetragen hatten. Ein Google-AI-Mitarbeiter aus Montreal erklärte öffentlich, seine eigenen Publikationsanträge seien vom Unternehmen zuvor zwar darauf geprüft worden, ob sie vertrauliche Informationen offenlegten, nicht jedoch hinsichtlich ihrer wissenschaftlichen Qualität.

Gebrus Ausscheiden löste innerhalb und außerhalb des Unternehmens Proteste aus. Innerhalb weniger Tage unterzeichneten mehr als 1.400 Google-Mitarbeitende und 1.900 weitere Personen einen offenen Brief, in dem sie den Umgang mit Gebru kritisierten.

DAIR und Positionen zu künstlicher Intelligenz

Im Dezember 2021 gründete Gebru das unabhängige Distributed Artificial Intelligence Research Institute (DAIR). Das Institut untersucht Schäden, die KI-Systeme insbesondere für marginalisierte Bevölkerungsgruppen verursachen können, und will zugleich alternative Formen der Technologieentwicklung erproben, bei denen von technischen Systemen betroffene Gemeinschaften stärker an Forschung und Gestaltung beteiligt werden.

Für die Anfangsphase erhielt DAIR insgesamt 3,7 Millionen US-Dollar von der MacArthur Foundation, der Ford Foundation, dem Kapor Center, den Open Society Foundations und der Rockefeller Foundation. Gebru begründete die institutionelle Unabhängigkeit damit, dass sowohl große Technologieunternehmen als auch der akademische Wissenschaftsbetrieb Anreizstrukturen besäßen, die Forschung zu bereits entstandenen Schäden oder zu wenig profitablen Anwendungen erschweren könnten.

DAIR versteht sich dabei nicht als grundsätzliche Ablehnung künstlicher Intelligenz, sondern als Gegenmodell zu einer zentralisierten und überwiegend von kommerziellen Interessen bestimmten Entwicklung von KI. Ein Schwerpunkt liegt darauf, Forschende und Gemeinschaften einzubeziehen, deren Perspektiven in der Entwicklung großer kommerzieller KI-Systeme häufig wenig berücksichtigt werden.

Zu den ersten Projekten des Instituts gehörte die Arbeit der südafrikanischen Forscherin Raesetja Sefala, die Satellitenbilder zur Untersuchung der räumlichen Folgen der historischen Segregation in Südafrika einsetzte. Dabei sollten auch Möglichkeiten entwickelt werden, mit denen betroffene Gemeinschaften Daten ergänzen oder korrigieren und die Forschungsergebnisse für ihre eigenen Zwecke nutzen können.

Gebru vertritt die Auffassung, dass freiwillige Selbstregulierung großer Technologieunternehmen nicht ausreiche und externe Regulierung notwendig sei, wenn kommerzielle Anreize mit gesellschaftlichen Interessen kollidierten. Ihre Kritik richtet sich stärker auf bereits bestehende Probleme wie Diskriminierung, Machtkonzentration, Arbeitsbedingungen, Ressourcenverbrauch und mangelnde gesellschaftliche Mitsprache als auf hypothetische Szenarien einer zukünftigen Machtübernahme durch Maschinen. Sie warnt zudem vor Gruppendenken und institutioneller Abschottung innerhalb der KI-Forschung und betont, dass Entscheidungen über Entwicklung und Einsatz von KI von Menschen und Institutionen getroffen werden und daher veränderbar seien.

TESCREAL

Zusammen mit dem US-amerikanischen Philosophen und Historiker Émile P. Torres etablierte Gebru das Akronym TESCREAL als Sammelbegriff für mehrere miteinander verbundene und sich überschneidende philosophische Strömungen, die nach ihrer Auffassung Einfluss auf Teile der Debatte über künstliche Intelligenz besitzen. Das Akronym setzt sich aus den Anfangsbuchstaben von Transhumanismus, Extropianismus, Singularitarianismus, Cosmismus, Rationalismus, Effektivem Altruismus und Longtermismus zusammen.

In einem 2024 veröffentlichten gemeinsamen Aufsatz argumentieren Gebru und Torres, dass diese Denktraditionen historisch miteinander verbunden seien und teilweise Vorstellungen übernommen hätten, die sich bis zu eugenischen und technokratischen Zukunftsentwürfen zurückverfolgen ließen. Sie kritisieren insbesondere deren Einfluss auf Vorstellungen von allgemeiner künstlicher Intelligenz und auf Debatten über weit in der Zukunft liegende existentielle Risiken.

Die Wissenschaftskommentatorin Anjana Ahuja vertrat ebenfalls die Auffassung, dass die intensive Beschäftigung mit hypothetischen existenziellen Risiken durch KI von bereits bestehenden Problemen wie algorithmischer Diskriminierung ablenken könne. Der Soziologe James J. Hughes und Eli Sennesh kritisierten die Zusammenfassung dieser unterschiedlichen Strömungen unter dem TESCREAL-Begriff dagegen als pauschalisierend und argumentierten, dass deren progressive politische Traditionen dabei unzureichend berücksichtigt würden.

Werk

• Mit Émile P. Torres: The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence. In: First Monday. 14. April 2024, ISSN 1396-0466, doi:10.5210/fm.v29i4.13636. 
• Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist. Atria/One Signal Publishers, angekündigt für den 16. Februar 2027, ISBN 978-1-66809-307-8.

Auszeichnungen

2021 nahm die Fachzeitschrift Nature Gebru in ihre Nature’s-10-Liste der zehn Personen auf, welche die Wissenschaft in jenem Jahr besonders geprägt hatten.

Im September 2026 gehörte Gebru zu den vier Ausgezeichneten des jährlichen Right Livelihood Awards. Die Jury begründete die Auszeichnung damit, dass sie die Machtkonzentration im Bereich der künstlichen Intelligenz herausfordere und eine Technologieentwicklung fördere, die Gerechtigkeit, gelebte Erfahrung und menschliche Selbstbestimmung in den Mittelpunkt stelle.

Weblinks

Commons: Timnit Gebru – Sammlung von Bildern, Videos und Audiodateien

• Stanford University, ai.stanford.edu: Persönliche Webseite
• Distributed Artificial Intelligence Research Institute (DAIR)
• Bluesky-Account: bsky.app
• Faz.net, 11. Dezember 2020, Fridtjof Küchemann: KI-Ethikerin Timnit Gebru – Google verliert eine kritische Stimme
• Dylan Doyle-Burke, Jessie Smith: Confronting Our Reality: Racial Representation and Systemic Transformation with Dr. Timnit Gebru, Radical AI Podcast, Folge 12, 2020 (Interview-Podcast, 76 min)

Einzelnachweise