Frau gegen Maschinengott

Sie erforschte die Risiken künstlicher Intelligenz und verlor ihren Job bei Google. Heute kämpft Timnit Gebru gegen die Macht der Tech-Konzerne und für eine gerechtere Technologie. Für ihre Arbeit wird ihr demnächst der Alternative Nobelpreis verliehen.

Timnit Gebru gehört zu den bekanntesten Kritikerinnen des KI-Hypes. Verdammen will sie die Künstliche Intelligenz nicht, aber hartnäckig und öffentlich hinterfragen schon: Wozu bauen wir sie? Wer hat die Macht und wer trägt die Verantwortung? Gebru spricht in zahlreichen Interviews und Podcasts auf der ganzen Welt über die Machtkonzentration im KI-Sektor und tritt für mehr menschliche Selbstbestimmung ein. Für ihren Einsatz und ihre klaren Worte wird Gebru am 1. Dezember in Stockholm den Alternativen Nobelpreis bekommen.
Konsequent widerspricht Gebru dem Narrativ einer unbezwingbaren Superintelligenz. Es gebe mittlerweile eine säkulare Religion mit dem Glauben an einen „Maschinengott“, sagte sie gegenüber der deutschen Zeitung „Die Zeit“. Das sei großartig fürs Geschäft. Ob KI die Menschheit vernichten oder alle Krankheiten heilen werde: Beide Geschichten zeichnen das Bild einer unaufhaltsamen Technologie. Dabei entscheiden immer noch Menschen, was entwickelt und eingesetzt wird. Schon der Begriff „KI“ sei nebulös: Eine Anwendung, die Brustkrebs früh erkennt, habe mit ChatGPT wenig zu tun. Wer alles in einen Topf werfe, erschwere die Debatte über konkrete Folgen und Verantwortung.

Mächtige Systeme hinterfragen
Dass Gebru so beharrlich fragt, wer von Technologie profitiert und wer übersehen wird, hat auch mit ihrer eigenen Geschichte zu tun. Geboren wurde Gebru 1983 in Addis Abeba, Äthiopien. Ihre Eltern stammen aus Eritrea: die Mutter Ökonomin, der Vater Elektroingenieur. Als er starb, war Gebru erst fünf. 1998, zehn Jahre später, brach der Krieg zwischen Eritrea und Äthiopien aus. Die Mutter gelangte in die USA, Gebru nach Irland zu ihrer Schwester, wo sie ein Jahr auf ein Visum warten musste. In den USA erlebte sie Rassismus. Zuflucht fand sie in Mathematik und Physik, die ihr frei von Ungerechtigkeit erscheinen. Mit Bestnoten schaffte sie es zum Elektrotechnikstudium an die Elite-Universität Stanford. Ihre Leidenschaft fand sie in der Informatik und promovierte bei der Forscherin Fei-Fei Li über KI. Doch zunehmend wurde ihr klar: Auch Technik ist nicht frei von Vorurteilen.
Da fing Gebru an, die Menschen in der Tech-Szene genauer in den Blick zu nehmen. Auf einer KI-Konferenz in Barcelona 2016 zählte sie unter rund 5.500 Teilnehmenden nur sechs Schwarze Menschen und nahm sich vor, Strukturen zu schaffen, die sie selbst vermisste: 2017 gründet sie mit der US-amerikanischen Informatikerin Rediet Abebe „Black in AI“, eine Initiative für die Förderung Schwarzer Menschen in der KI-Forschung.

Technologie ist politisch
Das Jahr 2018 war wegweisend für Gebru. Gemeinsam mit anderen gründete sie die erste FAT*-Konferenz in New York. Seitdem findet die Konferenz jedes Jahr statt, heute unter dem Namen ACM FAccT. Dort geht es darum, wie Algorithmen fair, nachvollziehbar und verantwortungsvoll gestaltet werden können. Außerdem veröffentlichte sie mit der kanadischen Informatikerin Joy Buolamwini die Studie „Gender Shades“, die zeigt, wer im Datensatz fehlt (das Südwind-Magazin berichtete): Programme zur automatischen Geschlechtszuordnung liegen bei Schwarzen Frauen in bis zu 35 Prozent der Fälle falsch, bei weißen Männern in weniger als einem Prozent. Schließlich wurde Gebru im selben Jahr noch Co-Leiterin von Googles Team für „Ethische KI“. Dort führte ihre Kritik bald zum Konflikt: Ein Paper, das sie 2020 mit drei Forscherinnen verfasste, warnte vor Risiken großer Sprachmodelle, u.a. vor dem hohen Energieverbrauch, der Übernahme rassistischer und sexistischer Muster sowie der Verbreitung von Falschinformationen. Google verlangte, das Paper zurückzuziehen und berief sich dabei auf Qualitätsmängel. Andere Forschende widersprachen. Aber Gebru bekam eine Mail: Ihre Kündigung sei akzeptiert worden, hieß es darin. Sie sagt, sie habe nie gekündigt.
Aber sie ging.

KI ist keine Naturgewalt
Ein Jahr danach gründete Gebru das Distributed AI Research Institute, kurz DAIR, ein Gegenentwurf zur gewinnorientierten Forschung der Tech-Konzerne. „Wir müssen die Stimmen, die betroffen sind, einbauen“, meinte sie und ließ die Datenarbeiter:innen aus dem Globalen Süden selbst ihre Arbeitsbedingungen erforschen. In Südafrika untersuchte DAIR mit Satellitenbildern, wie die räumliche Trennung der Apartheid fortwirkt. Auch Hassrede auf Social Media-Plattformen, etwa im Kontext des Kriegs in Tigray in Äthiopien wurden untersucht.

Mit dem Alternativen Nobelpreis erhält Gebru nun eine Anerkennung, die ihre Arbeit abseits der großen Konzerne sichtbar macht. Ihr Buch „Deep Unlearning“ soll Anfang 2027 erscheinen. Ihre Botschaft bleibt dieselbe: Die Zukunft der KI ist keine Naturgewalt, sondern das Ergebnis menschlicher Entscheidungen, und Menschen können sie anders treffen.

Milena Österreicher ist Chefredakteurin des vierteljährlich erscheinenden MO-Magazin für Menschenrechte. Als freie Journalistin schreibt sie über gesellschaftliches Zusammenleben, Demokratie und Menschenrechte.