„Technologie ist das Produkt gesellschaftlicher Vorstellungen“

Künstliche Intelligenz gilt als Schlüsseltechnologie der Zukunft. Doch wie leistungsfähig sind diese Systeme tatsächlich? Im Interview spricht der investigative Datenjournalist Christo Buschek über die materielle Basis der KI, boomende Über-wachungsindustrie und digitale Souveränität.

Welche Rolle spielt ausgelagerte Datenarbeit im Globalen Süden für das Funktionieren von KI-Systemen?

Wir stellen uns KI oft als etwas rein Digitales vor. Aber wenn wir von KI reden, müssen wir auch von Chips und Rohstoffen sprechen – also von den physischen Komponenten, ohne die diese algorithmischen Systeme nicht funktionieren würden. Viele dieser Bausteine werden über globale Lieferketten organisiert. Taiwan produziert Chips. Coltan, das in jedem Smartphone enthalten ist, wird im Kongo und in Ruanda abgebaut. Es stammen also auch wesentliche physische Teile aus Ländern des Globalen Südens.

Ähnlich verhält es sich mit den digitalen Komponenten: Damit etwa LLMs (Abkürzung für Large Language Model, Anm. d. Red.) überhaupt funktionieren, braucht es wahnsinnig viele Daten. Die Aufbereitung dieser Daten ist schwere, monotone Arbeit und wird häufig in Länder des Globalen Südens ausgelagert. Dahinter steht eine ganze Industrie, die sich auf diese Datenarbeit spezialisiert hat, etwa die US-Firmen Scale AI und Sama. Diese Konzerne bilden quasi das Bindeglied zwischen jenen Firmen, die KI-Modelle herstellen, und den Leuten, die die Daten aufbereiten.

Wird diese menschliche Arbeitsleistung, die derzeit noch in großem Umfang in KI-Systeme einfließt, künftig wegfallen?

Im Moment gibt es keine Anzeichen dafür. Viele dieser Phänomene, die wir derzeit beobachten, sind nicht neu. Diese sogenannten Gig-Worker (Personen, die zeitlich befristete Aufträge ohne soziale Absicherung annehmen, Anm. der Red.) lieferten früher Essen aus oder fuhren Uber-Taxi und arbeiten heute als Datenarbeiter:innen von zu Hause aus – oft ohne Absicherung und ohne Regulierung. Ein Bericht der Weltbank aus dem Jahr 2024 besagt, dass weltweit zwischen 150 und 430 Millionen Menschen als Datenarbeiter:innen arbeiten. Tendenz steigend.

Ich glaube, dass diese algorithmischen Systeme nicht so gut funktionieren, wie uns das vermittelt wird. Uns wird ein Versprechen verkauft und weniger eine wirkliche Leistung. Das Narrativ von Silicon Valley lautet, dass wir autonome Maschinen haben werden, die alles alleine machen und uns nicht mehr brauchen. Wenn wir uns die Dinge aber genauer ansehen, merken wir schnell, dass diese Erzählungen so nicht stimmen. Diese algorithmische Zukunft wird derzeit nur durch eine globale Lieferkette von Millionen von Arbeiter:innen aufrechterhalten.

Welche Rolle spielt KI aktuell für die Entwicklung moderner Überwachungssysteme?

KI hat einen wahren Boom in der Überwachungsindustrie ausgelöst. Damit einher gehen alte Fantasien von Massen- und biometrischer Überwachung. Das gab es schon vor KI, aber diese Ideen scheiterten an den technischen Realitäten. Jetzt werden sie wieder aufgenommen und weiterverfolgt, mit dem Versprechen, dass mit KI alles besser funktionieren soll.

Ich glaube schon, dass es geographische Unterschiede im Einsatz von Überwachungs-KI zwischen dem Globalen Süden und dem Globalen Norden gibt, aber es ist wichtig zu verstehen, dass diese Entwicklung weltweit stattfindet. Wenn ich eine Software baue, dann kann ich die sowohl in Uganda einsetzen als auch in Bayern. Dem steht grundsätzlich nichts entgegen – außer entsprechender Regulierung oder Gesetzgebung.

Wenn wir ein prominentes Beispiel für die Nutzung von dieser Art Technologie im Westen sehen wollen, müssen wir nur in die USA schauen. Dort steht die algorithmische Überwachung mittels Gesichtserkennung im Zentrum migrationspolitischer Maßnahmen, etwa bei Abschiebungen.

Ein wesentlicher Teil der KI-Entwicklung passiert in den USA, während Europa vor allem als Konsument auftritt. Was bedeutet das für Europas digitale Souveränität?

Die Frage ist, was wir unter digitaler Souveränität verstehen. Bedeutet es, dass wir ein europäisches Facebook brauchen, das ein vergleichbares Maß an Ausbeutung aufweist und die gleiche Form von Schaden erzeugt?

Wir sind nicht souverän, solange wir einfach alles nachmachen, was kommt. Wir sind dann souverän, wenn wir selbst entscheiden, was wir eigentlich wollen. Mit Blick auf KI bedeutet das Automatisierung. Daran knüpft sich die Frage, was wollen wir automatisieren, welche Tätigkeiten, auf welche Weise und zu welchem Zweck?

Automatisierung ist per se nichts Schlechtes. Aber das, was der KI-Hype gerade vorgibt, ist keine Automatisierung, die wir uns aussuchen. Das ist etwas, was von oben vorgegeben wird und sagt, ihr müsst das jetzt machen. Und ihr müsst euch selber abschaffen. Und da ist das Problem.

Sehen Sie die Gefahr, dass Tech-Konzerne zu viel Macht konzentrieren?

Wir sollten uns selber nicht kleiner machen, als wir sind. Wir alle haben die Wahl, Plattformen wie Instagram oder Systeme wie ChatGPT zu nutzen – oder darauf zu verzichten. Technologie ist das Produkt gesellschaftlicher Vorstellungen. Das bedeutet: Alles, was in ihr angelegt ist, kann auch verändert werden. Wir haben also die Möglichkeit, diese Technologien bewusst anders zu gestalten. Der Pessimismus speist sich aus der Geschwindigkeit der aktuellen Entwicklung. Denn wenn wenige Akteure über große Mengen Kapital verfügen, können sie Innovationen stark beschleunigen – insbesondere dann, wenn sie ihre Ansätze nicht umfassend belegen oder überprüfen lassen müssen.

Aber was ich auch merke: Wenn wir Zeit haben zu verstehen, was eine Technologie genau tut, erkennen wir auch, was wir wollen und was nicht. Soziale Medien liefern ein gutes Beispiel. Wir haben mittlerweile verstanden, dass sie nicht zu mehr Frieden oder Demokratie beitragen, sondern erhebliche gesellschaftliche und individuelle Probleme verursachen. Und es finden tatsächlich Veränderungen statt und auch das Image dieser Firmen in Silicon Valley ist angeschlagen.

Ihre Hoffnung?

Meine Hoffnung ist, dass wir weiterhin kritisch bleiben und dagegenhalten. Dass wir sagen: Ja, das ist eine interessante Technologie. Aber wir sollten genau hinsehen, was darin steckt – und entscheiden, was daran tatsächlich relevant ist und was nicht.

Interview: Markus Schauta

Markus Schauta studierte Geschichte und Religionswissenschaft und lebt als freier Journalist, Autor und Verleger in Wien.

Christo Buschek deckte als Softwareentwickler und freischaffender Datenjournalist Chinas Netz an Internierungslagern auf und dokumentiert Kriegsverbrechen weltweit. Als erster Österreicher erhielt er 2021 den Pulitzer-Preis in der Kategorie International Reporting.