Karriere der Zukunft: Dient dir die KI oder dienst du ihr?

Dämonisch inspiriert, „als wäre eine Kraft aus einer anderen Welt im Spiel“, so beschreibt Jason Allen aus Colorado seine Zusammenarbeit mit Kollegin KI, dem Grafikprogramm Midjourney. Und Allens dämonische Kollaboration war erfolgreich: Auf der Colorado State Fair fand er sein Kunstwerk „Théâtre d’opéra Spatial“ mit einer blauen Schleife dekoriert und gewann 300 Dollar Preisgeld. Unverdient? Schließlich hatte Allen lediglich Text ins Programm Midjourney eingegeben. Das an Acrylmalerei erinnernde Werk setzten dann nur noch die Algorithmen zusammen.

Die Rollen in dieser Dystopie scheinen klar verteilt: künstliche Intelligenz, die den Menschen immer mehr Jobs abnimmt. Als Utopie gewendet, führt dasselbe mit einem Grundeinkommen zu paradiesischen Zuständen. Das wirklich Dämonische an der Geschichte ist: Die Realität ist eine andere – und sie hat mehr mit Ausbeutung zu tun als mit Algorithmen.

Erster Realitätscheck: Arbeit bleibt, aber sie ist degradiert.

„Wir werden nicht mehr Kassiererin sein, sondern die Person neben den automatischen Kassen. Die zur Hilfe kommt, wenn das System mal wieder nicht richtig funktioniert.“ Das sagt Meredith Whittaker. Die Amerikanerin ist zuletzt Präsidentin der Signal Foundation geworden, des Anti-Whatsapp, wenn man so will. Als Professorin forschte sie in New York City zu KI. Mittlerweile ist sie eine der wichtigsten kritischen Stimmen.

Realitätscheck Nummer zwei: KI ist nicht neu.

„Als ich noch bei Google war, dachte ich mir: Das hätten wir doch früher gar nicht als künstliche Intelligenz bezeichnet“, sagt Whittaker. „Aber es verkauft sich eben gut. Vor allem, wenn jemand nicht versteht, was da hinter den Kulissen passiert.“ Whittaker war einst eine der mutigsten internen Kritikerinnen bei Google. Organisierte die Walkout-Proteste gegen diskriminierende Daten, hatte schließlich genug vom leeren Versprechen, dass Google sich bessern werde.

Heute sieht sie kritisch, dass die Datenkonzerne unter dem Begriff KI ein Wundermittel anpreisen und dabei die Gefahren unter den Teppich kehren. „Es sind Techniken aus den 80er-Jahren, die jetzt mit massiven Mengen an Daten und stärkeren Rechnern zusammentreffen. Und man kann diese Geschichte von superintelligenten Maschinen erzählen. Man soll sie nicht infrage stellen, sie haben die übermenschlichen Antworten.“

Da würde auch KI-Praktiker Philipp Adamidis laut widersprechen. „Man kann mit KI allein keine ethischen Fragen klären“, sagt der Chef des Saarbrücker Startups QuantPi. Denn genau hier setzt seine Dienstleistung an: KI-Systeme sicherer machen – und fairer. Aber die Ziele, Definitionen von Fairness etwa, legen weder der Algorithmus fest noch Philipp Adamidis selbst. „Wir haben die technischen Werkzeuge, überlassen aber die ethischen und rechtlichen Fragen den entsprechenden Experten.“ QuantPi entwickelt eine Softwareplattform, mit der KI-Entwickler:innen ihre Daten- und KI-Systeme transparenter machen und an solche Anforderungen anpassen können.

Realitätscheck Nummer drei: potenzierte Ungerechtigkeiten.

Whittaker sitzt neben dem Silent Green, einem Kongresszentrum in Berlin. Und wie im Film, auf den es anspielt, geht es ihr um verborgene Ausbeutung (auch wenn kein Kannibalismus im Spiel ist wie in „Soylent Green“). „Viel vom KI-Hype ist bloße Arbeitskosten-Arbitrage: Unternehmen können damit Arbeit in schlechter bezahlte Regionen verlagern“, sagt die Forscherin. „Dann heißt es: Schaut her, das ist unser magischer Roboter. Dabei sind es nur extrem schlecht bezahlte Arbeitskräfte, die unsichtbar bleiben – woanders auf der Welt.“

Algorithmen müssen gepflegt werden, trainiert, Datensätze aufbereitet. Harte Arbeit, auch wenn niemand dafür die eigenen vier Wände verlassen muss. Sogenannte Clickworker, digitale Tagelöhner:innen, arbeiten in Staaten wie Venezuela für 90 Cent pro Stunde. Und vergeben dabei zum Beispiel Schlagworte zu Grafiken.

KI kann die Ungerechtigkeiten der Welt nicht aus sich heraus ändern. Das betont auch Adamidis immer wieder. Daten sind ein Rohstoff, der bereinigt und auf verantwortungsvolle Art eingesetzt werden muss, damit kein Schaden entsteht. Er erläutert: „In den 50er-Jahren sagte man schon über die traditionellen IT-Systeme: ,Garbage in, garbage out‘. Wer die Algorithmen mit schlechten Daten füttert, bekommt auch Müll als Ergebnis.“

Das Problem ist mit den heutigen Datenmengen potenziert. Die künstlichen Intelligenzen lernen anhand von Beispielen aus dem Internet. Dabei übernehmen sie auch Rassismus, Hass auf Frauen, Vorurteile. Adamidis nennt ein Beispiel: „Amazon hatte einen Personal-Algorithmus, der als Datenbasis mit den Lebensläufen aller Amazon-Mitarbeiter und -Bewerber gespeist wurde. Da es historisch in den Techabteilungen viel zu wenige Daten von Frauen gab, hat der Algorithmus diesen Datenbias übernommen. Das ist auch ein gesellschaftliches Problem. Es muss jedoch immer das Ziel sein, dies zu erkennen und die KI entsprechend zu korrigieren.“

Aber nun zur Zukunft

Whittaker findet einen Fokus wichtig: „Wer nutzt KI, und wen benutzt die KI?“ Denn auch wenn es nicht immer unter dem Label laufe, die Probleme seien längst da. „Es gibt einen Trend, Arbeitende stärker zu überwachen. Sie zu bewerten. Und diese Pseudowissenschaft der Emotionenerkennung.“ Das alles dürfe nicht vergessen werden. Nicht verdeckt von Erzählungen über niedliche, schlaue Roboter, die uns angeblich das Leben erleichtern werden.

Adamidis hingegen betont als Lösungen mehr Transparenz und einheitliche Standards. „Die KI-Transformation ist in vollem Gange. Komplexe Systeme werden immer stärker miteinander verknüpft werden.“ Wie man sie dabei kontrolliert? Adamidis vergleicht es mit einem analogen Auto: „Wieso vertrauen wir einer komplexen Maschine, die mit 250 Kilometern pro Stunde über die Autobahn fährt? Weil es lange bewährte Zertifikate und Prüfverfahren für Autos gibt. Bei der technisch komplexen Prüfung von KIs sind wir hingegen noch ganz am Anfang.“

Wir haben 7 Thesen zur Karriere der Zukunft aufgestellt: Hier geht es zur nächsten – Selbstdisziplin als wichtigste Tugend.

Dieser Text stammt aus unserer Ausgabe 5/22. Wir haben 7 Hot Takes zur Karriere von morgen, die euch Feuer geben, ohne dass der Burnout droht. Außerdem: Ferngesteuerte Spermien, Lush-Seifenoper mit Gründer Mark Constantine und Legende Ursula K. LeGuin. Hier geht es zur Bestellung – oder ihr schaut am Kiosk eures Vertrauens vorbei.