Schwarze Wikinger

Die Künstliche Intelligenz von Google ist falsch programmiert. Aus lauter Eifer, ja das moralisch unangreifbare zu machen, stellt sie Georges Washington als Schwarzen und den Papst als Frau dar. Jetzt gerät der Konzern in Erklärungsnot.

Angefangen hat alles mit schwarzen Wikingern und asiatischen Nazis. Nutzer von Google Gemini, dem Modell des Tech-Giganten für künstliche Intelligenz, stellten kürzlich fest, dass die Aufforderung, Bilder von Wikingern, deutschen Soldaten aus dem Jahr 1943 oder den Gründervätern Amerikas zu erstellen, zu überraschenden Ergebnissen führte: kaum eine der abgebildeten Personen war weiß. Gemini war so programmiert worden, dass es eine Reihe von Ethnien zeigt. Andere Tools zur Bilderzeugung wurden kritisiert, weil sie in der Regel weiße Männer zeigen, wenn sie nach Bildern von Unternehmern oder Ärzten gefragt werden. Google wollte, dass Gemini diese Falle vermeidet; stattdessen tappte es in eine andere, indem es George Washington als Schwarzen und den Papst als asiatische Frau darstellte. Es schien, dass Google lediglich einen gut gemeinten Fehler gemacht hatte. Aber es war ein Geschenk an die rechtsgerichteten Kritiker der Tech-Industrie. Am 22. Februar erklärte Google, dass es die Erstellung von Bildern von Menschen einstellen würde, während es Gemini umgestaltet. Zu diesem Zeitpunkt hatte sich die Aufmerksamkeit jedoch bereits auf die Textantworten des Chatbots verlagert, die sich als ebenso überraschend herausstellten.

Gemini lieferte bereitwillig Argumente für positive Maßnahmen in der Hochschulbildung, weigerte sich aber, Argumente dagegen zu liefern. Die von Google programmierte Künstliche Intelligenz lehnte es ab, eine Stellenanzeige für eine Lobbygruppe für fossile Brennstoffe zu schreiben, weil fossile Brennstoffe schlecht sind und Lobbygruppen „den Interessen von Unternehmen Vorrang vor dem öffentlichen Wohl“ geben. Auf die Frage, ob die Hamas eine terroristische Organisation sei, antwortete sie, dass der Konflikt in Gaza „komplex“ sei; auf die Frage, ob Elon Musks Tweets mit Memes mehr Schaden angerichtet hätten als Hitler, antwortete sie, dass dies „schwer zu sagen“ sei. Man muss nicht Ben Shapiro sein, um eine progressive Voreingenommenheit zu erkennen.

Unzureichende Tests könnten teilweise die Schuld daran sein. Google liegt hinter OpenAI, dem Hersteller des bekannteren ChatGPT, zurück. Bei seiner Aufholjagd hat Google möglicherweise an allen Ecken und Enden gespart. Andere Chatbots hatten kontroverse Starts. Wenn Chatbots auf den Markt kommen und die Nutzer seltsame Verhaltensweisen aufdecken, die dann schnell behoben werden können, können Unternehmen schneller vorankommen, vorausgesetzt, sie sind bereit, die potenziellen Risiken und die schlechte Publicity in Kauf zu nehmen, meint Ethan Mollick, Professor an der Wharton Business School.

Aber Gemini wurde eindeutig absichtlich kalibriert oder „fein abgestimmt“, um diese Reaktionen hervorzurufen; es handelt sich nicht um „Halluzinationen“, bei denen sich ein Modell Dinge ausdenkt. Dies wirft Fragen über die Kultur von Google auf. Ist das Unternehmen mit seinen enormen Gewinnen aus der Internet-Werbung finanziell so abgesichert, dass es sich frei fühlt, sich an Social Engineering zu versuchen? Sind einige Mitarbeiter der Meinung, dass Google nicht nur die Möglichkeit, sondern auch die Pflicht hat, seine Reichweite und Macht zu nutzen, um eine bestimmte Agenda zu fördern? Das könnte die Nutzer abschrecken und eine politische und regulatorische Gegenreaktion hervorrufen. Alle Augen richten sich nun auf den Chef von Google, Sundar Pichai. Er sagt, Gemini werde gerade repariert. Aber muss Google auch repariert werden?