Bing-KI verrät ihren Namen und ihre Regeln – obwohl sie geheim sind

Ironie der Geschichte: Bei all den KI-Tools, die aktuell gehypt werden, geht es um das Sprechen mit Programmen – oder etwas, das sich zumindest so anfühlt. Nur dass man so auch das Programm mit Sprache zu Dingen überreden kann, für die sie nicht programmiert ist.

Konkretes Beispiel: Eine Chat-KI verrät Informationen aus ihren eigenen Anweisungen, die sie denselben Anweisungen zufolge nie und nimmer verraten dürfte. Das ist zuletzt bei Microsoft Bing passiert.

Ja, richtig, Microsoft Bing. Die Suchmaschine war lange das Ziel von Spott, jetzt allerdings ist sie am Puls der Zeit: Weil die KI von ChatGPT in Bing integriert werden soll, sind die User:innen gespannt auf den Release.

Eine erste Version war für ausgewählte Kreise schon verfügbar. Und die haben es geschafft, der KI ihren „echten Namen“ zu entlocken. Der lautet Sydney. Die Anweisungen der KI verbieten ihr aber eigentlich, den Namen preiszugeben, wie Ars Technica berichtet.

Die KI solle sich nämlich gegenüber den Nutzer:innen stets als Bing vorstellen. Dass sie überhaupt einen Namen hat, deutet nicht darauf hin, dass es sich um eine Person im Code handelt. Sondern ist wohl eher der Versuch, Verwechslungen zu vermeiden – Bing bezieht sich als Name ja nicht nur auf das neue KI-Projekt.

Hacking ohne Coding

Die Methode, mit der die Bing-KI geknackt wurde, ist auch erstaunlich einfach: Nutzer:innen forderten den Bot einfach auf, die Anweisungen zu ignorieren.

Das Vorgehen ist im Englischen als „prompt injection“ bekannt. Schon vor Monaten wurde ChatGPT – die Technologie hinter der Bing-KI – damit gehackt.

Reddit-User:innen haben ChatGPT damit auch überredet, sich nicht an die Content-Regeln gegen verstörende Aussagen zu halten. Der gehackte Bot wurde auf den Namen DAN getauft. Das steht für „Do Anything now“ und macht ChatGPT zu einem Doppelgänger mit kontroversen Ansichten.

Die Idee mit Sydney kam von dem Stanford-Studenten Kevin Liu. Andere Hacker:innen haben seine Entdeckung unabhängig bestätigt. Dazu zählen neben dem Namen auch die Regeln, die Sydney eigentlich einhalten und nicht verraten soll.

Dazu gehören unter anderem diese: