„Ohne Vertrauen keine Akzeptanz“: Warum vertrauenswürdige KI für Unternehmen unverzichtbar ist

Wie können Unternehmen das Vertrauen in KI-Systeme stärken? Darüber sprechen Juliane Musil, Partnerin bei BearingPoint, und Dorothea Gotthardt, COO von QuantPi, im Interview mit dem Business Punk. Ein Gespräch über die Bedeutung von „Trustworthy AI“, die Herausforderungen für Unternehmen und wie es künftig gelingt, in Sachen KI mehr über Chancen statt über Risiken zu sprechen.

Vertrauen gilt als Schlüsselfaktor für die breite Akzeptanz von KI. Warum sollten sich Business Leader mit dem Thema „vertrauenswürdige KI“ beschäftigen? 

Juliane Musil: Die Antwort ist einfach: KI wird sich nur dann durchsetzen, wenn Menschen der Technologie vertrauen. Das ist besonders relevant in einer Zeit, in der KI-Systeme zunehmend in Bereichen eingesetzt werden, in denen kritische Entscheidungen getroffen werden – sei es bei medizinischen Diagnosen oder bei Kreditvergaben im Finanzwesen. Je mehr diese Systeme unseren Alltag durchdringen, desto entscheidender ist es, dass sie zuverlässig, nachvollziehbar und sicher funktionieren. Wenn Unternehmen hier das Vertrauen der Menschen verspielen, könnte die KI-Revolution scheitern, bevor sie überhaupt richtig begonnen hat. Genau deshalb stellt der oft kritisierte EU AI Act den Menschen und seine Grundrechte ins Zentrum – eine Perspektive, die wir niemals aus den Augen verlieren dürfen. 
 
Dorothea Gotthardt: Die zentrale Frage ist … Wie baut man dieses Vertrauen auf? Hierzu ein Vergleich: Warum vertraut man einem Freund? Weil man ihn kennt, gemeinsame Erfahrungen teilt und das Verhalten einschätzbar ist. Mit KI-Systemen ist es ähnlich: Solange sie für uns eine undurchsichtige Blackbox bleiben, werden wir kein Vertrauen zu ihnen aufbauen. Erst wenn wir das Verhalten dieser Systeme nachvollziehen und ihre Funktionsweise verstehen, wird Vertrauen möglich. Unternehmen müssen deshalb auf transparente, kontinuierliche und verlässliche Testverfahren setzen. Diese reduzieren nicht nur Risiken, sondern schaffen auch eine solide Grundlage für effizientere Prozesse und langfristige Wertschöpfung.

Sind der Markt und die Unternehmen aktuell ausreichend vorbereitet, um den Anforderungen von „Trustworthy AI“ gerecht zu werden? Wo stehen wir derzeit? 

Musil: Die Erkenntnis, dass KI in Zukunft eine zentrale Rolle spielt, hat sich  durchgesetzt. Doch nur wenige Firmen haben sich bislang konkret damit beschäftigt, wie sie KI verantwortungsvoll und zukunftssicher einsetzen können: Laut einer frischen  Studie von BearingPoint haben nur 27 Prozent der deutschen Unternehmen Richtlinien und Best Practices für ihre KI-Initiativen erarbeitet. Zwar gibt es Vorreiter, doch die Mehrheit steckt noch in den Anfängen – sowohl strategisch als auch technologisch. Dieser Nachholbedarf könnte zu einem Hindernis werden, wenn es darum geht, die bedeutendste technologische Transformation seit der Einführung des Internets schnell und erfolgreich umzusetzen. 

Gotthardt: Ein Kernproblem liegt darin, dass die meisten Unternehmen weder die personellen noch die zeitlichen Ressourcen haben, um diese komplexen Aufgaben allein zu bewältigen – von der notwendigen Expertise ganz zu schweigen. Die Konsequenz? Die KI-Transformation wird verzögert oder komplett auf Eis gelegt. Wir wollen Unternehmen unterstützen, nun zügig aus der Versuchsphase herauszukommen und KI gezielt ins Kernbusiness zu integrieren, um Geschäftsprozesse effizienter zu gestalten, Innovationen voranzutreiben und Wettbewerbsvorteile auszuschöpfen.