Vertrauen durch Transparenz: Wie Unternehmen die KI-Transformation erfolgreich und verantwortungsbewusst gestalten können

Die KI-Revolution ist in vollem Gange. Laut einer aktuellen internationalen Studie von Deloitte unter 2.800 Führungskräften erwartet die große Mehrheit der Befragten (79 %), dass Künstliche Intelligenz in den nächsten drei Jahren zu signifikanten Veränderungen in ihren Unternehmen führen wird. Zugleich richtet sich der Blick der Leader auch sorgenvoll in die Zukunft: So fühlt sich nur ein Viertel der Befragten gut auf Governance- und Risikofragen vorbereitet.

Vor allem die mangelnde Erklärbarkeit und Transparenz von KI-Systemen, die Einhaltung von Compliance-Richtlinien und der Schutz geistigen Eigentums geben Anlass zur Sorge. Kurzum: Es ist die berüchtigte ‚Blackbox KI‘, die Managern Kopfzerbrechen bereitet. Denn selbst für ausgewiesene Experten sind die Entscheidungsprozesse und Funktionsweisen komplexer KI-Systeme oftmals nur schwer nachzuvollziehen. Viele Unternehmen zögern daher, die KI-Transformation in Angriff zu nehmen, da sie rechtliche, ökonomische und ethische Risiken fürchten. 

Unternehmen dürfen nicht untätig bleiben

Eine abwartende Haltung ist allerdings die denkbar schlechteste Option. Denn die KI-Revolution vollzieht sich unaufhaltsam und erreicht mittlerweile den Arbeitsalltag einer großen Zahl von Menschen. Welche gravierenden Folgen eine Vogel-Strauß-Taktik in dieser Situation haben kann, zeigt sich etwa am Phänomen der Schatten-KI. So kommen zunehmend KI-Tools zum Einsatz, die von den Unternehmen nicht zugelassen sind und großen Schaden anrichten können: Schon jetzt lässt sich ein rasanter Anstieg von Insider-Datenverlust feststellen, es drohen zudem Compliance-Verstöße und unabsehbare Haftungsrisiken. Doch werden auch die Wettbewerbsnachteile gegenüber anderen Marktteilnehmern, die sich schnell und umfassend auf den KI-Umbruch vorbereiten, massiv sein. Klar ist also: Unternehmen dürfen nicht zögern, sondern müssen die KI-Transformation aktiv gestalten. 

Der EU AI Act fordert Unternehmen zum Handeln auf

Für europäische Organisationen ist der Handlungsbedarf umso dringlicher, da mit dem EU AI Act schon bald ein umfangreiches Regelwerk in Kraft tritt. Vor allem für Hochrisiko-Anwendungen gelten dann strenge Vorgaben. Darunter fallen nicht nur hoch spezialisierte KI-Systeme für autonome Fahrzeuge oder medizinische Geräte. Auch KI-gestützte Recruiting-Tools im Personalwesen beispielsweise werden dann als High-Risk-Systeme eingestuft. So müssen Unternehmen ausschließen, dass das KI-System einen Bewerber aufgrund seines Geschlechts, seiner sozialen Herkunft oder ethnischen Zugehörigkeit benachteiligt. Andernfalls drohen dem Unternehmen künftig hohe Strafen – vom enormen Reputationsschaden ganz zu schweigen. Doch auch für Systeme mit geringerem Risiko wie etwa Chatbots gelten künftig klare Transparenz- und Dokumentationspflichten, die nicht unterschätzt werden sollten.

Mit innovativen Lösungen zu sicheren und vertrauenswürdigen KI-Tools

In welche Risikoklasse ein KI-System fällt, müssen die Unternehmen dabei selbst feststellen. Dies gestaltet sich insbesondere bei eingekauften Technologien nicht immer einfach. Viele Organisationen fürchten daher schon jetzt den hohen Aufwand, der durch den EU AI Act, aber auch durch andere Verordnungen und Normen auf sie zukommt. Es wird jedoch nicht unbedingt erforderlich sein, ganze Teams aus IT-Spezialisten und Rechtsexperten zusammenzustellen, um KI-Systeme adäquat zu überprüfen. Denn die Situation heute ist durchaus vergleichbar mit den Anfängen der Bekämpfung von Computerviren: Nur die allerwenigsten Unternehmen haben ihr eigenes Antivirenprogramm entwickelt, sondern auf externe Software-Lösungen vertraut. Wohl ganz ähnlich wird es sich auch jetzt verhalten: So sind inzwischen innovative Risikomanagement-Plattformen auf dem Markt, mit denen sich umfangreiche Governance- und Compliance-Tests schnell und ohne großen Aufwand durchführen lassen. Das spart Personal und Ressourcen: KI-Experten müssen sich nicht mit zeitraubenden Tests herumschlagen, sondern können ihre Zeit für anspruchsvollere und innovative Aufgaben nutzen. Hierbei ist es ganz entscheidend, auf Technologien zu setzen, die sich nicht nur an IT-Spezialisten richten. Auch Compliance-Beauftragte oder Entscheidungsträger sollten sich möglichst unkompliziert ein umfassendes Bild über mögliche Risiken der eingesetzten oder zur Anschaffung vorgesehenen KI-Systeme machen können. Nur so ist die größtmögliche Transparenz und damit eine solide Entscheidungsgrundlage gewährleistet.

Neue Regularien als Framework für eine verantwortungsvolle KI-Strategie

Wichtig ist in diesem Zusammenhang auch das richtige Mindset: Unternehmen sollten gesetzliche Regelungen wie den AI Act nicht als lästige Pflicht oder gar als Innovationsbremse betrachten, sondern als Triebfeder für eine verantwortungsvolle und zukunftsorientierte KI-Strategie. Dabei geht es gerade nicht darum, den Gesetzen und Verordnungen einfach nur Genüge zu leisten. Vielmehr bieten die neuen Regularien ein gutes Framework, um eine individuelle und passgenaue KI-Strategie für das eigene Unternehmen zu erarbeiten. So kann die Validierung der eigenen KI-Tools auch einen willkommenen Anlass bieten, um über Themen wie Inklusion oder die Verhinderung von Diskriminierung neu nachzudenken und bestehende Richtlinien nachzuschärfen. Und zwar unabhängig davon, ob dies gesetzlich erforderlich wäre oder nicht. Die KI-Transformation ist kein juristischer Verwaltungsakt oder eine rein technologische Herausforderung, sondern kann nur gelingen, wenn Unternehmen sich ihrer gesellschaftlichen Verantwortung bewusst sind und zur Stärkung des Vertrauens in KI beitragen.

Die KI-Transformation als Gemeinschaftsaufgabe

Der langfristige Erfolg der KI-Transformation liegt jedoch nicht allein in den Händen der Wirtschaft. Mit der Verabschiedung des EU AI Act hat die europäische Politik unter Beweis gestellt, dass sie das Ausmaß der vor uns liegenden Herausforderungen erkannt hat. Die Signalwirkung für andere Teile der Welt wird groß sein. Doch müssen wir alle gemeinsam die nächsten Schritte gehen. Dazu gehört vor allem eine gesamtgesellschaftliche Debatte darüber, wie wir uns eine positive Zukunft mit KI vorstellen und wie wir diese am besten gestalten können. Doch auch umfassende Bildungsinitiativen in Schulen und Betrieben sind unerlässlich, um zu einem besseren Verständnis der neuen Technologie zu gelangen und das Vertrauen in KI zu stärken. Eines steht jedenfalls fest: Transparenz, Erklärbarkeit und Kontrolle sind die Grundpfeiler einer sicheren und verantwortungsvollen Nutzung von KI. Bauen wir unsere Zukunft mit Künstlicher Intelligenz nicht auf diesem Fundament auf, droht die wohl tiefgreifendste technologische Transformation seit der Einführung des Internets zu scheitern.