vertrauenswürdige KI und Risikomanagement

Trusted AI – vertrauenswürdige KI: Risikomanagement für künstliche Intelligenz

Künstlich intelligente Systeme bringen viele Vorteile für Unternehmen. Sie können Prozesse automatisieren und standardisieren, in Echtzeit reagieren, Produkte und Services verbessern und personalisieren und vieles mehr. Aber es warten auch neue Herausforderungen und Risiken, für die in Bezug auf vertrauenswürdige KI das reguläre unternehmensweite Risikomanagement-System meist nicht ausreicht.

Risikomanagement für vertrauenswürdige KI

Obwohl es bereits IT-Risikomanagementsysteme gibt, unterscheiden sich künstlich intelligente Systeme von herkömmlicher Software. Traditionell ging es immer um Automatisierung, aber mit der KI bewegen wir uns immer mehr in Richtung Autonomie der Systeme. Außerdem ändert sich die Entscheidungsgrundlage, indem (erprobte) Regeln durch Wahrscheinlichkeiten ersetzt werden und die Ergebnisse meist nur so gut sind wie das Training des Modells. Aus rechtlicher Perspektive können sich aus dem Zivil- sowie auch dem Strafrecht Pflichten für das Unternehmen ergeben. Im Rahmen des Strafrechts ergibt sich die Pflicht zur Dokumentation von Risikovorsorge- und Gefahrenvermeidungsmaßnahmen. Nur so können Unternehmen beweisen, dass sie nicht fahrlässig handeln und bekannte Gefahren und Risiken beim Einsatz von KI gesteuert haben. Aber auch aus dem Zivilrecht können sich Pflichten ergeben, obwohl noch nicht genau ausjudiziert ist, welche bestehenden Normen für spezifische Fälle angewendet werden. Hier ist auch die akademische Meinung unterschiedlich.

Geeignete Werkzeuge, um KI-Systeme sicher zu machen.

Um das Risiko der Anwendung von Künstlicher Intelligenz zu steuern, sollten Unternehmen verschiedene Faktoren berücksichtigen, die eine effektive Steuerung, zielgerichtetes Design und durchgängige Kontrolle möglich machen. Als Instrumente können dafür Wirkungsanalysen, Inventarisierung und Überprüfungswerkzeuge dienen, um die KI vertrauenswürdig zu machen. Vor allem ist es wichtig, das Bewusstsein im Unternehmen, bei Benutzern und Kunden zu schaffen, damit das System auch akzeptiert wird. Unzählige Institutionen beschäftigen sich bereits oberflächlich mit dem Thema, zum Beispiel haben die AI Expert Group der Europäischen Union und auch die österreichische Regierung entsprechende Leitlinien publiziert. Auch Audit Gremien und die International Standardisation Organisation (ISO) befassen sich damit, zugeschnittene Risikomanagementsysteme umzusetzen. Unternehmen sollten sich daher schon bei der Einführung proaktiv mit den Risiken beschäftigen, die mit KI einhergehen. Damit können sie die Grundlage für eine sichere und vertrauenswürdige KI etablieren, die das volle Potenzial der Technologie im Sinne des Unternehmens, seiner Kunden und der Gesellschaft lukrativ macht.

Sonja Ladan

EY

Bernd Schwarzer

Bernd Schwarzer

EY