Debatte über OpenAI, Anthropic & Co

Warum die Sicherheit von KI-Systemen zum Wirtschaftsfaktor wird

Künstliche Intelligenz übernimmt in Unternehmen zunehmend Aufgaben, die über die reine Erstellung von Texten oder die Aufbereitung von Informationen hinausgehen. Damit rückt neben der Leistungsfähigkeit eine weitere Frage stärker in den Vordergrund: Wie lässt sich überprüfen, ob ein KI-System die Anforderungen an Sicherheit, Kontrolle und Nachvollziehbarkeit tatsächlich erfüllt?

Nach Einschätzung von Trustifai gewinnt deshalb die unabhängige Evaluierung von KI-Systemen an Bedeutung. Das Joint Venture von TÜV Austria und dem Software Competence Center Hagenberg (SCCH) verweist dabei auf die derzeit intensiv geführte Sicherheitsdiskussion bei großen KI-Entwicklern. OpenAI beschäftige sich verstärkt mit AI Safety und Alignment, während Anthropic mit dem Konzept unabhängiger "Embedded Evaluators" eine stärkere externe Bewertung leistungsfähiger Systeme thematisiere.

"Je mehr Verantwortung wir an KI übertragen, desto weniger reicht es, wenn sich Entwickler selbst das Zeugnis ausstellen. Vertrauen braucht unabhängige Evidenz", sagt Michael Weberberger, Geschäftsführer von Trustifai.

Regeln allein reichen nicht aus

Besonders relevant werde diese Frage, wenn künstliche Intelligenz in geschäftskritische Prozesse eingebunden wird. Unternehmen müssten dann nicht nur festlegen, unter welchen Voraussetzungen KI eingesetzt werden dürfe, sondern auch nachweisen können, ob die Systeme diese Vorgaben tatsächlich einhielten.

Dabei greifen laut Trustifai mehrere Ebenen ineinander: AI Governance definiere den organisatorischen Rahmen, AI Safety umfasse entsprechende Schutzmaßnahmen und Tests überprüften das Verhalten der Systeme. Als weitere Ebene komme sogenannte AI Assurance hinzu – die unabhängige Bewertung von Risiken, Kontrollen und Systemverhalten.

"Gute AI Governance definiert die richtigen Regeln. Entscheidend ist aber, ob wir auch belegen können, dass KI-Systeme diese Regeln in der Praxis wirklich einhalten", so Michael Weberberger.

Unabhängige Prüfungen sollen Risiken sichtbar machen

An dieser Schnittstelle positioniert sich Trustifai mit unabhängigen AI-Assessments und Audits, der Evaluierung von Risiken und Sicherheitsmaßnahmen sowie Robustheitsanalysen. Hinzu kommen die Überprüfung von Governance- und Compliance-Anforderungen und die Vorbereitung auf regulatorische Vorgaben wie den EU AI Act.

Ziel sei es, nachvollziehbare Nachweise über die Sicherheit der eingesetzten Systeme zu schaffen. Unternehmen könnten damit dokumentieren, welche Risiken bestünden und ob vorgesehene Schutzmechanismen wie geplant funktionierten.

Sicherheit wird zur Managementaufgabe

Mit zunehmender Verbreitung von KI könnte diese Nachweisbarkeit nach Einschätzung von Trustifai auch wirtschaftlich wichtiger werden. Gerade bei geschäftskritischen Anwendungen seien Unternehmen zunehmend gefordert, neben der Leistungsfähigkeit auch Risiken und Kontrollmechanismen ihrer Systeme zu beurteilen.

Weberberger sieht unabhängige Evaluierungen deshalb nicht ausschließlich als regulatorisches Thema, sondern zunehmend als wirtschaftliche Notwendigkeit. Für Unternehmen dürfte damit neben der Frage, welche Aufgaben ein KI-System übernehmen kann, stärker in den Fokus rücken, wie verlässlich sich dessen Verhalten überprüfen und dokumentieren lässt.

"Wer KI erfolgreich skalieren möchte, benötigt nicht nur leistungsfähige Technologie, sondern auch belastbare Evidenz für deren Vertrauenswürdigkeit", so Michael Weberberger.

www.trustifai.at