Trustworthy AI

Type
Product Management, AI Governance, Business Design, Brand & Communication, Zertifizierung

​

Insight

Immer mehr Unternehmen setzen KI in sensiblen Bereichen ein: in der Medizintechnik, im Finanzwesen, in der Logistik, in Fahrassistenzsystemen. Der EU AI Act macht Vertrauen in diese Systeme zur regulatorischen Pflicht, nicht mehr nur zur Kür, mit weiteren Pflichten für Hochrisikosysteme, die ab August 2026 greifen (Europäische Kommission, 2026). Gleichzeitig zeigen aktuelle Erhebungen eine deutliche Lücke zwischen Anspruch und Umsetzung: 55 Prozent der Unternehmen setzen bereits aktiv KI ein, aber nur 26 Prozent geben an, dass ihre Governance mit diesem Tempo tatsächlich Schritt hält (Smarsh & FTI Consulting, zitiert in Corporate Compliance Insights, 2026).

Das eigentliche Problem ist selten fehlendes Wissen über KI an sich, sondern die fehlende Übersetzung von Regulatorik, technischer Realität und Geschäftsentscheidung in ein gemeinsames, überprüfbares System. Genau hier setzt Trustworthy AI an.

​

Beitrag

• Product Management für den Trustworthy AI Service

• Weiterentwicklung des Angebots entlang des EU AI Act

• Steuerung des Zertifizierungsprozesses mit dem TÜV

• Moderation wöchentlicher, funktionsübergreifender Meetings zwischen Data Science, AI Engineering, Legal, Business und externen Partnern

• Interne und externe Kommunikation der Trustworthy AI Kompetenzen: Landingpage, LinkedIn, zwei Konferenzplatzierungen, Planung eines Meetups

​

Herausforderung

Wie gestalten wir einen Service, der …
... komplexe regulatorische Anforderungen des EU AI Act in klare, umsetzbare Schritte übersetzt
... Vertrauen in KI Entscheidungen nachweisbar und überprüfbar macht, nicht nur behauptet
... Legal, Engineering und Business an einem gemeinsamen Verständnis ausrichtet
... auch für Unternehmen ohne eigenes KI-Compliance Team zugänglich bleibt
... aus einem internen Kompetenzfeld ein eigenständiges, sichtbares Angebot im Markt macht

Lösung

Trustworthy AI begleitet Unternehmen von der ersten Einschätzung bis zur Zertifizierung ihrer KI Systeme. Das Angebot beruht auf drei Prinzipien: Transparenz über Entscheidungslogik und Leistungskennzahlen, systematische Entwicklung entlang etablierter Standards über den gesamten KI Lebenszyklus, und Zertifizierung durch unabhängige Prüfstellen.

Konkret bedeutet das: Workshops zur Potenzialeinschätzung mit Gap Analyse, Compliance Reviews entlang des EU AI Act durch Legal Engineering Expert:innen, Unterstützung bei Data Act Anforderungen, Dokumentationsaufbau und Audit Dry Runs, bis hin zur Begleitung durch den eigentlichen Zertifizierungsprozess. Als Nachweis der eigenen Expertise wurde für eine medizinische Bildgebungsanwendung das TÜV Austria TRUSTIFAI Zertifikat erreicht.

​

User Experience

Dienstagvormittag, Meeting mit einem Medizintechnikhersteller.
Das Unternehmen hat ein KI gestütztes Diagnosesystem entwickelt, das Ärzt:innen bei der Bildauswertung unterstützt. Technisch funktioniert es gut, die Ergebnisse überzeugen im Labor. Doch vor dem nächsten Rollout steht eine Frage im Raum, die niemand im Haus allein beantworten kann: Erfüllt das System die Anforderungen an ein Hochrisikosystem nach EU AI Act, und wie lässt sich das gegenüber Prüfstellen, Kund:innen und der eigenen Geschäftsführung belegen?

Im Workshop zur Potenzialeinschätzung wird schnell klar, wo die Lücken liegen. Die Dokumentation zur Datenherkunft ist unvollständig, ein systematisches Monitoring nach Go-Live fehlt, Verantwortlichkeiten zwischen Data Science und Legal sind nicht klar geregelt. Statt einer langen Liste an Problemen entsteht ein konkreter Fahrplan, Schritt für Schritt, mit klaren Zuständigkeiten.

In den folgenden Monaten wird aus der Unsicherheit ein wiederholbarer Prozess: Dokumentation, Audit Dry Run, Nachschärfung, echte Prüfung. Am Ende steht nicht nur ein Zertifikat, sondern ein Team, das versteht, warum sein System vertrauenswürdig ist, und das genau das auch zeigen kann, nach innen wie nach außen.