AI Trust statt Bauchgefühl: Warum KI verifizierbare Trust-Architekturen braucht

Durch die wachsende Autonomie von KI-Systemen darf Vertrauen kein Bauchgefühl bleiben. Unternehmen müssen wissen, welche KI-Systeme aktiv sind, welche Rechte sie besitzen und ob ihre Ergebnisse nachvollziehbar bleiben. Klassische Security- und Governance-Modelle stossen hier an Grenzen. Sie wurden vor allem für Menschen, Geräte, Applikationen und bekannte Softwareprozesse entwickelt.

KI-Systeme verhalten sich jedoch dynamischer. Sie können Daten verarbeiten, Aktionen auslösen, externe Tools einbinden und über Systemgrenzen hinweg agieren. Unternehmen brauchen deshalb eine neue Vertrauensarchitektur: AI Trust. Gemeint ist ein Ansatz, der Identität, Berechtigungen, Integrität und Herkunft von KI-Systemen und KI-generierten Inhalten technisch überprüfbar macht.

Von Digital Trust zu AI Trust

Digital Trust basiert seit Jahren auf bewährten Prinzipien wie Public Key Infrastructure, Zertifikaten, DNS und Verschlüsselung. Diese Mechanismen sorgen dafür, dass digitale Kommunikation geschützt, Identitäten überprüft und Systeme authentifiziert werden können.

Mit KI erweitert sich dieser Vertrauensraum. Unternehmen müssen künftig nicht nur wissen, wer auf ein System zugreift, sondern auch:

• Welche KI-Agenten aktiv sind

• Welche Daten sie verarbeiten

• Welche Berechtigungen sie besitzen

• Ob ein Inhalt echt, verändert oder KI-generiert wurde

AI Trust überträgt bewährte Vertrauensmechanismen auf KI. Ziel ist es, KI-Agenten, Modelle und Inhalte nicht nur zu regulieren, sondern technisch kontrollierbar zu machen.

Shadow AI: Wenn KI der Governance davonläuft

Viele Unternehmen nutzen KI bereits produktiv – teils offiziell, teils informell. Besonders kritisch ist sogenannte Shadow AI: der Einsatz von KI-Tools oder Agenten ausserhalb freigegebener Prozesse.

Dadurch entstehen blinde Flecken. Sensible Daten können unkontrolliert verarbeitet werden. Agenten erhalten möglicherweise zu weitreichende Rechte. Und Security-Teams wissen nicht immer, welche KI-Systeme tatsächlich im Einsatz sind.

Für CISOs wird Shadow AI damit zum Transparenztest. Entscheidend sind fünf Fragen:

1. Welche KI-Agenten werden im Unternehmen genutzt?

2. Welche Daten fliessen an diese Systeme?

3. Welche Agenten besitzen Zugriff auf interne Systeme?

4. Können kompromittierte Agenten sofort gestoppt werden?

5. Lässt sich ein Vorfall nachvollziehbar dokumentieren?

Die Antwort darauf kann nicht allein in Richtlinien liegen. KI-Governance muss technisch durchsetzbar werden.

Drei Bereiche, in denen Vertrauen neu gedacht werden muss

AI Trust betrifft vor allem drei Ebenen: Agenten, Modelle und Inhalte.

1. Vertrauen in KI-Agenten - AI Agent Passport
   KI-Agenten sind keine menschlichen Benutzer. Passwörter oder klassische Login-Prozesse greifen hier zu kurz. Agenten benötigen eindeutige, kurzlebige und überprüfbare Identitäten. So lässt sich kontrollieren, welche Aktionen sie ausführen dürfen, auf welche Daten sie zugreifen können und wann ein Zugriff beendet werden muss.
   Ein Ansatz dafür ist der AI Agent Passport. Er verbindet die Identität eines Agenten kryptographisch mit seinen Berechtigungen. Damit wird nachvollziehbar, was ein Agent tun darf, in welcher Umgebung er aktiv ist und wer dafür verantwortlich ist.

2. Vertrauen in KI-Modelle - Confidential Computing
   KI-Modelle werden zunehmend zu kritischen Unternehmensressourcen. Sie unterstützen Diagnosen, erkennen Betrug, automatisieren Compliance-Prozesse oder beeinflussen geschäftsrelevante Entscheidungen.
   Deshalb müssen Unternehmen sicherstellen, dass Modelle nicht manipuliert, unerlaubt verändert oder in unsicheren Umgebungen ausgeführt werden. Dazu braucht es unter anderem kryptographisches Signieren, Integritätsprüfungen und nachvollziehbare Modellherkunft. Besonders relevant ist Confidential Computing. Dabei werden Modelle in geschützten Ausführungsumgebungen betrieben. So bleiben Daten und Modellinformationen auch während der Verarbeitung geschützt.

3. Vertrauen in KI-generierte Inhalte - C2PA
   KI kann heute Texte, Bilder, Videos und strukturierte Daten in hoher Qualität erzeugen oder verändern. Für Unternehmen wird deshalb die Frage zentral: Woher stammt ein Inhalt? Wurde er verändert? Und kann seine Echtheit unabhängig geprüft werden? Metadaten oder Plattformhinweise reichen dafür nicht aus. Sie können entfernt oder verändert werden. Standards wie C2PA schaffen eine Grundlage, um digitale Inhalte mit signierten Herkunftsnachweisen zu versehen. So wird überprüfbar, wer einen Inhalt erstellt hat und ob er seitdem verändert wurde.

Identität, Kryptographie und DNS als Vertrauensanker

Eine tragfähige AI-Trust-Architektur braucht technische Kontrollpunkte. Dazu gehören DNS-basierte Richtlinien, kryptographische Identitäten, kurzlebige Credentials, Attestation und Integritätsnachweise.

Ein Beispiel: Bevor ein KI-Agent eine externe Verbindung aufbaut, kann geprüft werden, ob die Ziel-Domain erlaubt ist. Ist sie nicht freigegeben, wird die Verbindung blockiert, bevor Daten abfliessen oder unerlaubte Aktionen ausgelöst werden.

Solche Mechanismen machen aus abstrakter Governance konkrete Kontrolle. Unternehmen können festlegen, welche Agenten was tun dürfen – und diese Regeln technisch durchsetzen.

Von Transparenz zu Kontrolle: 5 Schritte für AI Trust

Am Anfang steht die Bestandesaufnahme. Unternehmen sollten erfassen, welche KI-Tools, Agenten und Modelle bereits genutzt werden und welche Datenflüsse damit verbunden sind.

Darauf aufbauend sollten sie definieren:

• Welche KI-Systeme erlaubt sind

• Welche Daten verarbeitet werden dürfen

• Welche Identitäten und Berechtigungen erforderlich sind

• Wie Modelle geschützt und überprüft werden

• Wie KI-generierte Inhalte gekennzeichnet und verifiziert werden können

So wird AI Trust zu einem praktischen Sicherheits- und Governance-Thema – nicht zu einem theoretischen Konzept.

DigiCert als Leader für Intelligent Trust

Moderne Ansätze für Digital Trust setzen genau hier an. DigiCert positioniert sich als globaler Leader für Intelligent Trust und erweitert bewährte Prinzipien wie PKI, DNS, Certificate Lifecycle Management, Attestation und kryptographische Identität auf die Anforderungen moderner KI-Umgebungen.

Die Plattform DigiCert ONE vereint zentrale Trust-Funktionen in einer integrierten Architektur und unterstützt Unternehmen dabei, digitale Vertrauensanker sichtbar, steuerbar und automatisierbar zu machen. Dazu gehören unter anderem PKI, DNS, Zertifikatsmanagement, Software Trust, Device Trust und Content Trust.

Für AI Trust entsteht daraus eine technische Grundlage, mit der Organisationen KI-Systeme nicht nur nutzen, sondern kontrolliert, nachvollziehbar und verantwortungsvoll betreiben können. 

InfoGuard & DigiCert – Vertrauen für die nächste KI-Ära

Mit DigiCert erweitert InfoGuard bewährte Digital-Trust-Prinzipien auf die Anforderungen moderner KI-Umgebungen. Bereits beim automatisierten Zertifikatsmanagement zeigt sich, wie wichtig Transparenz, Automatisierung und Krypto-Agilität für stabile und sichere digitale Infrastrukturen sind. Im KI-Kontext gewinnen dieselben Prinzipien zusätzlich an Bedeutung: Identitäten müssen überprüfbar, Berechtigungen kontrollierbar und Integrität kontinuierlich nachweisbar sein.

So entsteht die Grundlage, um KI nicht nur produktiv einzusetzen, sondern sicher, nachvollziehbar und kontrollierbar zu betreiben. Erfahren Sie im Whitepaper, wie die «Trust Architecture for AI» von DigiCert Unternehmen dabei unterstützt, Vertrauen in KI-Systeme technisch überprüfbar zu machen. 

InfoGuard begleitet Unternehmen, ihre AI Trust von Anfang an als Sicherheits- und Architekturthema zu denken – von Governance-Fragestellungen über technische Integration bis zur Absicherung von Identitäten, Daten, Cloud- und KI-Umgebungen. Unsere Expert:innen freuen sich auf den unverbindlichen Austausch!

Bildlegende: mit KI generiertes Bild