KI-Systeme haben besondere Sicherheitsanforderungen, die über klassische IT-Sicherheit hinausgehen. Der EU AI Act fordert Genauigkeit, Robustheit und Cybersicherheit (Art. 15). NIS2 fordert umfassende Risikomaßnahmen für Einrichtungen in kritischen Sektoren. EAB verbindet beide.
Adversarielle Angriffe, Data Poisoning, Model Inversion, Halluzinationen in kritischen Entscheidungen — KI-spezifische Sicherheitsrisiken brauchen KI-spezifische Governance. EAB strukturiert diese Anforderungen im Governance-Record.
Hochrisiko-KI-Systeme müssen gegenüber Fehlern, Störungen und Angriffen robust sein. EAB strukturiert den Nachweis der Robustheit: Genauigkeits-Metriken, Adversarial-Robustheit-Tests, Fehlertoleranz-Mechanismen. Diese Nachweise sind Teil des Anhang-IV-Records und des Cybersicherheits-Governance-Records.
Adversarial Examples (manipulierte Inputs, die das Modell täuschen), Data Poisoning (Manipulation der Trainingsdaten), Model Extraction (Reverse-Engineering des Modells), Membership Inference (Rückschluss auf Trainingsdaten) — EAB erfasst, welche dieser Vektoren für ein System relevant sind und welche Gegenmaßnahmen implementiert sind.
Large Language Models haben spezifische Sicherheitsrisiken: Halluzinationen in kritischen Informationsbereichen, Prompt Injection, Jailbreaks. EAB strukturiert Gegenmaßnahmen und Monitoring-Anforderungen für LLM-basierte Systeme in Hochrisiko-Anwendungsbereichen.
Die Sicherheit vortrainierter Modelle, Foundation Models und KI-APIs — Supply Chain Security für KI. EAB verknüpft die NIS2-Lieferketten-Sicherheitsbewertung mit den KI-Dienstleistern im System-Record: Wer liefert das Modell, welche Sicherheitsgarantien gibt der Anbieter?
Penetrationstests für KI-Systeme gehen über klassische IT-Pentests hinaus: adversarielle Robustheitstests, Bias-Angriffs-Simulations, Datenexfiltrations-Szenarien. EAB trackt Pentest-Zyklen, Ergebnisse und Remediation-Status als Nachweis.
Anomalie-Erkennung in KI-Eingaben und -Ausgaben, Drift-Monitoring für Modellverhalten, Alert-Prozesse für unerwartete System-Outputs. Für Hochrisiko-Systeme nach Art. 9 AI Act und NIS2 ist kontinuierliches Monitoring eine Kernpflicht — EAB dokumentiert Monitoring-Implementierung und -Ergebnisse.
Art. 15 AI Act Robustheit und NIS2 Risikomaßnahmen im selben Governance-Record. KI-spezifische Sicherheitsanforderungen strukturiert erfasst — für Supervisoren, Prüfer und Regulatoren.
EU-gehostet · Verankert in CELEX 32024R1689
Erzählen Sie uns von Ihrer Organisation und Ihrem Anliegen. Wir melden uns mit den relevanten Informationen.
