Was ist ein KI-Vorfall: Mit der zunehmenden Nutzung Künstlicher Intelligenz (KI) steigen auch die potenziellen Risiken und Schäden, die durch diese Technologien verursacht werden können.
Um diese Risiken zu managen und zu verhindern, ist es wichtig, klare Definitionen für KI-Vorfälle und verwandte Begriffe zu haben. Das OECD-Dokument „Defining AI Incidents and Related Terms“ bietet eine umfassende Übersicht und präzise Definitionen, die als Grundlage für ein gemeinsames Rahmenwerk zur Meldung von KI-Vorfällen dienen sollen.
Hintergrund und Zielsetzung des Umgangs mit einem KI-Vorfall
Bereits im Januar 2023 hatte die OECD die Arbeitsgruppe für KI-Vorfälle (OECD.AI Expert Group on AI Incidents) formalisiert, um die Entwicklung eines gemeinsamen Meldesystems für KI-Vorfälle und eines KI-Vorfälle-Monitors (AIM) voranzutreiben. Dieses Dokument enthält vorläufige Definitionen und Terminologien zu KI-Vorfällen, um die Entwicklung beider Initiativen zu unterstützen.
KI-Vorfall: Definitionen und Klassifikationen
- KI-Vorfall (AI Incident):
Ein KI-Vorfall ist ein Ereignis, eine Situation oder eine Serie von Ereignissen, bei denen die Entwicklung, Nutzung oder Fehlfunktion eines oder mehrerer KI-Systeme direkt oder indirekt zu einem der folgenden Schäden führt:
- Verletzung oder Schädigung der Gesundheit einer Person oder Gruppen von Personen
- Störung des Managements und Betriebs kritischer Infrastrukturen
- Verletzungen von Menschenrechten oder Verstöße gegen geltendes Recht zum Schutz von Grundrechten, Arbeitsrechten und geistigem Eigentum
- Schäden an Eigentum, Gemeinschaften oder der Umwelt
- Erheblicher KI-Vorfall (Serious AI Incident):
Ein erheblicher KI-Vorfall ist ein Ereignis, eine Situation oder eine Serie von Ereignissen, bei denen die Entwicklung, Nutzung oder Fehlfunktion eines oder mehrerer KI-Systeme direkt oder indirekt zu einem der folgenden erheblichen Schäden führt:
- Tod einer Person oder ernsthafte Schädigung der Gesundheit einer Person oder Gruppen von Personen
- Ernsthafte und irreversible Störung des Managements und Betriebs kritischer Infrastrukturen
- Ernsthafte Verletzung von Menschenrechten oder erhebliche Verstöße gegen geltendes Recht zum Schutz von Grundrechten, Arbeitsrechten und geistigem Eigentum
- Erheblicher Schaden an Eigentum, Gemeinschaften oder der Umwelt
- KI-Katastrophe (AI Disaster):
Eine KI-Katastrophe ist ein erheblicher KI-Vorfall, der das Funktionieren einer Gemeinschaft oder Gesellschaft stört und möglicherweise ihre Fähigkeit zur Bewältigung mit eigenen Ressourcen übersteigt. Die Auswirkungen einer KI-Katastrophe können unmittelbar und lokalisiert oder weitreichend und langanhaltend sein. - KI-Gefahr (AI Hazard):
Eine KI-Gefahr ist ein Ereignis, eine Situation oder eine Serie von Ereignissen, bei denen die Entwicklung, Nutzung oder Fehlfunktion eines oder mehrerer KI-Systeme plausibel zu einem KI-Vorfall führen könnte, d.h. zu einem der oben genannten Schäden. - Erhebliche KI-Gefahr (Serious AI Hazard):
Eine erhebliche KI-Gefahr ist ein Ereignis, eine Situation oder eine Serie von Ereignissen, bei denen die Entwicklung, Nutzung oder Fehlfunktion eines oder mehrerer KI-Systeme plausibel zu einem erheblichen KI-Vorfall oder einer KI-Katastrophe führen könnte.
Dimensionen von Schäden
Das Dokument enthält auch eine detaillierte Analyse der verschiedenen Dimensionen von Schäden, die bei der Definition und Klassifizierung von KI-Vorfällen berücksichtigt werden sollten:
- Typen von Schäden: physische, psychologische, wirtschaftliche, ökologische, reputationsbezogene und Schäden am öffentlichen Interesse
- Schweregrad: geringfügig, moderat, ernsthaft, katastrophal
- Umfang: Einzelperson, Gruppe, Organisation, Gesellschaft, Umwelt, Eigentum
- Geografische Reichweite: lokal, national, regional, global
- Tangibilität: greifbar, nicht greifbar
- Quantifizierbarkeit: quantifizierbar, nicht quantifizierbar
- Materialisierung: potenzieller Schaden (Gefahr), tatsächlicher Schaden (Vorfall)
- Reversibilität: reversibel, irreversibel
- Wiederholbarkeit: einmalige Schäden, kumulative Effekte
- Auswirkungen: direkt, indirekt
- Zeitrahmen: kurz-, mittel-, langfristig
KI-Vorfall: Ausblick
Die klare Definition von KI-Vorfällen und verwandten Begriffen ist entscheidend für die Entwicklung eines effektiven Meldesystems und die internationale Zusammenarbeit bei der Prävention und Bewältigung von KI-Risiken. Das OECD-Dokument „Defining AI Incidents and Related Terms“ bietet eine wertvolle Grundlage, um diese Ziele zu erreichen und die Sicherheit und Vertrauenswürdigkeit von KI-Systemen weltweit zu gewährleisten.
- Russische Militärische Cyber-Akteure nehmen US- und globale kritische Infrastrukturen ins Visier - 11. September 2024
- Ransomware Risk Report 2024 von Semperis - 11. September 2024
- Künstliche Intelligenz in Deutschland – Status, Herausforderungen und internationale Perspektiven - 10. September 2024