Das Europäische Parlament hat den nächsten großen Schritt zur Regulierung der Nutzung von Künstlicher Intelligenz (KI) in Europa gemacht. Das kürzlich verabschiedete KI-Gesetz (AI-Act, auch KI-Verordnung genannt, hier schon etwas ausführlicher vorgestellt) ist das weltweit Erste seiner Art und schafft einen umfassenden Rechtsrahmen für KI-Anwendungen.
Das KI-Gesetz unterscheidet zwischen verschiedenen Risikostufen und legt entsprechende Pflichten für Anbieter und Nutzer fest. Besonderes Augenmerk liegt dabei auf der Kategorisierung in „unannehmbares Risiko“, „hohes Risiko“, „generative KI“ und „begrenztes Risiko“.
KI-Systeme mit „unannehmbarem Risiko“, die als Bedrohung für den Menschen angesehen werden, sind verboten. Beispiele hierfür sind KI-Anwendungen, die kognitiv auf Menschen oder gefährdete Gruppen einwirken, soziale Bewertungssysteme oder Echtzeit-Biometrie. In bestimmten Fällen sind jedoch Ausnahmen zulässig, z. B. bei der post-biometrischen Identifizierung zur Verfolgung schwerer Straftaten.
„Generative KI“ wie OpenAIs ChatGPT unterliegt besonderen Transparenzanforderungen. Dazu gehören die Offenlegung, dass die Inhalte durch KI generiert wurden, die Verhinderung der Generierung illegaler Inhalte und die Veröffentlichung von Zusammenfassungen der für das Training verwendeten Daten.
KI-Systeme mit „hohem Risiko“, die sich auf die Sicherheit oder die Grundrechte von Personen auswirken könnten, werden streng reguliert und müssen in einer EU-Datenbank registriert werden. Solche Systeme werden in einer Vielzahl von Bereichen eingesetzt, von der biometrischen Identifizierung bis hin zur Migrationssteuerung und Grenzkontrolle.
„KI-Systeme mit begrenztem Risiko“ müssen Mindestanforderungen an die Transparenz erfüllen, damit die Nutzer fundierte Entscheidungen treffen können. Dazu gehört beispielsweise, dass die Nutzer darüber informiert werden, dass sie mit einer KI interagieren, insbesondere wenn es sich um Deepfakes und andere KI-generierte Inhalte handelt.
Das neue KI-Gesetz ist ein entscheidender Schritt bei der Regulierung von KI in Europa. Nachdem das Parlament am 14. Juni 2023 seine Verhandlungsposition festgelegt hat, beginnen nun die Gespräche mit den EU-Ländern im Rat, um die endgültige Form des Gesetzes auszuarbeiten. Ziel ist es, bis Ende des Jahres eine Einigung zu erzielen und damit einen Rechtsrahmen für den Einsatz von KI in der EU zu schaffen.
- Russische Militärische Cyber-Akteure nehmen US- und globale kritische Infrastrukturen ins Visier - 11. September 2024
- Ransomware Risk Report 2024 von Semperis - 11. September 2024
- Künstliche Intelligenz in Deutschland – Status, Herausforderungen und internationale Perspektiven - 10. September 2024