Das Barrierefreiheitsstärkungsgesetz (BFSG): Die Vision einer inklusiven Gesellschaft, in der alle Menschen unabhängig von ihren Fähigkeiten ein selbstbestimmtes Leben führen können, ist zentral für die europäische Sozialpolitik. Mit dem Barrierefreiheitsstärkungsgesetz (BFSG), das am 16. Juli 2021 vom Bundestag verabschiedet wurde, wird die EU-Richtlinie (EU) 2019/882, bekannt als European Accessibility Act (EAA), in deutsches Recht umgesetzt.
Das Gesetz zielt darauf ab, die gleichberechtigte Teilhabe von Menschen mit Behinderungen, älteren Menschen sowie Menschen mit sonstigen Einschränkungen zu fördern. Indem es Barrieren bei der Nutzung von Produkten und Dienstleistungen abbaut, soll es diese für alle Menschen zugänglich und nutzbar machen. Gleichzeitig harmonisiert es die Anforderungen an Barrierefreiheit innerhalb der EU und unterstützt dadurch auch Unternehmen, insbesondere kleine und mittlere Betriebe, beim Zugang zum europäischen Binnenmarkt.
Der AI-Act der Europäischen Union integriert ethische Grundsätze in verschiedenen Artikeln und Abschnitten, um sicherzustellen, dass KI-Systeme sicher, vertrauenswürdig und im Einklang mit den Werten der EU gestaltet und genutzt werden. Ich möchte eine kurze Übersicht der wesentliche Artikel des AI_Act geben, in denen Ethik oder ethische Überlegungen eine Rolle spielen.
1. Einhaltung ethischer und beruflicher Standards (Artikel 2)
Artikel 2 betont, dass Forschungs- und Entwicklungsaktivitäten im Bereich KI in Übereinstimmung mit anerkannten ethischen und professionellen Standards für wissenschaftliche Forschung durchgeführt werden müssen.
2. Risikobasierter Ansatz und ethische Leitlinien (Erwägungsgrund 27)
Der AI-Act verfolgt einen risikobasierten Ansatz und verweist auf die 2019 veröffentlichten Ethikleitlinien für vertrauenswürdige KI der unabhängigen Hochrangigen Expertengruppe für Künstliche Intelligenz (AI HLEG). Diese Leitlinien beinhalten sieben ethische Prinzipien: menschliche Handlungsfähigkeit und Aufsicht, technische Robustheit und Sicherheit, Datenschutz und Datenmanagement, Transparenz, Vielfalt, Nichtdiskriminierung und Fairness, gesellschaftliches und ökologisches Wohlergehen sowie Rechenschaftspflicht.
3. Förderung von Codes of Conduct (Artikel 56 und Artikel 95)
Anbieter von KI-Systemen werden ermutigt, freiwillige Verhaltenskodizes zu erstellen, die Elemente der ethischen Leitlinien der EU für vertrauenswürdige KI enthalten. Diese Verhaltenskodizes sollen helfen, die ethischen Anforderungen in der Praxis umzusetzen und sicherzustellen, dass KI-Systeme inklusiv und nachhaltig entwickelt und genutzt werden.
4. Menschliche Kontrolle und Aufsicht (Erwägungsgrund 7)
Der AI-Act betont die Bedeutung der menschlichen Kontrolle und Aufsicht über KI-Systeme, um sicherzustellen, dass diese als Werkzeuge dienen, die den Menschen unterstützen und deren Würde und Autonomie respektieren.
Anwendung philosophischen Wissens zur Ethik
Philosophisches Wissen zur Ethik kann bei der Umsetzung des AI-Acts in mehreren Bereichen von großer Bedeutung sein: Durch die Integration philosophischen Wissens in die Umsetzung des AI-Acts können Unternehmen sicherstellen, dass ihre KI-Systeme nicht nur rechtlichen Anforderungen entsprechen, sondern auch ethisch verantwortungsvoll und gesellschaftlich akzeptabel sind. Dies fördert Vertrauen und damit Absatz sowie Bindung an Kunden.
Risikobewertung und Management: Philosophische Ansätze zur Ethik können helfen, eine fundierte Risikobewertung durchzuführen, indem sie tiefere Einblicke in die potenziellen sozialen und moralischen Auswirkungen von KI-Systemen bieten.
Entwicklung ethischer Leitlinien: Philosophisches Wissen ist entscheidend für die Entwicklung und Implementierung von Verhaltenskodizes und ethischen Leitlinien, die sicherstellen, dass KI-Systeme im Einklang mit den Werten der Gesellschaft stehen.
Transparenz und Erklärbarkeit: Philosophische Diskussionen über Transparenz und Verantwortung können dazu beitragen, dass KI-Systeme so gestaltet werden, dass ihre Funktionsweise und Entscheidungen für die Nutzer nachvollziehbar und verständlich sind.
Nichtdiskriminierung und Fairness: Philosophische Theorien zur Gerechtigkeit und Fairness können dabei helfen, Diskriminierung zu erkennen und zu vermeiden sowie sicherzustellen, dass KI-Systeme gerecht und inklusiv sind.
Nachhaltigkeit und gesellschaftliches Wohlergehen: Ethische Überlegungen zur Nachhaltigkeit können dazu beitragen, dass KI-Systeme entwickelt werden, die langfristig positive Auswirkungen auf die Gesellschaft und die Umwelt haben.
5. Technische Robustheit und Sicherheit (Artikel 9)
Artikel 9 fordert, dass KI-Systeme robust und widerstandsfähig gegenüber Problemen und Versuchen sind, die Nutzung oder Leistung des KI-Systems zu ändern. Dies soll unrechtmäßige Nutzung durch Dritte verhindern und unbeabsichtigte Schäden minimieren.
6. Datenschutz und Datenmanagement (Artikel 10)
KI-Systeme müssen gemäß den Datenschutzbestimmungen entwickelt und genutzt werden. Dies umfasst die Verarbeitung von Daten, die hohe Standards in Bezug auf Qualität und Integrität erfüllen, und die Gewährleistung, dass die Rechte der Betroffenen respektiert werden.
7. Transparenz (Artikel 13 und Artikel 52)
Der AI-Act legt großen Wert auf Transparenz bei der Entwicklung und Nutzung von KI-Systemen. Nutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren, und über die Fähigkeiten und Grenzen des Systems sowie über ihre Rechte aufgeklärt werden.
8. Vielfalt, Nichtdiskriminierung und Fairness (Erwägungsgrund 27 und Artikel 95)
KI-Systeme sollen so entwickelt und genutzt werden, dass sie verschiedene Akteure einbeziehen und gleichen Zugang, Geschlechtergerechtigkeit und kulturelle Vielfalt fördern. Diskriminierende Auswirkungen und unfaire Voreingenommenheiten müssen vermieden werden.
9. Gesellschaftliches und ökologisches Wohlergehen (Erwägungsgrund 7 und Artikel 9)
KI-Systeme sollen nachhaltig und umweltfreundlich entwickelt und genutzt werden und dem Wohlergehen aller Menschen dienen. Die langfristigen Auswirkungen auf Individuen, Gesellschaft und Demokratie sollen kontinuierlich überwacht und bewertet werden.
Der AI-Act integriert ethische Grundsätze in verschiedenen Artikeln und Abschnitten, um sicherzustellen, dass KI-Systeme im Einklang mit den Werten der EU entwickelt und genutzt werden. Diese umfassenden ethischen Anforderungen fördern das Vertrauen der Öffentlichkeit in KI und unterstützen die Schaffung eines europäischen Ökosystems für sichere und vertrauenswürdige KI.
Das sogenannte „LLM-Hacking“ bezieht sich auf Techniken und Strategien, um diese Modelle zu manipulieren oder ihre Funktionen auf unvorhergesehene Weise zu nutzen.
Große Sprachmodelle sind in gewisser Hinsicht besonders gefahrgeneigt, weil diese versuchen autonom zu agieren und dabei notwendigerweise auf Eingaben von Außen angewiesen sind: Mal durch die Aufgaben, die ihnen erteilt werden, mal durch Daten, mit denen sie gefüttert werden. Die zunehmende Verbreitung von LLM sollte dabei Anlass sein, sich mit grundsätzlichem Wissen zur Cybersicherheit bei LLM auseinanderzusetzen. Im Folgenden möchte ich darum als Einstieg verständlich darauf eingehen, was LLM-Hacking ist und typische Angriffsszenarien beschreiben.
In einer zunehmend technologiegestützten Welt ist es von großer Bedeutung, die Wahrnehmung und Präferenz von Entscheidungen durch Algorithmen im Vergleich zu menschlichen Entscheidungsträgern zu verstehen.
Die Forschungsarbeit „Ruled by Robots: Preference for Algorithmic Decision Makers and Perceptions of Their Choices“ von Marina Chugunova und Wolfgang J. Luhan, veröffentlicht im März 2022, untersucht diese Thematik mittels eines Laborexperiments. Im Fokus stehen dabei Umverteilungsentscheidungen und die Frage, ob Menschen Algorithmen aufgrund ihrer Unvoreingenommenheit gegenüber menschlichen Entscheidungsträgern bevorzugen.
KI-generierte Medien werden zu einer zunehmenden Herausforderung: Sie können in großem Maßstab automatisch erstellt werden, was zu einer Vielzahl von Fälschungen oder fehlerhaften Inhalten führt – zugleich aber können Sie das Erstellen von Inhalten drastisch unterstützen.
Trotz zahlreicher technischer Fortschritte bei der automatischen Erkennung solcher künstlichen Medien wurde die menschliche Wahrnehmung dieser Medien bisher nicht ausreichend untersucht. Dabei mehren sich (aus gutem Grund) inzwischen die Forschungspapiere zu der Frage, wie gut Menschen in der Lage sind, KI-generierte Inhalte zu erkennen.
Datenkultur, oft als „Data Culture“ bezeichnet, ist ein integraler Bestandteil der Unternehmenskultur, der die Art und Weise beeinflusst, wie Daten in einer Organisation betrachtet, behandelt und genutzt werden.
Es geht dabei nicht nur um die bloße Verfügbarkeit von Daten, sondern vielmehr um die Schaffung eines Umfelds, in dem Daten als wertvolle Ressource für Entscheidungsfindungen angesehen und aktiv genutzt werden. Diese Kultur fördert ein kollektives Verhalten und Überzeugungen innerhalb eines Unternehmens, das Daten wertschätzt und strategisch einsetzt, um Ziele zu erreichen und Innovationen voranzutreiben.
Es lässt sich nicht wegreden, dass der einleitende Text vor wissenschaftlichen Arbeiten eine entscheidende Rolle spielt: Hier werden Rahmen, identifizieren Forschungslücken und Ziele der Studie definiert.
Diese Untersuchung bietet einen – durchaus überraschenden und aufschlussreichen – Einblick in die Möglichkeiten und Herausforderungen beim Einsatz von KI in der akademischen Schreibarbeit; sie unterstreicht dabei das Potenzial von KI, den Forschungsprozess grundlegend zu transformieren.
KI-Auditing: Nun, da Künstliche Intelligenz (KI) immer häufiger in verschiedenen Bereichen und vor allem immer umfassender eingesetzt wird, steigen auch die Anforderungen an die Überwachung und Bewertung dieser Systeme.
In der dynamischen Welt der künstlichen Intelligenz haben große Sprachmodelle (LLMs) wie GPT-3 und BERT revolutionäre Fortschritte gemacht. Diese Modelle werden in verschiedenen Anwendungen eingesetzt, von Chatbots bis hin zu fortschrittlichen Analysetools.
