ETHICS GUIDELINES FOR TRUSTWORTHY AI (Ethikleitfaden für eine vertrauenswürdige KI)
Bei den Ethics Guidelines for Trustworthy AI(zu Deutsch: Ethik-Leitlinien für eine vertrauenswürdige KI) handelt es sich um eine Leitlinie, deren „Ziel (…) die Förderung einer vertrauenswürdigen KI“ ist (siehe Seite 2 Abs (1) der Leitlinie). Die Leitlinien beschreiben, welche Komponenten während des gesamten Lebenszyklus des Systems erfüllt sein sollen. Sie legt außerdem einen „Rahmen für die Verwirklichung einer vertrauenswürdigen KI“ fest, beschreibt Prinzipien und Grundsätze, wie z.B. die Achtung der menschlichen Autonomie, Schadensverhütung, Fairness und Erklärbarkeit, die zu befolgen sind und versteht sich als „Hilfestellung für die mögliche Umsetzung dieser Prinzipien in soziotechnischen Systemen“.
Erstellt von der High-Level Expert Group on Artificial Intelligence
(HLEG), European Commission, Brüssel sind die Ethics Guidelines for Trustworthy AI keine Rahmenrichtlinie oder Grundverordnung und damit nicht rechtsverbindlich. Ziel der Leitlinie ist es, Prinzipien und Anforderungen an KI-Systeme zu beschreiben. Somit ergibt sich zwar keine rechtlich bindende Vorschrift für Data Science in der bAV, allerdings empfiehlt es sich bei der „Entwicklung, Einführung und Nutzung von KI-Systemen“ die Anforderungen an vertrauenswürdige KI (zu) erfüllen:
- Vorrang menschlichen Handelns und menschliche Aufsicht
- technische Robustheit und Sicherheit
- Schutz der Privatsphäre und Datenqualitätsmanagement
- Transparenz
- Vielfalt, Nichtdiskriminierung und Fairness
- gesellschaftliches und ökologisches Wohlergehen
- Rechenschaftspflicht
Siehe dazu Ethik-Leitlinien für eine vertrauenswürdige KI, Kapitel II Absatz (58) abgerufen am 24.07.2023