Europäische KI-Strategie

Pilotphase für KI Ethik-Leitlinien der EU

Nachdem die EU-Expertengruppe für KI im Dezember 2018 einen ersten Entwurf der KI Ethik-Leitlinien veröffentlicht hat, präsentierte sie der EU-Kommission im März 2019 die finale Fassung , die am 09.04.2019 auch der Öffentlichkeit vorgestellt wurde.

Angesichts der finalen Fassung der KI Ethik-Leitlinien, äußerte sich die EU-Kommission in einer Mitteilung (COM(2019) 168) am 08.04.2019 zum weiteren Vorgehen.

  • Die EU-Kommission plant ab Juni 2019 alle betroffenen Stakeholder dazu aufzurufen, in einer Pilotphase die von der Expertengruppe ausgearbeitete Bewertungsliste für vertrauenswürdige KI in der Praxis zu testen.
  • Gleichzeitig soll die Expertengruppe für KI zusammen mit verschiedenen Stakeholdern überprüfen, wie die Leitlinien hinsichtlich spezifischer KI-Anwendungsfälle angepasst werden können.

Im Anschluss soll die Expertengruppe Anfang 2020 die Leitlinien überprüfen und aktualisieren. Auf dieser Grundlage will die EU-Kommission 2020 dann das Ergebnis bewerten und nächste Schritte vorschlagen. Ziel der EU-Kommission ist es weiterhin, die KI Ethik-Leitlinien der EU auch weltweit zur Geltung zu bringen.

KI Ethik-Leitlinien

Ziel der Ethik-Leitlinien sei die Förderung von vertrauenswürdiger KI. Zur Verwirklichung einer vertrauenswürdigen KI seien drei Komponenten notwendig: 1) Die KI sollte rechtmäßig sein, 2) sie sollte ethischen Grundsätzen entsprechen und 3) sie sollte robust sein.

Des Weiteren enthalten die Leitlinien sieben Schlüsselanforderungen, die KI erfüllen müssen, um als vertrauenswürdig eingestuft zu werden.

  1. Vorrang menschlichen Handelns und menschlicher Aufsicht: KI-Systeme sollten das menschliche Handeln und die Wahrung der Grundrechte unterstützen. Keinesfalls aber sollten sie die Autonomie der Menschen verringern, beschränken oder fehlleiten.
  2. Robustheit und Sicherheit: Eine vertrauenswürdige KI setzt Algorithmen voraus, die sicher, verlässlich und robust genug sind, um Fehler oder Unstimmigkeiten in allen Phasen des Lebenszyklus des KI-Systems zu bewältigen.
  3. Privatsphäre und Datenqualitätsmanagement: Die Bürgerinnen und Bürger sollten die volle Kontrolle über ihre eigenen Daten behalten, die Integrität der Daten muss zu jedem Zeitpunkt gewährleistet und der Zugang zu den Daten angemessen geregelt und kontrolliert sein.
  4. Transparenz: Die Rückverfolgbarkeit der KI-Systeme muss sichergestellt, der Entscheidungsprozess der KI so weit wie möglich erklärt und die Fähigkeiten sowie die Beschränkungen der KI mitgeteilt werden.
  5. Vielfalt, Nichtdiskriminierung und Fairness: KI-Systeme sollten dem gesamten Spektrum menschlicher Fähigkeiten, Fertigkeiten und Anforderungen Rechnung tragen und die Barrierefreiheit gewährleisten. Datensätze dürfen nicht verzerrt sein.
  6. Gesellschaftliches und ökologisches Wohlergehen: KI-Systeme sollten eingesetzt werden, um einen positiven sozialen Wandel sowie die Nachhaltigkeit und ökologische Verantwortlichkeit zu fördern.
  7. Rechenschaftspflicht: Es sollten Mechanismen geschaffen werden, die die Verantwortlichkeit und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse gewährleisten.

Aus den sieben Schlüsselanforderungen wurde schließlich eine generelle Checkliste (S. 26-31) abgeleitet, anhand derer sich die Vertrauenswürdigkeit einer KI bewerten lassen soll.

Quelle: DATEV eG Informationsbüro Brüssel