KI-Rahmenübereinkommen des Europarates von Europäischer Kommission unterzeichnet

International verbindliches Rechtsinstrument des Europarates zur künstlichen Intelligenz mit potentiell globalen Auswirkungen – KI-Gesetz der EU im Einklang mit dessen Grundprinzipien – Alle Länder der Welt können Übereinkommen beitreten

Foto: Ein weißer Roboter mit einem freundlichen Gesichtsausdruck
Foto: European Union, 2022/Piero Cruciatti

Die Europäische Kommission setzt ihre Bestrebungen in Sachen "Governance" von künstlicher Intelligenz (KI) fort. Am 5. September 2024 unterzeichnete die Vizepräsidentin der Europäischen Kommission, Věra Jourová, zuständig für Werte und Transparenz, im Namen der EU das "Rahmenübereinkommen des Europarates über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit". Dieses Übereinkommen des Europarates ist das erste rechtsverbindliche internationale Instrument zu künstlicher Intelligenz. Jourová nahm an einer informellen Konferenz der Justizministerinnen und -minister der Mitgliedstaaten des Europarates in Vilnius, Litauen, teil.

Generalsekretärin des Europarates, Marija Pejčinović Burić: "Vertrag mit potentiell globaler Reichweite"

"Wir müssen sicherstellen, dass der zunehmende Einsatz von KI unsere Normen bewahrt, anstatt sie zu untergraben. Das Rahmenübereinkommen soll genau das gewährleisten. Es ist ein starker und ausgewogener Text – das Ergebnis des offenen und inklusiven Ansatzes, mithilfe dessen es ausgearbeitet wurde und der dazu führte, dass es von vielfältigen und fachkundigen Perspektiven geprägt ist. Das Rahmenübereinkommen ist ein offener Vertrag mit einer potentiell globalen Reichweite. Ich hoffe, dass dies die ersten von vielen Unterschriften sein werden und dass ihnen rasch Ratifizierungen folgen werden, damit der Vertrag so bald wie möglich in Kraft treten kann", sagte die Generalsekretärin des Europarates, Marija Pejčinović Burić, anlässlich der Unterzeichnung.

Rahmenübereinkommen des Europarates im Einklang mit dem KI-Gesetz der EU

Die Europäische Union – vertreten durch die Europäische Kommission –  war aktiv an den Verhandlungen beteiligt. Das Rahmenübereinkommen des Europarates steht in Einklang mit dem europäischen KI-Gesetz, welches mit 1. August 2024 in Kraft getreten ist, sowie mit weiteren relevanten Rechtsnormen der EU.

Übereinstimmende Schlüsselkonzepte sind:

  • Der Fokus auf eine Menschen-zentrierte KI im Einklang mit Menschenrechten, Demokratie und Rechtsstaatlichkeit;
  • Ein risikobasierter Ansatz;
  • Schlüsselprinzipien für vertrauenswürdige KI (beispielsweise Transparenz, Robustheit, Sicherheit, Daten-Governance und Datenschutz);
  • Transparenz bei KI-generierten Inhalten und bei Interaktionen mit KI-Systemen;
  • Eine verstärkte Dokumentation, Rechenschaftspflicht und Abhilfemaßnahmen;
  • Unterstützung sicherer Innovationen durch Reallabore;
  • Risikomanagementverpflichtungen;
  • Dokumentationspflichten;
  • Aufsichtsmechanismen für die Überwachung von KI-Tätigkeiten.

Diese Konzepte sollen auf internationaler Ebene einen wirksamen Rahmen schaffen, um Risiken für Menschenrechte, Demokratie und Rechtsstaatlichkeit, die von KI-Systemen ausgehen, zu bewältigen. Der gemeinsame Ansatz des Übereinkommens zielt auf Tätigkeiten innerhalb des gesamten Lebenszyklus' von KI-Systemen ab und beabsichtigt, dass diese Systeme sowohl die Vorgaben von Grundrechten, Demokratie und Rechtsstaatlichkeit einhalten als auch Innovation und Vertrauen ermöglichen. Betroffen sind demnach alle KI-Systeme, die nach dem risikobasierten Ansatz möglicherweise in grundrechtliche und demokratische Prinzipien eingreifen. Adressatinnen und Adressaten sind sowohl private als auch öffentliche Akteurinnen und Akteure. Private haben die Möglichkeit, entweder die Verpflichtungen des Übereinkommens direkt anzuwenden oder alternative geeignete Maßnahmen zu setzen, um dem Rahmenprogramm Rechnung zu tragen. Vom Übereinkommen ausgenommen sind die Bereiche Forschung und Entwicklung sowie nationale Sicherheit.

Die nächsten Schritte

Nach der erfolgten Unterzeichnung wird die Europäische Kommission einen Vorschlag für einen Beschluss des Rates der EU über den Abschluss des Übereinkommens formulieren. In Folge soll das Europäische Parlament diesem Vorschlag zustimmen.

Hintergrund: Rahmenübereinkommen des Europarates über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit

2019 begann die Arbeit des Ad Hoc-Komitees zu künstlicher Intelligenz (CAHAI, "Ad hoc Committee on Artificial Intelligence") des Europarates, die Machbarkeit eines solchen internationalen Rechtsinstruments zu eruieren. Seit September 2022 liefen die Verhandlungen über das Übereinkommen unter der Schirmherrschaft des Nachfolge-Komitees, konkret des Komitees zu künstlicher Intelligenz (CAI, "Committee on Artificial Intelligence"). Zu den bisher unterzeichnenden Staaten zählen Andorra, Georgien, Island, Norwegen, die Republik Moldau, San Marino, das Vereinigte Königreich, Israel, die Vereinigten Staaten von Amerika und die Europäische Union (in ihrem Namen als auch stellvertretend für die 27 EU-Mitgliedstaaten).

Ausgehandelt wurde das internationale Rechtsinstrument von den 46 Mitgliedstaaten des Europarates, der Europäischen Union sowie von 11 Nichtmitgliedern (Argentinien, Australien, Costa Rica, Heiliger Stuhl, Israel, Japan, Kanada, Mexiko, Peru, Vereinigte Staaten von Amerika und Uruguay). Vertreterinnen und Vertreter aus dem Privatsektor, der Zivilgesellschaft und der Wissenschaft waren als Beobachterinnen und Beobachter beteiligt. Das Ministerinnen- und Minister-Komitee des Europarates verabschiedete das Rahmenübereinkommen am 17. Mai 2024. Allen Ländern der Welt steht es offen, dem Übereinkommen beizutreten.

Weiterführende Informationen