26. April 2021 Ein Europa für das digitale Zeitalter

EU-Kommission unterbreitet neue Maßnahmen im Bereich der Künstlichen Intelligenz

Future and Emerging Technologies Conference (Science Beyond Fiction) conference — Foto: European Union 2011/Audiovisuelle Dienste der EU-Kommission/Ferenc Isza

Europa als globales Zentrum für Künstliche Intelligenz (KI)

Der weltweit erste Rechtsrahmen für Künstliche Intelligenz (KI-Verordnung) und ein mit den EU-Mitgliedstaaten koordinierter Plan sollen Sicherheit und Grundrechte der Menschen und Unternehmen gewährleisten, die KI-Verbreitung fördern sowie Investitionen und Innovationen im KI-Bereich in der gesamten EU stärken. Die EU-Kommission schlug am 21. April 2021 neue Vorschriften für Maschinen zur Anpassung von Sicherheitsaspekten vor, um das Vertrauen der Nutzerinnen und Nutzer in die neue Produktgeneration zu stärken. Unter Künstlicher Intelligenz werden Maschinen verstanden, die ihre Umwelt – ähnlich wie Menschen – verstehen können und als lernende Systeme fungieren. KI beinhaltet reine Software-Systeme, aber auch Hardware wie zum Beispiel Roboter.

"Bei Künstlicher Intelligenz ist Vertrauen ein Muss und kein Beiwerk. Mit diesen wegweisenden Vorschriften steht die EU an vorderster Front bei der Entwicklung neuer weltweiter Normen, die sicherstellen sollen, dass KI vertrauenswürdig ist. Mit der Schaffung der Standards können wir weltweit den Weg für ethische Technik ebnen und dafür sorgen, dass die EU hierbei wettbewerbsfähig bleibt. Unsere Vorschriften werden zukunftssicher und innovationsfreundlich sein und nur dort eingreifen, wo dies unbedingt notwendig ist, nämlich wenn die Sicherheit und die Grundrechte der EU-Bürgerinnen und -Bürger auf dem Spiel stehen", betonte die für das digitale Zeitalter zuständige Exekutiv-Vizepräsidentin der EU-Kommission Margrethe Vestager.

Auch die Bundesministerin für Digitalisierung und Wirtschaftsstandort, Margarete Schramböck, begrüßte den umfassenden Vorschlag der EU-Kommission zum Thema Künstliche Intelligenz: "Ein klarer, aber flexibler Rechtsrahmen, der Innovationen fördert und gleichzeitig ein hohes Maß an Schutz und Sicherheit gewährleistet, ist beim Thema Künstliche Intelligenz unerlässlich."

Das europäische Konzept für vertrauenswürdige KI

Den neuen Vorschriften liegt ein risikobasierter Ansatz zu Grunde, der folgende 4 Risikostufen umfasst:

Unannehmbares Risiko: Verboten werden KI-Systeme, die eine Bedrohung der Lebensgrundlagen und Rechte der Menschen darstellen, Systeme, die menschliches Verhalten manipulieren oder Behörden eine Bewertung sozialen Verhaltens (englisch: "Social Scoring") ermöglichen.
Hohes Risiko: In den Bereichen kritische Infrastrukturen, Schul- oder Berufsausbildung, Sicherheitskomponenten von Produkten, Strafverfolgung und so weiter müssen vor Marktreife strenge Vorgaben erfüllt werden. Kriterien reichen von angemessenen Risikobewertungs- und Risikominderungssystemen über eine hohe Qualität der Datensätze, Protokollierung der Vorgänge bis zur menschlichen Aufsicht zur Minimierung der Risiken.
Geringes Risiko: Hier sind KI-Systeme gemeint, für die besondere Transparenzverpflichtungen gelten. Wesentlich ist das Bewusstsein der Nutzerinnen und Nutzer, dass sie es mit einer Maschine zu tun haben und deren Entscheidungsfreiheit, die Anwendung weiter nutzen zu wollen oder nicht.
Minimales Risiko: Der Legislativvorschlag soll die freie Nutzung von Anwendungen wie KI-gestützte Videospiele oder Spamfilter ermöglichen. Die Mehrheit der KI-Systeme fällt in diese Kategorie. Da diese KI-Systeme nur ein kleines oder kein Risiko für die Bürgerinnen- und Bürgerrechte oder die Sicherheit darstellen, soll der Verordnungsentwurf hier nicht eingreifen.

Die Anwendung der neuen Vorschriften (KI-Governance) soll in Zukunft von den Marktüberwachungsbehörden beaufsichtigt werden. Darüber hinaus wird ein Europäischer Ausschuss für Künstliche Intelligenz eingerichtet.

Das europäische Konzept für Exzellenz in der KI

Der erstmals im Jahr 2018 veröffentlichte und nun überarbeitete Koordinierte Plan für KI wurde eingeführt, um Maßnahmen und Finanzierungsinstrumente für KI festzulegen und ein Zusammenspiel aus nationalen Strategien und EU-Fördermitteln für öffentliche-private Partnerschaften und für Forschungs- und Innovationsnetze zu ermöglichen.

Vorgeschlagene Maßnahmen der Zusammenarbeit müssen der KI-Strategie und dem europäischen "Green Deal" entsprechen und auch die Coronavirus-Pandemie berücksichtigen. Der koordinierte Plan soll die Umsetzung nationaler KI-Strategien beschleunigen und globale Herausforderungen bewältigen.

Verwendete Mittel kommen aus den Programmen "Digital Europe" und "Horizon Europe", aus Mitteln der Aufbau- und Resilienzfazilität sowie aus Programmen der Kohäsionspolitik. Diese Gelder finden Verwendung bei der Schaffung günstiger Voraussetzungen für die KI-Entwicklung und -Einführung, für die Förderung von KI-Exzellenz "vom Labor bis zum Markt", auch um zu gewährleisten, dass KI den Menschen nützen soll und vertrauensbildend ist und die strategische Führungsrolle der EU in diesem Bereich auszubauen. Die KI soll insbesondere zu einer nachhaltigen Produktion, zum Gesundheitsbereich, dem öffentlichen Sektor, Mobilität, Inneres, Landwirtschaft und Robotik beitragen.

Weitere Vorgehensweise

Die Kommissionsvorschläge für ein europäisches Konzept für KI und für eine Maschinenverordnung müssen vom Europäischen Parlament und von den Mitgliedstaaten im ordentlichen Gesetzgebungsverfahren angenommen werden. Nach Verabschiedung der Verordnungen erlangen diese Gültigkeit in der gesamten EU. Zeitgleich arbeitet die Kommission mit den Mitgliedstaaten zusammen, um die geplanten Maßnahmen des koordinierten Plans zu realisieren.

Weißbuch zur Künstlichen Intelligenz

Im vergangenen Jahr veröffentlichte die Kommission bereits ein Weißbuch zur KI, welches klare Zielvorstellungen für Europa festlegt, nämlich ein Ökosystem für Exzellenz sowie Vertrauen als grundlegende Basis. Der dem Weißbuch beigefügte Bericht über die Auswirkungen Künstlicher Intelligenz, des "Internets der Dinge" und der Robotik zu Sicherheit und Haftung zeigt, dass die Maschinenrichtlinie bestehende Lücken von Produktsicherheitsvorschriften beseitigt.