Europäische Kommission stellt neues KI-Amt vor

Europäische Kommission schafft Amt für Künstliche Intelligenz (KI) – Damit sollen die EU-Mitgliedstaaten bei der Umsetzung des Gesetzes über künstliche Intelligenz unterstützt werden

Offene Hände einer Person die von einem Projektor beleuchtet werden

Künstliche Intelligenz (KI) birgt für die Europäische Union und ihre Mitgliedstaaten Chancen und Herausforderungen zugleich. Damit KI der Gesellschaft dient, möglichst niemandem schadet, wirtschaftlichen Mehrwert schafft und Risiken zeitgleich vermindert, hat die Europäische Kommission am 29. Mai 2024 das KI-Amt ("Artificial Intelligence (AI) Office") vorgestellt. Dieses soll der erfolgreichen Durchsetzung des Gesetzes über künstliche Intelligenz ("Artificial Intelligence Act", kurz "AI Act") dienen, indem es die EU-Mitgliedstaaten und deren Behörden unterstützt. Darüber hinaus soll das Amt Forschung und Innovation im Bereich der vertrauenswürdigen KI fördern.

Exekutiv-Vizepräsidentin Vestager: "Damit die KI uns Menschen dient"

"Das heute vorgestellte KI-Amt wird uns helfen, die kohärente Durchführung des KI-Gesetzes sicherzustellen. Gemeinsam mit Entwicklerinnen und Entwicklern sowie Wissenschaftskreisen wird es KI-Modelle mit allgemeinem Verwendungszweck bewerten und testen, damit die KI uns Menschen dient und unsere europäischen Werte gewahrt bleiben", sagte die für das Ressort "Ein Europa für das digitale Zeitalter" zuständige Exekutiv-Vizepräsidentin Margrethe Vestager.

"Mit dem neuen KI-Amt und seinen 140 talentierten Kolleginnen und Kollegen wird die Kommission über das notwendige Fachwissen verfügen, um die Durchführung des KI-Gesetzes zu steuern und die Rolle Europas als weltweiter Standardsetzer im Bereich der KI zu stärken. Das Amt wird ein europäisches KI-Ökosystem fördern, das innovativ und wettbewerbsfähig ist und die Vorschriften und Werte der EU achtet", ergänzte der für den Binnenmarkt zuständige EU-Kommissar Thierry Breton.

Österreich als Vorreiter

Bereits vor der Entstehung des KI-Amtes der Europäischen Kommission hat die österreichische Bundesregierung den Nationalen KI-Beirat eingerichtet – einen hochkarätigen Beirat bestehend aus Expertinnen und Experten. Neben diesem Beratungsgremium gibt es die KI-Servicestelle, die Unternehmen sowie Bürgerinnen und Bürgern aufklärend zur Seite steht. Die operative Betreuung beider Einrichtungen obliegt der Rundfunk und Telekom Regulierungs-GmbH (RTR).

"Wir haben hier als Österreich bereits vorgearbeitet und eine KI-Servicestelle eingerichtet, die als Ansprechpartner und Informationshub zum Thema KI fungiert. Sie unterstützt bei der Umsetzung des europäischen AI Act. So sollen beispielsweise Unternehmen wissen, was rechtlich möglich ist und was nicht. Gleichzeitig bündeln wir in der 'Digitalen Kompetenzoffensive' die Kräfte für breite digitale Basisbildung, auch zum Thema KI. In ganz Österreich werden dafür rund 4500 kostenlose 'Digital Überall'-Workshops direkt vor Ort durchgeführt. Denn mir ist wichtig, dass jeder in Österreich sich mit Digitalisierung so gut auskennt, dass er im Alltag gut zurechtkommt", so Digitalisierungsstaatssekretärin Claudia Plakolm."

Viele Aufgaben für ein Amt

Da das KI-Amt viel Fachwissen in einer komplexen Materie bündelt, soll es zu einer kohärenten Anwendung des KI-Gesetzes in den EU-Mitgliedstaaten, zur Einrichtung von Beratungsgremien auf EU-Ebene sowie zur Möglichkeit des Informationsaustausches beitragen. Dabei soll das KI-Amt Instrumente, Methoden und "Benchmarks" entwickeln, um Fähigkeiten und Auswirkungen von KI-Modellen, die allgemeinen Zwecken dienen, zu bewerten sowie KI-Modelle mit systemischen Risiken zu klassifizieren.

Des Weiteren sollen Praxis-Leitfäden und Verhaltenskodizes erarbeitet werden, um Regeln hinsichtlich des technologischen Letztstandes im Detail nachzuzeichnen – auch in Zusammenarbeit mit führenden KI-Entwicklerinnen und -Entwicklern, der wissenschaftlichen Community sowie anderen Expertinnen und Experten. Das KI-Amt soll zusätzlich mögliche Verstöße gegen das KI-Gesetz untersuchen, Modellfähigkeiten bewerten und bei Fällen des Verstoßes von Anbietern korrigierende Maßnahmen einfordern. So soll es auch vorbereitende Maßnahmen ergreifen: Leitlinien, Rechtsakte sowie andere Instrumente zur Unterstützung einer effektiven Umsetzung des KI-Gesetzes.

Struktur des KI-Amtes mit 5 Referaten

Um den Aufgaben gerecht zu werden, wird das KI-Amt mehr als 140 Mitarbeiterinnen und Mitarbeiter beschäftigen. Dazu gehören Technik-Spezialistinnen und -Spezialisten, Verwaltungsassistentinnen und -assistenten, Juristinnen und Juristen, Politik-Expertinnen und -Experten sowie Ökonominnen und Ökonomen. Ergänzt werden die Mitarbeiterinnen und Mitarbeiter durch einen leitenden wissenschaftlichen Berater sowie einen Berater für internationale Angelegenheiten.

Die Tätigkeit des KI-Amtes gliedert sich in die folgenden Referate:

  • Referat für Regulierung und Compliance, das die Regulierung koordiniert, um – in enger Zusammenarbeit mit den EU-Mitgliedstaaten – die einheitliche Anwendung und Durchsetzung des KI-Gesetzes in der EU zu erleichtern. Es wird an Untersuchungen mitwirken, gegen mögliche Verstöße vorgehen und etwaige Sanktionen verwalten.
  • Referat für KI-Sicherheit, das sich vor allem mit der Ermittlung systemischer Risiken, die von sehr leistungsfähigen KI-Modellen mit allgemeinem Verwendungszweck ausgehen, mit möglichen Maßnahmen der Risikominderung sowie Ansätzen für die Bewertung und Erprobung befassen wird.
  • Referat für Exzellenz in KI und Robotik, das die Forschung und Entwicklung unterstützen und finanzieren wird, um ein Ökosystem der Exzellenz zu begünstigen. Es wird auch die Initiative "GenAI4EU" koordinieren und die Entwicklung neuer Modelle und ihre Integration in innovative Anwendungen fördern.
  • Referat der KI für das Gemeinwohl, das sich mit der Gestaltung und Umsetzung der internationalen Aufgaben des KI-Amts im Interesse einer KI für das Wohl der Menschen befassen wird, wozu beispielsweise Anwendungen wie Wettermodellierung, Krebsdiagnose und "digitale Zwillinge" für den Wiederaufbau von Gebäuden gehören.
  • Referat für KI-Innovation und Politikkoordinierung, das die Umsetzung der KI-Strategie der EU begleitet, Trends und Investitionen beobachtet, auf die Einführung von KI mithilfe eines Netzes europäischer digitaler Innovationszentren hinwirkt, die Einrichtung von KI-Fabriken vorantreibt und das Entstehen eines innovativen Ökosystems durch Unterstützung von Reallaboren und von Erprobungen unter realen Bedingungen fördert.

Hintergrund: Das KI-Gesetz der EU

Im Dezember 2023 einigten sich der Rat der EU und das Europäische Parlament auf das KI-Gesetz, nachdem die Europäische Kommission bereits 2021 einen Vorschlag dafür vorgelegt hatte. Das Europäische Parlament hat das Gesetz am 13. März 2024 mit klarer Mehrheit bestätigt. Die formalen Beschlussfassungen erfolgten am 21. Mai 2024 im Rat der EU. Das KI-Gesetz greift allerdings erst ab Frühjahr 2026.

Die neuen Regeln zielen darauf ab, Grundrechte, Rechtsstaatlichkeit, Demokratie sowie ökologische Nachhaltigkeit vor Hochrisiko-KI-Systemen zu schützen, indem sie KI-Anwendungen nach Risiko klassifiziert. Zugleich soll das KI-Gesetz Innovationen anregen und dafür sorgen, dass die EU in diesem Bereich eine Führungsrolle einnimmt. Die Verordnung legt bestimmte Verpflichtungen für KI-Systeme fest, abhängig von den jeweiligen möglichen Risiken und Auswirkungen. Gewisse KI-Anwendungen werden verboten, darunter biometrische Kategorisierungen auf der Grundlage sensibler Merkmale, wie ethnischer Zugehörigkeit oder sexueller Orientierung, und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder durch Überwachungskameras.  

Weitere Informationen