"AI Act" der EU: Weltweit erstes staatenübergreifendes Regelwerk in Kraft

Gesetz über künstliche Intelligenz mit 1. August 2024 in Kraft getreten – Risikobasierter Ansatz soll vertrauenswürdige KI-Systeme fördern – Digitalisierungsstaatssekretärin Plakolm: "Digitalisierung und Künstliche Intelligenz sind eine Riesenchance für uns als Standort Österreich, aber auch für jede einzelne Österreicherin und jeden einzelnen Österreicher."

Foto eines Roboterteils
Foto: EU/Josep Lago

Künstliche Intelligenz, aber sicher: Mit 1. August 2024 trat das Gesetz über künstliche Intelligenz (KI) der EU in Kraft. Es ist das weltweit erste staatenübergreifende Regelwerk, das klare Prioritäten und Standards für den Einsatz künstlicher Intelligenz festlegt, um ethische und transparente Innovationen zu fördern. Der "AI Act" (Englisch für "Artificial Intelligence Act") macht die EU zum internationalen Vorreiter für den verantwortungsbewussten Umgang mit KI. Das KI-Gesetz soll für alle beteiligten Wirtschaftsteilnehmenden im privaten und öffentlichen Sektor Rechtssicherheit schaffen. Zudem soll der "AI Act" die Einführung von menschenzentrierten und vertrauenswürdigen KI-Systemen fördern und gleichzeitig ein hohes Maß an Schutz für Gesundheit, Sicherheit und Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz, gewährleisten.

Plakolm zu KI-Gesetz: "So viele Freiheiten wie möglich"

Digitalisierungsstaatssekretärin Claudia Plakolm begrüßt das Inkrafttreten des KI-Gesetzes mit folgenden Worten: "Digitalisierung und Künstliche Intelligenz sind eine Riesenchance für uns als Standort Österreich, aber auch für jede einzelne Österreicherin und jeden einzelnen Österreicher. Für mich gilt in Sachen Digitalisierung und KI das Motto: So wenige Einschränkungen wie notwendig, so viele Freiheiten wie möglich."

Sie betont: "Was mir im Zusammenhang mit dem 'AI Act' auch enorm wichtig ist, ist die Kennzeichnungspflicht für Bilder und Videos. Wir haben gerade bei jungen Menschen mit verzerrten Schönheitsbildern zu kämpfen und das hängt auch mit einer vorgegaukelten Welt zusammen, die durch künstliche Intelligenzen produziert wird."

Risiken minimieren, Chancen eröffnen

KI wird bereits in vielen alltäglichen Anwendungen eingesetzt; Beispiele dafür sind virtuelle Assistenz, medizinische Diagnosen, automatisierte Übersetzungen, Navigationssysteme oder Vorhersagen von Naturkatastrophen. KI kann zu einer innovativeren, effizienteren, nachhaltigeren und wettbewerbsfähigeren Wirtschaft sowie zu Verbesserungen für Bürgerinnen und Bürger in den Bereichen Sicherheit, Bildung und Gesundheitsversorgung beitragen. Sie wird auch im Dienste des Klimaschutzes eingesetzt.

Die EU unterstützt die Entwicklung von KI-Technologien. Die EU-Gesetzgeber beabsichtigen zusätzlich, Innovationen im Bereich der KI in der EU zu fördern und die Entwicklung eines Binnenmarkts für KI-Anwendungen zu erleichtern. Sie sind sich jedoch auch der potenziellen Risiken bewusst und fördern einen ethischen, auf den Menschen ausgerichteten Ansatz für diese technologischen Anwendungen. Der "AI Act" legt für das jeweilige Risiko von KI-Anwendungen daher Verpflichtungen sowohl für die Nutzerinnen- und Nutzer-Seite als auch für die Anbieterinnen- und Anbieter-Seite fest.

Diese Verpflichtungen sind in folgende Kategorien unterteilt:

  • Minimales oder kein Risiko: Die überwiegende Mehrheit der KI-Systeme (etwa Videospiele oder Spamfilter) birgt keine Risiken, kann deshalb weiterhin genutzt werden und wird durch das KI-Gesetz der EU nicht beschränkt.
  • Begrenztes Risiko: Für KI-Systeme mit begrenztem Risiko werden nur sehr geringe Transparenzpflichten gelten, beispielsweise die Offenlegung, dass die Inhalte KI-generiert sind, so dass Nutzerinnen und Nutzer fundierte Entscheidungen über deren Weiterverwendung treffen können.
  • Hohes Risiko: Eine ganze Reihe von Hochrisiko-KI-Systemen werden zugelassen, müssen aber bestimmte Anforderungen und Verpflichtungen erfüllen, um Zugang zum EU-Markt zu erhalten.
  • Unannehmbares Risiko: Bei manchen Nutzungsarten künstlicher Intelligenz werden die Risiken als unannehmbar erachtet, sodass die Verwendung dieser Systeme in der EU verboten wird. Dazu gehören kognitive Verhaltensmanipulation, vorausschauende Polizeiarbeit ("Predictive Policing"), Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sowie Sozialkreditsysteme. Biometrische Fernidentifizierungssysteme wie Gesichtserkennung werden mit einigen begrenzten Ausnahmen ebenfalls verboten.

Mit dem neuen Gesetz wird zudem eine Transparenzpflicht eingeführt: Künstlich erzeugte oder bearbeitete Inhalte, wie Bilder, Audios oder Videos, müssen künftig eindeutig als solche gekennzeichnet werden.

Bei Verstößen kann die Europäische Kommission Strafzahlungen von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes eines Unternehmens verlangen. 

Sujetbild Künstliche Intelligenz - Nutzen im Alltag und mögliche Einsatzgebiete
Foto: Europäisches Parlament

Die nächsten Schritte

Der "AI Act" soll nach und nach greifen:

  • Ab 2. Februar 2025 sind in den EU-Mitgliedstaaten zunächst inakzeptable Technologien wie Sozialkreditsysteme verboten.
  • Ab 2. August 2025 greifen die Regeln für allgemein nutzbare KI-Systeme, etwa zur Text- oder Bilderstellung.
  • Ab 2. August 2026 werden alle anderen Bestimmungen des KI-Gesetzes wirksam.

Bereits im Herbst 2024 erwartet die Europäische Kommission einen "KI-Pakt" hunderter Unternehmen zu freiwilligen Selbstkontrollen.

Hintergrund: Künstliche Intelligenz

Künstliche Intelligenz (KI) ist ein wesentlicher Treiber für die digitale Transformation der Gesellschaft. Vor diesem Hintergrund ist KI auch eine der Prioritäten der EU.

Im April 2021 hatte die Europäische Kommission einen Verordnungsentwurf für KI vorgeschlagen. Darin wird empfohlen, dass KI-Systeme, die in verschiedenen Anwendungen eingesetzt werden können, je nach dem Risiko, das sie für die Nutzerinnen und Nutzer darstellen, evaluiert und eingestuft werden. Im Dezember 2022 folgte die allgemeine Ausrichtung (Festlegung des gemeinsamen Standpunktes) durch den Rat der EU. Nach der im Juni 2023 erfolgten Festlegung des Europäischen Parlaments auf seine Position führten die Verhandlungen zwischen Parlament und Rat der EU am 8. Dezember 2023 zu einer politischen Einigung über das KI-Gesetz. Das Europäische Parlament verabschiedete das Gesetz über künstliche Intelligenz im März 2024 und der Rat der EU erteilte seine Zustimmung im Mai 2024. Am 12. Juli 2024 wurde der "AI Act" schließlich im Amtsblatt der Europäischen Union veröffentlicht.

Künstliche Intelligenz ist die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren. KI ermöglicht es technischen Systemen, ihre Umwelt wahrzunehmen, mit dem Wahrgenommenen umzugehen und Probleme zu lösen, um ein bestimmtes Ziel zu erreichen. Der Computer empfängt Daten (die bereits über eigene Sensoren, beispielsweise eine Kamera, vorbereitet oder gesammelt wurden), verarbeitet sie und reagiert. KI-Systeme sind in der Lage, ihr Handeln anzupassen, indem sie die Folgen früherer Aktionen analysieren und autonom arbeiten. Fortschritte bei der Rechenleistung sowie die Verfügbarkeit großer Datenmengen und neue Algorithmen haben in den vergangenen Jahren zu entscheidenden Durchbrüchen in der KI geführt.

Weitere Informationen