KI-Regulierung: Der Teufel steckt im Detail
Die EU reguliert künstliche Intelligenz: Rat, Kommission und Parlament einigten sich im Dezember auf den AI Act. Damit steht der Rechtsrahmen für KI auch in Deutschland – an mehreren Stellen besteht aber noch Klärungsbedarf.
- Die EU hat mit dem AI Act einen Gesetzesrahmen für KI auf den Weg gebracht, viele Detailfragen sind aber noch zu klären.
- In Sachen KI liegen Europa und Deutschland zurück: Von 2013 bis 2022 betrugen die privatwirtschaftlichen Investitionen in KI in den USA fast 249 Milliarden Dollar. Deutschland kam auf 7 Milliarden Dollar.
- Der AI Act muss nachvollziehbar und bürokratiearm sein, um den KI-Sektor in Europa zu beflügeln.
Sie steckt in unseren Smartphones, in Produktionsstätten der Industrie und in vielen digitalen Tools und Anwendungen – künstliche Intelligenz (KI) ist längst fester Bestandteil des Alltags. Die europäische Politik hat sich in den vergangenen Jahren mit der Technologie beschäftigt, deren Einfluss und Auswirkungen sehr schnell zunehmen. Das Ziel der EU: einen rechtlichen Rahmen schaffen, um KI in Europa bestmöglich zu entwickeln und zu nutzen. KI soll dann helfen, Prozesse effizienter zu gestalten, Kosten zu verringern und neue Geschäftsmodelle zu erarbeiten.
Der Gesetzesrahmen soll dabei garantieren, dass Firmen und Regierungen KI ausschließlich entsprechend den europäischen Normen und Werten einsetzen. Damit will die Politik verhindern, dass jemand künstliche Intelligenz missbraucht. Mahnendes Beispiel dafür ist China, wo die Regierung mit der Technik ihre Bürger überwacht.
Lange haben die EU-Politiker um die Inhalte des sogenannten AI Act gerungen – AI steht für Artificial Intelligence –, im Dezember einigten sich der Europäische Rat, die Europäische Kommission und das Europäische Parlament schließlich. Ähnliche legislative Prozesse liefen und laufen auch in anderen Teilen der Welt ab – viele Regierungen arbeiten am Umgang mit der Technologie (Grafik):
Weltweit wurden bisher 176 Regulierungen bezüglich KI rechtsverbindlich. Weitere 169 werden derzeit noch ausgehandelt.
Unabhängig vom AI Act hat Europa in Sachen KI noch gehörigen Nachholbedarf. Von den deutschen Unternehmen aus Industrie und verwandten Dienstleistungen zum Beispiel nutzten im Jahr 2022 gerade einmal knapp 19 Prozent KI. Auch in puncto Investitionen und Neugründungen liegen Deutschland und Europa weit hinter der internationalen Konkurrenz zurück. Hier dominieren die Vereinigten Staaten (Grafik):
Von 2013 bis 2022 betrugen die privatwirtschaftlichen Investitionen in KI in den USA fast 249 Milliarden Dollar. Deutschland kam auf 7 Milliarden Dollar.
Eine enorme Diskrepanz gibt es auch bei den KI-Start-ups. In den USA wurden im betrachteten Zeitraum mehr als 4.600 Firmen gegründet, die Bundesrepublik verzeichnete weniger als 250. In der EU kann nur Frankreich ähnliche Zahlen wie Deutschland vorweisen, alle anderen Staaten liegen im internationalen Vergleich noch weiter zurück. Das hat natürlich auch mit der Größe der Länder zu tun.
Es ist daher nötig, in der Europäischen Union KI-Innovationen zu begünstigen und keine neuen Hürden zu schaffen. Ob der AI Act dies leisten kann, bleibt abzuwarten, denn viele technische Details des Gesetzespakets werden derzeit noch ausgearbeitet. Außerdem ist bislang noch völlig unklar, wie genau das Amt für künstliche Intelligenz ausgestaltet sein wird, das die EU schaffen will.
Der AI Act muss nachvollziehbar und bürokratiearm sein, um den KI-Sektor in Europa zu beflügeln und den Rückstand auf die USA zu verringern.
Andere Inhalte des AI Act sind dagegen schon klar: Kern ist ein risikobasierter Ansatz – besonders risikoreiche KI-Anwendungen sollen demnach strenger reguliert werden. Ihnen werden zum Beispiel umfassendere Dokumentations- und Transparenzpflichten auferlegt und sie müssen über eine besonders hohe Cybersicherheit verfügen. Ein derartiges Hochrisiko betrifft etwa KI-Anwendungen in kritischen Infrastrukturen wie der Wasser-, Gas- und Stromversorgung.
KI-Anwendungen mit einem sogenannten unannehmbaren Risiko sind in der EU sogar vollständig verboten.
Als unannehmbares Risiko bewertet die EU beispielsweise das Social Scoring, also die ständige Bewertung des sozialen Verhaltens, wie es in China praktiziert wird. Ebenfalls in der EU verboten sind Emotionserkennungssysteme am Arbeitsplatz.
Beim risikobasierten Ansatz ist es grundsätzlich wichtig, dass die Kategorisierung für Unternehmen, die KI einsetzen und KI entwickeln, direkt ersichtlich ist und so für sie Rechtssicherheit besteht. Dies gilt umso mehr, da im AI Act erst kurz vor Schluss noch das Thema generative KI verankert wurde. Entsprechende Basismodelle, zu denen auch die ChatGPT-Grundlage gehört, hatten die EU-Gesetzgeber zunächst nicht einbezogen. Vorgesehen ist für sie nun ein zweistufiger Ansatz, der den Umfang der Vorgaben von der Überschreitung von Schwellenwerten abhängig macht – auf diese Weise sollen nur die großen amerikanischen Modelle zahlreiche Auflagen erfüllen müssen.
Außer Acht lässt das allerdings die umfassenden Verflechtungen der deutschen Industrie, die umfangreiche Anwendungen auf Basis dieser US-Modelle entwickelt. Diese Firmen könnten durch den AI Act stärker belastet werden als ursprünglich vorgesehen. Hier kommt es also ebenfalls darauf an, wie genau die letztgültigen Regeln aussehen.
Wie wichtig das Thema Rechtssicherheit für die Unternehmen ist, zeigt eine Befragung der Unternehmensberatung Deloitte aus dem Jahr 2022:
Das damit verbundene Risikomanagement ist die größte Hürde für Firmen in Deutschland, KI-Anwendungen auszubauen und zu erweitern.
Der AI Act muss folglich nachvollziehbar und bürokratiearm sein, um den KI-Sektor in Europa zu beflügeln. Außerdem sollte er möglichst alle Spielarten von KI abdecken. Doch schon jetzt können die Regulierungen kaum Schritt mit dem enormen Tempo der KI-Innovationen halten. Entsprechend schnell muss die Politik die Regulierung des AI Act nun finalisieren und aufgrund der rasanten Entwicklung im KI-Sektor nach kurzer Zeit mit Blick auf ihre Wirksamkeit überprüfen.