Europäische Regulierung der Künstlichen Intelligenz (KI) – ein weiterer Pflock ist eingeschlagen

veröffentlicht am 22.12.2022

Der EU Rat der Telekommunikationsminister:innen hat am 6.12.2022 zum EU Gesetzesvorschlag über künstliche Intelligenz seine Verhandlungsposition festgelegt. Jetzt beginnen die Verhandlungen mit dem Europäischen Parlament.

Nach knapp 1,5-jährigen Verhandlungen haben sich die Mitgliedstaaten geeinigt – und zwar einstimmig. Allerdings hatten einige Staaten auch noch Bedenken bzw Forderungen, die nicht in den Rechtsakt Eingang gefunden haben. Zu diesen gehörte auch Österreich.

Aus diesem Grund hat Österreich eine Protokollerklärung eingebracht, die Datenschutz- und Konsumentenschutzanliegen enthält. Es ist zu hoffen, dass diese in den nun anschließenden Verhandlungen mit dem Europäischen Parlament Beachtung finden.

Ein wichtiges konsumentenpolitisches Anliegen bezieht sich auf Personen, die von Entscheidungen betroffen sind, die mit Hilfe von KI getroffen wurden (z.B. Bonitätsbewertungen). Betroffene müssen nach dem Entwurf keinerlei Information darüber erhalten, dass eine KI beteiligt war bzw. wie sie funktioniert. Wir meinen, dass diese Informationen aber wichtig sind, um notfalls Einwände gegen die Entscheidung erheben zu können.

Eckpunkte des EU Gesetzes über Künstliche Intelligenz:

Der Entwurf folgt einem risikobasierten Ansatz. Dies bedeutet, dass es Systeme der Künstlichen Intelligenz gibt, die verboten sind. Dazu gehören z.B. KI-Systeme, die die 

Verletzlichkeit von schutzwürdigen Gruppen oder auch Menschen in besonderen sozialen oder wirtschaftlichen Problemlagen ausbeuten. Eine weitere Gruppe sind hochriskante KI, die ein besonderes Risiko für die Gesundheit, Sicherheit oder Grundrechte darstellen können. Dazu gehören z.B. Bonitätsbewertungs- oder Gesichtserkennungssysteme, nicht aber z.B. Systeme zur personalisierten Preisbildung oder virtuelle Assistent:innen. Für hochriskante Systeme gibt es besondere Anforderungen wie Risikomanagement-, Qualitätssicherungs- oder Dokumentationsverpflichtungen. Schließlich gibt es KI, die im Einsatz gegenüber Menschen (nur) gekennzeichnet werden muss. Dazu gehörden Chatbots oder Emotionserkennungssysteme.

Besonders strittig war die Frage, was unter Künstlicher Intelligenz überhaupt zu verstehen ist. Soll jede komplexe Software oder nur selbstlernende Systeme bzw sog. Machine-Learning-Systeme in den Anwendungsbereich des EU Gesetzes fallen?

Ein weiterer Punkt betraf sog. Reallabore („regulatory sandboxes“) – also geschützte Räume, in denen KI erprobt und getestet werden soll, wobei auch ein Testbetrieb unter echten Bedingungen möglich sein soll. Hier ist Österreich der Meinung, dass im Entwurf noch nicht ausreichend klargestellt ist, wie dieser Testbetrieb datenschutzkonform erfolgen kann.

Wie geht es weiter?

Das Europäische Parlament wird seine Stellungnahme im Februar 2023 beschließen. Danach beginnen die Verhandlungen zwischen Rat und Parlament. Da in einigen Punkten unterschiedliche Positionen zu erwarten sind, werden wir mit einem Abschluss der Verhandlungen möglicherweise erst 2024 rechnen können.

Den Text des Gesetzesentwurfs, auf den sich die EU Minister:innen geeinigt haben (liegt vorerst nur in englischer Sprache vor) sowie die österreichische Protokollerklärung finden Sie hier: