Künstliche Intelligenz

Mit der Verabschiedung der KI-Verordnung ist eine erste europaweite Regulierung dieser Technologie erfolgt, die nun in den Mitgliedstaaten umgesetzt werden muss. Hierbei darf die sinnvolle Nutzung von KI-Systemen nicht durch überbordenden Bürokratismus gebremst werden, gleichzeitig muss bei der Nutzung generativer KI sichergestellt werden, dass Urheberrechte gewahrt bleiben und Missbrauch verhindert wird.

KI-Verordnung kommt

Nachdem die EU-Kommission bereits im April 2021 den ersten Vorschlag eines Gesetzes zur Regulierung von KI (KI-Verordnung) vorgelegt hatte, hat der Ministerrat der EU im Dezember 2022 seinen gemeinsamen Standpunkt verabschiedet. Nach Beratungen im Europaparlament und intensiven Trilog-Verhandlungen zwischen Rat, Kommission und Parlament, wurde im Dezember 2023 eine Einigung zwischen den EU-Institutionen gefunden. Der Anfang 2024 veröffentlichte Entwurf der KI-Verordnung fand im Februar 2024 die finale Zustimmung des Rats und der Parlamentsausschüsse. Die finale Abstimmung im Parlament ist für April 2024 geplant. Am 20. Tag nach der Veröffentlichung im Amtsblatt tritt die Verordnung in Kraft.

Die KI-Verordnung unterscheidet nach einem risikobasierten Ansatz zwischen den verschiedenen Arten von KI-Systemen. Je höher die potenzielle Gefahr ist, die von der Nutzung des Systems ausgeht, desto höher sind die rechtlichen Anforderungen. Bei besonders risikoreichen Anwendungen muss beispielsweise die Kontrolle durch Menschen sicherstellen, dass keine Grundrechte verletzt werden. Im Anhang III der KI-Verordnung sind Hochrisiko-Systeme definiert, die besonders strengen Auflagen unterliegen. Trotz des Einsatzes von ZAW und der Advertising Information Group (AIG) dahingehend, dass Stellenanzeigen nicht hierunter fallen, werden diese zukünftig als Hochrisiko-System gefasst. Der ZAW befürchtet, dass dies Innovation hindern könnte, anstatt sozialen und wirtschaftlichen Nutzen durch das Aufzeigen von Möglichkeiten für Arbeitnehmer zu fördern.

Nationale Umsetzung

Die Verordnung ist nach Inkrafttreten unmittelbar in den Mitgliedstaaten der EU anwendbar, es wird aber ein nationales Durchführungsgesetz zur Schaffung der behördlichen Strukturen in Deutschland und der Durchsetzung der Sanktionen geben müssen. Hier setzt sich der ZAW mit den anderen Dachverbänden der Wirtschaft dafür ein, dass die sinnvolle Nutzung von KI-Systemen ermöglicht wird.

Schutz von Urheberrrechten

Während ein traditionelles KI-System Daten analysiert und Ergebnisse vorhersagt, erschafft generative KI eigenständig neue Inhalte, wobei auf bestehende Texte, Bilder und Werke anderer zurückgegriffen wird. Hierbei ist einerseits essenziell, dass die Urheber- und Leistungsschutzrechte der Erschaffer von Werken, Bildern und Texten, auf die die generative KI zurückgreift, gewahrt werden. Andererseits müssen durch generative KI erschaffene Inhalte für den jeweiligen Betrachter als solche erkennbar sein. Die KI-Verordnung ist hier ein erster Schritt in die richtige Richtung. Es ist nun darauf zu achten, dass vorgesehene Transparenzpflichten gegenüber den Nutzern (Kennzeichnungspflicht) und gegenüber den Rechteinhabern (Nachweispflicht) korrekt umgesetzt und erforderlichenfalls gesetzlich nachgebessert werden. Hinsichtlich der Kennzeichnungspflicht müssen Betreiber eines KI-Systems, das einen Text zur Information der Öffentlichkeit publiziert, offenlegen, dass dieser Text künstlich erzeugt wurde. Hiervon gibt es eine Ausnahme: wenn der Inhalt einer menschlichen Überprüfung oder redaktioneller Kontrolle unterzogen wird und eine Person die redaktionelle Verantwortung für diesen Inhalt trägt. Bei der Nachweispflicht, die es den Rechteinhabern ermöglichen soll, ihre Verfügungs- und Vergütungsrechte geltend zu machen, muss die Nachweisbarkeit so durchgesetzt werden, dass Rechteinhaber auch konkret wissen können, ob die eigenen Inhalte für die Entwicklung und den Ausbau generativer KI genutzt wurden. | Stand: April 2024