Inhalt des Artikels:

  • Informationen woher die KI ihr Wissen hat
  • Behörden noch nicht festgelegt
  • Auswirkungen auf Unternehmen

Informationen woher die KI ihr Wissen hat

Die europäische KI-Verordnung (oft auch "AI Act" genannt, abgeleitet vom englischen Namen "Artificial Intelligence Act") soll die Verwendung von KI in der EU regeln. Sie war im August 2024 in Kraft getreten. Ihr Inhalt muss schrittweise umgesetzt werden. Ab 2. August 2025 gelten weitere Regelungen, unter anderem zur besseren Nachvollziehbarkeit von KI-Modellen.

Anbieter von sogenannten KI-Modellen mit allgemeinem Verwendungszweck müssen laut Bundesnetzagentur (BNetzA) nach Artikel 53 der KI-Verordnung ab dann sicherstellen, dass ihre Modelle sicher und vertrauenswürdig sind. So müssen sie bestimmte Informations- und Dokumentationspflichten erfüllen. Dazu gehört zum Beispiel, dass offen gelegt wird, mit welchen Daten die KI trainiert wurde und dass es eine Strategie dazu gibt, wie mit Urheberrechten umgegangen wird.

Das gilt für neue KI-Modelle mit allgemeinem Verwendungszweck, die ab dann auf den Markt kommen. "Solche KI-Modelle, die bereits im Einsatz sind, haben in der Regel noch bis August 2027 Zeit, um sich an die Regeln anzupassen. Das ist eine Übergangsfrist", sagt Dirk Binding, Bereichsleiter für Digitale Wirtschaft bei der Deutschen Industrie- und Handelskammer (DIHK).

Behörden noch nicht festgelegt

Die KI-Verordnung sieht auch vor, dass ab 2. August 2025 feststeht, welche Behörden für die Umsetzung und Kontrolle der KI-Regeln zuständig sind. "Jeder Mitgliedsstaat muss mindestens eine notifizierende Behörde und mindestens eine Marktüberwachungsbehörde als zuständige nationale Behörde einrichten oder benennen", erklärt die Bundesnetzagentur auf MDR-Anfrage. Dafür bedarf es allerdings noch eines nationalen Durchführungsgesetzes. Das werde derzeit noch erarbeitet.

Laut Bundesministerium für Digitales und Staatsmodernisierung (BMDS) befindet sich der Entwurf für das Gesetz derzeit in der Abstimmung innerhalb der Bundesregierung. Anschließend müssen sich die Länder noch damit befassen und es folgt eine öffentliche Beteiligung. Man wolle die Umsetzung der KI-Verordnung zügig vorantreiben und zeitnah nach Abschluss der öffentlichen Beteiligung damit ins Kabinett. "Mit Blick auf die Bundestagswahlen, den Regierungswechsel und die erforderliche Neuabstimmung wird ein Abschluss des Gesetzgebungsverfahrens bis zum 2. August 2025 jedoch nicht erreicht werden können", sagt ein Sprecher des Ministeriums. Das habe zur Folge, dass eine Umsetzung der Regeln, sofern diese eine nationale Behörde voraussetzen, noch nicht erfolgen kann. Nach Informationen des BMDS und eigenen Angaben der Bundesnetzagentur soll diese "eine zentrale Rolle bei der Anwendung der KI-Verordnung erhalten".

Hinweis: Die Anforderungen an Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sollen laut BMDS vom europäischen AI Office überwacht werden – eine nationale Behörde ist dafür also nicht notwendig. "Darüber hinaus liegt die Marktüberwachung für KI-Systeme, die auf einem KI-Modell mit allgemeinem Verwendungszweck beruhen, beim europäischen AI Office", so das Ministerium.

Auswirkungen auf Unternehmen

Die neuen Regeln haben auch Auswirkungen auf Unternehmen. Dabei macht es laut Dirk Binding von der DIHK einen Unterschied, ob die Firmen selbst KI entwickeln oder sie einsetzen. Denn die neuen Pflichten würden zunächst auf Anbieter von KI-Modellen mit allgemeinem Verwendungszweck abzielen. "Neue Dokumentations- und Nachweispflichten bedeuten auch mehr Aufwand und Kosten für Unternehmerinnen und Unternehmer. Deshalb ist eine bürokratiearme Ausgestaltung des AI Acts immens wichtig", erläutert der Experte für Digitale Wirtschaft. Zurzeit fehle es in Teilen noch an Normen und Standards. Auch Leitlinien seien nicht rechtzeitig fertiggestellt worden. Das führe zu rechtlichen Unsicherheiten.

Nicht nur die Entwickler selbst, sondern auch viele andere Unternehmen verwenden diese KI-Modelle, sagt Binding: "Durch die neuen Regeln müssen die Anbieter jetzt zum Beispiel genau aufschreiben, wie ihre KIs funktionieren. Dadurch bekommen auch die Nutzer – also die Unternehmen – bessere Einblicke und können die KI besser verstehen."

Neben den neuen Pflichten für Entwickler von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) stehen die Verpflichtungen für die Mitgliedstaaten zur Schaffung nationaler Aufsichtsbehörden. Wichtig: Diese überwachen dann nicht die GPAI-Modelle, sondern laut DIHK alle anderen KI-Systeme. Davon sind laut Binding auch Unternehmen betroffen: nämlich bei der Frage, wie die nationale Aufsicht gestaltet wird oder wie die Kommunikation mit den Behörden erfolgen soll.

KI-Service Desk für Unternehmen eingerichtet

Für Unternehmen hat das Bundesministerium für Digitales und Staatsmodernisierung bei der Bundesnetzagentur einen sogenannten KI-Service-Desk eingerichtet. "Ziel des Angebots ist es, über die neuen europäischen Anforderungen beim Einsatz und bei der Entwicklung von künstlicher Intelligenz praxisorientiert zu informieren", so das Ministerium. Der KI-Service Desk soll zu mehr Rechtssicherheit beitragen und durch einen interaktiven Kompass (genannt Compliance Kompass) Organisationen dabei helfen zu prüfen, "ob und in welchem Umfang die KI-Verordnung für ihre eingesetzten KI-Systeme Anwendung findet".

MDR (jvo)

Haftungsausschluss: Das Urheberrecht dieses Artikels liegt bei seinem ursprünglichen Autor. Der Zweck dieses Artikels besteht in der erneuten Veröffentlichung zu ausschließlich Informationszwecken und stellt keine Anlageberatung dar. Sollten dennoch Verstöße vorliegen, nehmen Sie bitte umgehend Kontakt mit uns auf. Korrektur Oder wir werden Maßnahmen zur Löschung ergreifen. Danke