Weizenbaum-Institut begrüßt Gesetzesentwurf zur Durchführung des AI Acts, mahnt aber weitere Verbesserungen an
Anlässlich der heutigen Sachverständigen-Anhörung im Bundestag begrüßt das
Weizenbaum-Institut den Regierungsentwurf für ein Gesetz zur Durchführung
der KI-Verordnung. Mehrere zentrale Empfehlungen des Weizenbaum-Instituts
zu Partizipation und Grundrechtsschutz wurden aufgegriffen.
Mit dem AI Act hat die EU einen Rahmen für die Regulierung von KI-Systemen
geschaffen. Zur Umsetzung dieser Verordnung in Deutschland legte die
Bundesregierung einen Gesetzentwurf vor. Expert:innen des Weizenbaum-
Instituts erkennen darin wichtige Verbesserungen, sehen aber weiterhin
Schwachstellen. Bereits im Oktober 2025 hatte das Weizenbaum-Institut in
einer Stellungnahme den Referentenentwurf des Gesetzes bewertet.
Klare Zuständigkeiten, Beteiligung der Zivilgesellschaft und
Weiterentwicklung von KI-Reallaboren
Die Forschenden heben positiv hervor, dass die Aufsicht über den KI-
Einsatz durch Landesbehörden nun den Ländern selbst zugewiesen werden
soll. Im vorherigen Entwurf war die Zuständigkeit bei der
Bundesnetzagentur angesiedelt, was verfassungsrechtlich problematisch
gewesen wäre.
Ebenfalls begrüßen sie, dass nun eine regelmäßige Einbeziehung von
Zivilgesellschaft, Gewerkschaften, Wirtschaft, Wissenschaft und Ländern in
die Folgeabschätzung gesetzlich verankert wird. Dies bewerten sie als
wichtigen Schritt hin zu einer inklusiven und legitimationsstarken KI-
Governance.
Der Zugang zu KI-Reallaboren für Forschungseinrichtungen und Hochschulen
würde erleichtert und beschleunigt, unter Einbindung der
Datenschutzaufsichtsbehörden. Beide Punkte entsprechen zentralen
Forderungen des Weizenbaum-Instituts nach einer stärkeren Verzahnung von
Innovation und Grundrechtsschutz, sowie einer besseren Einbindung
wissenschaftlicher Akteure. Dabei sollte die Gemeinwohlorientierung der
jeweiligen KI-Innovationen jedoch im besonderen Fokus stehen.
Mangelnde Unabhängigkeit der KI-Marktüberwachungskammer und fehlende
Sorgfalt bei Hochrisiko-KI-Systemen
Trotz Fortschritten sehen die Forschenden rechtliche und strukturelle
Defizite. So sei die KI-Marktüberwachungskammer (UKIM) weiterhin
organisatorisch eng in die Bundesnetzagentur eingebunden. Vorsitz und
Mitgliederstruktur überlappten sich und es fehle ein eigener
Haushaltsplan.
„Eine klare institutionelle Unabhängigkeit ist nicht erkennbar,“ so Prof.
Dr. Herbert Zech. „Das könnte den Anforderungen der EU-Verordnung nicht
genügen. Wir empfehlen, einige Aufgaben stärker auf die
Datenschutzaufsicht zu übertragen, die sowohl die erforderliche
Unabhängigkeit als auch die fachliche Expertise bereits gewährleistet.“
Problematisch sei auch die fehlende Genehmigungspflicht für Tests von
Hochrisiko-KI, die Grundrechte verletzen könnten. Zudem sind öffentliche
Stellen von Geldbußen ausgenommen, was die Aufsicht schwäche. Gerade der
Staat sollte laut den Forschenden Vorreiter für verantwortungsvollen KI-
Einsatz sein.
Insgesamt stelle der Regierungsentwurf eine Verbesserung im Vergleich zum
Referentenentwurf dar. Um jedoch eine effektive, grundrechtskonforme und
unionsrechtsfeste KI-Aufsicht zu gewährleisten, seien besonders im Bereich
der KI-Marktüberwachungskammer weitere Anpassungen erforderlich.
Stellungnahme des Weizenbaum-Institut zum Referentenentwurf eines Gesetzes
zur Durchführung der KI-Verordnung (Oktober 2025):
https://doi.org/10.34669/WI.PP
