Eine Befragung von Ende September zeigt große Sorgen über die Kontrollierbarkeit künstlicher Intelligenz. Die EU hat inzwischen umfangreiche Vorschriften für KI-Anwendungen beschlossen. Für besonders risikoreiche Systeme gelten weitere Fristen.
Große Sorgen in der Bevölkerung
In Deutschland wächst die Sorge über mögliche Folgen künstlicher Intelligenz. Nach dem ARD-Deutschlandtrend vom 1. Oktober 2026 befürchten rund zwei Drittel der Wahlberechtigten, dass Menschen die Kontrolle über KI verlieren könnten. Die Erhebung wurde von Infratest dimap zwischen dem 28. und 30. September im Auftrag von ARD-Tagesthemen und WELT durchgeführt. Befragt wurden 1.303 Wahlberechtigte telefonisch und online.
Die Frage nach künstlicher Intelligenz war Teil eines größeren Themenblocks zu gesellschaftlichen Risiken. Ebenfalls rund zwei Drittel äußerten Sorgen über die Auswirkungen der Politik von US-Präsident Donald Trump auf Deutschland. 60 Prozent nannten den Klimawandel, 54 Prozent einen möglichen russischen Angriff auf weitere europäische Staaten. Die Angaben beschreiben die Sorgen der Befragten; sie messen weder die Wahrscheinlichkeit der genannten Ereignisse noch die tatsächliche Verbreitung fehlerhafter KI-Systeme. Die Methodik und die übrigen Ergebnisse veröffentlichte Infratest dimap.
Bereits am 26. September hatte Bundesdigitalminister Karsten Wildberger eine stärkere internationale Aufsicht über künstliche Intelligenz angeregt. Wie das Handelsblatt unter Berufung auf ein Interview mit der Funke Mediengruppe berichtete, sprach sich der CDU-Politiker für einen internationalen Sicherheitskatalog aus, anhand dessen KI-Programme regelmäßig überprüft werden könnten. Er verwies dabei auf die Internationale Atomenergiebehörde als mögliches Vorbild. Ein entsprechendes internationales Kontrollsystem wurde mit dieser Forderung noch nicht beschlossen.
EU-Regeln gelten in mehreren Stufen
Die Europäische Union hat mit der KI-Verordnung bereits einen gemeinsamen Rechtsrahmen geschaffen. Das Gesetz unterscheidet Anwendungen nach ihren Risiken. Bestimmte Nutzungen, etwa besonders problematische Formen der Manipulation oder staatlich veranlasstes Social Scoring, unterliegen Verboten. Für andere KI-Systeme gelten Informationspflichten, Anforderungen an die Anbieter oder zusätzliche Kontrollen.
Seit dem 2. August 2026 gelten unter anderem Transparenzvorschriften für bestimmte KI-Anwendungen. Nutzer müssen in den erfassten Fällen erkennen können, wenn sie mit einem KI-System kommunizieren. Für bestimmte künstlich erzeugte oder manipulierte Inhalte sind technische Kennzeichnungen oder Hinweise vorgesehen. Die Erläuterungen der EU-Kommission beschreiben auch die Pflichten beim Einsatz von Deepfakes und bei KI-generierten Veröffentlichungen über Angelegenheiten von öffentlichem Interesse. Welche Kennzeichnung erforderlich ist, hängt von der konkreten Art der Verwendung ab.
Bei Hochrisikoanwendungen greifen längere Übergangsfristen. Die Regeln für eigenständige Systeme in Bereichen wie Bildung, Beschäftigung, kritische Infrastruktur, Migration oder biometrischer Identifizierung sollen nach der inzwischen beschlossenen Änderung ab dem 2. Dezember 2027 Anwendung finden. Für KI als Bestandteil bestimmter regulierter Produkte beginnt die Anwendung der betreffenden Vorschriften am 2. August 2028. Diese Termine gehen aus den Angaben der EU-Kommission und des EU-Rat hervor. Ein Inkrafttreten der Verordnung bedeutet somit nicht, dass sämtliche Anforderungen bereits heute für jedes System gleichermaßen gelten.
Kontrolle bei Behörden und Unternehmen
Für Hochrisikosysteme sieht das europäische Regelwerk unter anderem Vorgaben zum Risikomanagement, zur Qualität der verwendeten Daten, zur Dokumentation und zur menschlichen Aufsicht vor. Bei der Anwendung in Behörden, Unternehmen oder anderen Einrichtungen kommt es darauf an, welche Rolle ein System im konkreten Entscheidungsprozess übernimmt. Die Rechtsfolgen unterscheiden sich etwa zwischen einer Software, die Texte zusammenfasst, und einem System, das Bewerbungen bewertet oder Entscheidungen über den Zugang zu öffentlichen Leistungen vorbereitet.
Die Überwachung der Verordnung wird zwischen europäischen und nationalen Stellen aufgeteilt. Das europäische KI-Amt nimmt nach Darstellung der KI-Amt der Europäischen Union beziehungsweise der zuständigen Kommissionsdienststellen besondere Aufgaben bei allgemeinen KI-Modellen und bestimmten grenzüberschreitenden Sachverhalten wahr; daneben sind nationale Aufsichtsbehörden vorgesehen. Die Umsetzung und Durchsetzung der Regeln erfolgt gestaffelt entsprechend den gesetzlichen Anwendungsterminen.
Die politische Debatte dreht sich deshalb um unterschiedliche Fragen: die Sicherheit leistungsfähiger KI-Modelle, den Einsatz automatisierter Verfahren bei Entscheidungen über Menschen und die Kennzeichnung maschinell erzeugter Inhalte. Wildbergers Vorschlag einer internationalen Kontrolle betrifft insbesondere die überstaatliche Abstimmung. Die europäische Verordnung legt dagegen bereits konkrete Verpflichtungen für Anbieter und Anwender innerhalb ihres Geltungsbereichs fest.
