KI-Regulierung: Warum generative KI klare Regeln braucht

Die Umwälzung des digitalen Informationsraums ist in vollem Gange. Mit dem Aufstieg generativer KI-Modelle wie GPT-4, Gemini oder Claude verändern sich nicht nur Produktionsprozesse, sondern auch der Zugang zu Wissen, Öffentlichkeit und Wahrheit. Warum die EU jetzt handeln muss.

Suchmaschinen, die bisher das Wissen der Welt für uns verfügbar gemacht haben, werden schleichend durch KI ersetzt. Der neue “AI Mode” von Google wird die zehn blauen Links ins World Wide Web ersetzen und die Antworten selbst geben. Diese neuen Systeme sind weder transparent, noch neutral, noch demokratisch kontrolliert. Sie beruhen auf undurchsichtigen Trainingsdaten, algorithmischen Gewichtungen und der Deutungshoheit privater Konzerne in nur zwei Ländern mit autoritären Regimen.

Während die US-Tech-Konzerne mit Unterstützung der US-Regierung damit beginnen, monopolartige Wissensinfrastrukturen zu errichten und China seine eigene KI-Unternehmen unter strenge staatliche Kontrolle gestellt hat, bleibt die Europäische Union bisher weitgehend untätig. Stattdessen hören wir von Diskussionen über veganen Döner oder – immer wieder – Migration. Obwohl wir Migration dringend brauchen, wenn wir künftig noch im Wohlstand leben wollen.

Der lange diskutierte AI Act kommt viel spät, ist viel zu harmlos und greift an den zentralen Gefahrenstellen zu kurz. Die Regulierung generativer KI muss dringend nachgeschärft werden, bevor sich eine neue Form algorithmisch gesteuerter Informationshoheit etabliert.

Was heute schon Realität ist: Autoritäre Potenziale generativer KI

Die gesellschaftliche Realität holt den regulatorischen Diskurs längst ein. Generative KI ist bereits heute in der Lage, massenhaft Inhalte zu erzeugen, zu manipulieren und über Social Media zu verbreiten. Deepfakes beeinflussen politische Debatten, Sprachmodelle schreiben automatisierte Propaganda, Desinformationskampagnen lassen sich mit minimalem Aufwand skalieren. Im Schatten offizieller Plattformen entstehen Märkte für synthetische Identitäten, gefälschte Quellen und automatisierte Beeinflussung.

Es liegt der Verdacht nahe, dass in vielen Ländern Wahlen nicht mehr nur durch populistische Social Media Kampagnen, sondern auch durch KI gewonnen werden können. Das wäre das Ende der Demokratie wie wir sie kennen. Und das ist vielleicht näher, als wir glauben.

Bereits 2023 dokumentierte eine Studie von Emilio Ferrara die Einsatzmöglichkeiten generativer KI im Kontext von Fake News, Identitätsdiebstahl, Social Bots und Wahlbeeinflussung. Staaten wie China nutzen KI-gestützte Systeme zur Bevölkerungskontrolle. Auch in westlichen Demokratien ist der Einsatz in Polizei, Verwaltung oder Justiz nicht mehr hypothetisch. Die KI wird zum Instrument der Steuerung, nicht mehr der Unterstützung.

“We are watching the collapse of the international order in real time, and this is just the start”, konstatierte die britische Journalistin Carole Cadwalladr bei ihrem TED2025 Talk. “It’s a coup. … We can’t fight it if we can’t see it, and we can’t see it if we don’t name it.”

Obwohl viele Experten schon länger davor warnen, dass die Tech-Oligarchen uns eine hochgradig riskante und unausgereifte Technologie aufzwingen, mit denen sie gleichzeitig Urheberrechte aushebeln und unsere Gedanken nahezu vollständig überwachen können, gibt es bisher kaum Widerstand dagegen. Weder aus der europäischen Wirtschaft noch aus der EU. Das Vertrauen in die Handlungsfähigkeit der Politik bei akuten Gefahren sinkt immer weiter, während radikale Parteien mit einfachen Antworten immer mehr Zulauf bekommen.

Intransparente Systeme und fehlende Kontrolle

Der zentrale Unterschied zwischen einer klassischen Suchmaschine und einem KI-gestützten Antwortsystem liegt in der Informationsarchitektur: Während Google (bei aller berechtigten Kritik) auf Millionen externe Quellen verweist und dadurch über fast drei Jahrzehnte Vielfalt ermöglichte, erzeugt ein Sprachmodell synthetisierte Antworten, die weder überprüfbar noch nachvollziehbar sind. Nutzer erhalten nicht mehr den Zugang zu Information, sondern eine algorithmisch generierte Version davon, meistens ohne Quellennennung, ohne Auswahlmöglichkeit, ohne Widerspruch.

Diese Black-Box-Systeme sind nicht auditierbar und unkontrollierbar. Es ist unbekannt, welche Inhalte beim Training verwendet wurden, wie sie gewichtet wurden, und welche Parameter das Antwortverhalten steuern. Das sogenannte „Model Alignment“, also die Steuerung der Ausgabe im Sinne gewünschter Normen, erfolgt durch proprietäre Methoden unter Ausschluss der Öffentlichkeit. Die Folgen hingegen müssen die Nutzer selbst tragen. Google AI Mode wird mit dem Hinweis “AI Mode responses may include mistakes” auf die Menschheit losgelassen. Schuld ist aber immer der Mensch, nie die KI, so das Credo der neuen KI-Evangelisten.

„Wir wissen nicht, was diese Systeme wirklich können. Und das ist das größte Problem.“
Stuart Russell, UC Berkeley

Machtasymmetrien und Monopolisierung

Die Entwicklung generativer KI liegt fast ausschließlich in der Hand einiger weniger US-amerikanischer Großkonzerne, OpenAI, Google, Anthropic und Meta. Sie verfügen über die notwendige Rechenleistung, die Trainingsdatenmengen und die personellen Ressourcen. Die Modelle selbst sind proprietär, die Schnittstellen kostenpflichtig, die Trainingsdaten geheim.

Diese Macht-Konzentration in der Hand weniger Tech-Broligarchen führt zu einem massiven Ungleichgewicht. Europa ist nicht nur technologisch abgehängt, sondern verliert inzwischen auch die Kontrolle über die eigenen Informationsinfrastrukturen und die Grundrechte seiner Bürger. Die wenigen Verträge, die mit europäischen Akteuren geschlossen werden, etwa zwischen OpenAI und Axel Springer, zementieren die Abhängigkeit weiter.

„AI is neither artificial nor intelligent. It’s made of data taken from real people, often without consent.“
Kate Crawford, Atlas of AI

Drohender digitaler Autoritarismus

Der Übergang von marktgetriebenem Fortschritt zur gesellschaftlichen Kontrolle ist bereits voll im Gange. Wenn staatliche Stellen beginnen, generative KI zur Entscheidungsvorbereitung, zur Bürgerinteraktion oder gar zur Sicherheitsüberwachung einzusetzen, wird das Prinzip demokratischer Kontrolle unterlaufen. Journalisten befragen statt Menschen einfach KI-Chatbots. Einschätzungen werden nicht mehr von verantwortlichen Menschen getroffen, sondern von Modellen, deren Funktionsweise niemand nachvollziehen kann und die häufig falsch liegen.

In der Praxis bedeutet dies: automatisierte Ablehnungen bei Anträgen, risikobasierte Vorhersagen im Strafvollzug, sprachlich „neutrale“ Entscheidungshilfen mit ideologischer Prägung. Wer glaubt, dass sich solche Systeme neutral und allwissend sind, verkennt die Schwächen und Risiken dieser Technologie.

„Algorithms are opinions embedded in code.“
Cathy O’Neil

Warum Soft Law und Ethik-Leitlinien nicht ausreichen

Die EU hat sich in den letzten Jahren auf Ethikpapiere, freiwillige Selbstverpflichtungen und risikobasierte Regulierungskonzepte konzentriert. Diese Strategie ist gescheitert. Weder haben sich die großen KI-Anbieter an freiwillige Transparenzforderungen gehalten, noch wurden relevante Sicherheitsprotokolle veröffentlicht. Der AI Act ist in seiner jetzigen Form eine Mindestregelung mit Schlupflöchern für „Allgemeinmodelle“, wird aber den aktuellen Herausforderungen nicht gerecht.

Bereits jetzt werden massenhaft Urheberrechte ausgehöhlt, indem sich Sprachmodelle das Wissen aus dem Web kostenlos einverleiben ohne einen einzigen Cent dafür zu bezahlen. Die Urheber sind nur noch kostenlose Mitarbeiter von Google, Meta und OpenAI und liefern den Rohstoff, ohne den diese Modelle wertlos wären: Informationen.

Würde man als Grafiker ein Bild aus dem Internet klauen, es bearbeiten und als eigenes Bild wieder hochladen, würde man sich eine Abmahnung und Anwaltskosten in Höhe von 1000 Euro einhandeln. Die KI-Giganten machen genau das täglich millionenfach – ohne Konsequenzen befürchten zu müssen. Und selbst wenn mal jemand klagt, ist die Kriegskasse prall gefüllt.

Die sogenannte „Selbstregulierung“ der Industrie dient vor allem der Public Relations. Sicherheitsforschung wird von den Unternehmen selbst finanziert. Kritiker aus der Zivilgesellschaft bleiben ausgeschlossen. Die Grenzen zwischen Compliance, Kommunikation und Lobbyarbeit verschwimmen.

Was jetzt passieren muss: Forderung nach verbindlicher Regulierung

Europa muss sich entscheiden, ob es Zuschauer oder Gestalter der nächsten digitalen Revolution sein will. Die derzeitige KI-Entwicklung wird weitgehend von privatwirtschaftlichen US-Konzernen vorangetrieben, deren Systeme auf Daten, Texten, Bildern und Ideen basieren, die ohne Zustimmung oder Vergütung ihrer Urheber:innen genutzt werden.

Wenn sich diese Dynamik fortsetzt, droht nicht nur ein Verlust wirtschaftlicher Souveränität, sondern auch die Aushöhlung demokratischer Öffentlichkeit und kultureller Vielfalt.

Deshalb sind folgende Maßnahmen notwendig:

1. Demokratische Kontrolle über KI-Infrastruktur
   Entwicklung, Training und Betrieb großer Sprach- und Bildmodelle müssen einer europäischen Aufsicht unterliegen. Infrastruktur von öffentlichem Interesse darf nicht allein privaten Anbietern überlassen bleiben.
2. Pflicht zur Lizenzierung von Inhalten für KI-Training
   Jede kommerzielle Nutzung urheberrechtlich geschützter Werke zum KI-Training muss lizenzpflichtig sein. „Fair Use“ nach US-Vorbild darf in Europa nicht als Vorwand dienen, geistiges Eigentum massenhaft zu enteignen.
3. Transparenz über Trainingsdaten und Modellquellen
   KI-Unternehmen müssen offenlegen, welche Daten und Quellen sie für das Training verwenden. Nur so lässt sich nachvollziehen, ob Rechte verletzt, Desinformation verstärkt oder kulturelle Verzerrungen eingebaut werden.
4. Recht auf Widerspruch und Löschung
   Urheber:innen, Journalist:innen und Kreative müssen ein einklagbares Recht haben, ihre Werke aus Trainingsdatensätzen entfernen zu lassen, einschließlich nachträglicher Löschung aus Modellkopien sowie eine Vergütung für deren unberechtigte kommerzielle Nutzung.
5. Sanktionen bei Intransparenz und Rechtsverstößen
   Unternehmen, die gegen Transparenzpflichten verstoßen oder unlizenzierte Daten nutzen, müssen empfindliche Sanktionen riskieren, bis hin zum Entzug der Betriebserlaubnis im EU-Binnenmarkt.
6. Europäische Wettbewerbs- und Außenpolitik mit Rückgrat
   Die EU darf sich nicht länger auf das Innovationsnarrativ der USA einlassen, das Kontrolle und Regulierung als Fortschrittshemmnis oder gar Zensur darstellt. Wer auf Datenzugang, Rechenleistung und Märkte in Europa setzt, muss sich an europäisches Recht halten.
7. Gesellschaftliche Mitbestimmung über KI-Einsatz
   KI darf nicht nur in Chefetagen oder Rechenzentren verhandelt werden. Gewerkschaften, Künstlerverbände, Wissenschaft und Zivilgesellschaft müssen an Leitlinien beteiligt werden, die den Einsatz von KI in Arbeitswelt, Bildung und Medien steuern.
8. Verpflichtende Kennzeichnung generierter Inhalte
   Jede Form von KI-erzeugtem Text, Bild oder Audio muss klar als solche erkennbar sein, dauerhaft, maschinenlesbar und rechtlich verbindlich. Selbst in China ist das bereits Pflicht und wer dagegen verstößt, riskiert empfindliche Strafen. Und das aus gutem Grund.

Künstliche Intelligenz ist nicht nur technischer Fortschritt, sondern hat eine eine globale politische Dimension. Wer sie unreguliert lässt, akzeptiert, dass Macht, Wissen und Einkommen in immer weniger Händen in den USA konzentriert werden. Europa muss seine eigene Ordnung schaffen, selbst wenn das bedeutet, sich mit den USA und ihren Technologiekonzernen anzulegen. Es geht um nichts weniger als die Zukunft der Demokratie.

Regulierung ist Voraussetzung für Freiheit, nicht ihr Feind

Die Vorstellung, Technologie entwickle sich neutral und dürfe „nicht behindert“ werden, ist ein gefährlicher Irrtum und basiert auf Halbwissen. Generative KI ist längst ein Instrument politischer, wirtschaftlicher und ideologischer Steuerung. Sie ist die nächste Datenkrake von Social Media-Konzernen, die auch in die letzten Lücken unserer Gedanken vordringen und sie beeinflussen möchte. Wer sie nicht reguliert, liefert die Kontrolle über Sprache, Öffentlichkeit und Entscheidungshoheit an privatwirtschaftliche Systeme aus. Wir dürfen nicht länger mit Daten dafür bezahlen, dass wir Apps kostenlos benutzen dürfen.

Die EU hat nur ein begrenztes Zeitfenster, um diesem Trend entgegenzuwirken, bevor es unumkehrbar ist. Noch ist es möglich, Informationsinfrastrukturen gemeinwohlorientiert zu gestalten. Noch können demokratische Mindeststandards durchgesetzt werden. Noch kann verhindert werden, dass generative KI zur zentralen Instanz gesellschaftlicher Wahrheitsproduktion wird. Sofern sich die Politik diesem Thema genauso leidenschaftlich annimmt, wie dem Kampf um die Wurst.

„Es geht nicht darum, ob KI klüger wird als der Mensch. Sondern ob sie beherrschbar bleibt.“
Nick Bostrom

Solange diese Frage nicht verbindlich beantwortet ist, darf der technologische Fortschritt kein Selbstzweck sein. Sonst ist der digitale Autoritarismus keine dystopische Option mehr, sondern die neue Realität.