Campact vs. X.AI: Wegweisende KI-Entscheidung in Hamburg

Die Kampagnenorganisation Campact e.V. hat am 10. Oktober 2025 vor dem Landgericht Hamburg eine einstweilige Verfügung gegen das Unternehmen X.AI erwirkt. Auslöser war eine Falschbehauptung des KI-Systems Grok, das fälschlich angab, Campact werde mit Steuergeldern finanziert.

Das Gericht stellte klar: Es handelt sich um eine unwahre Tatsachenbehauptung, für deren Verbreitung X.AI als Betreiber haftet. Bei Wiederholung droht dem Unternehmen ein Ordnungsgeld von bis zu 250.000 Euro. Der Fall markiert einen Wendepunkt in der rechtlichen Bewertung von KI-generierten Inhalten.

Was bedeutet das Urteil für KI-Suchmaschinen?

Das Urteil fällt in die Zeit, in der Suchmaschinen wie Google damit begonnen haben, Suchanfragen direkt zu beantworten, statt auf die Quellen im Internet zu verweisen und sich damit jeder Verantwortung für die Korrektheit von Antworten zu entziehen.

Google rollt aktuell seinen KI-Modus in Europa aus, mit dem Suchanfragen direkt beantwortet werden. Diese KI-Antworten in vielen Fällen nicht korrekt. Schätzungen gehen derzeit von rund 20-30 Prozent Fehlerquote aus, da Sprachmodelle nur Wahrscheinlichkeiten berechnen, aber nicht zwischen wahr und unwahr unterscheiden können, was aufgrund der Technologie auch künftig nicht besser wird.

Anders als soziale Netzwerke können sich KI-Konzerne aber nicht darauf berufen, dass man ja nicht selbst diese Aussage getätigt habe und man da also gar nichts machen könne, wenn Fake News geteilt werden. Während Host-Provider nur die Technologie bereitstellen, auf der Inhalte von Dritten erstellt werden können, gelten KI-Chatbots als Inhaltsanbieter, die dann auch für die erstellten Inhalte haften müssen.

Juristische Beurteilung

Der Hamburger Rechtsanwalt Tobias Spahn bewertet die einstweilige Verfügung gegen X.AI als rechtlich konsequent und richtungsweisend. Betreiber von KI-Systemen haften zivilrechtlich für von der KI verbreitete Falschinformationen, auch ohne eigenes Verschulden. Die Entscheidung unterstreiche die Pflicht zur redaktionellen Kontrolle KI-generierter Inhalte. Unternehmen müssen geeignete Prüfprozesse etablieren, um Haftungsrisiken zu minimieren.

„Überall dort, wo KI-generierte Inhalte entweder veröffentlicht oder an Dritte weitergegeben werden, ist der Betreiber nach den allgemeinen Rechtsgrundsätzen verantwortlich für diese Inhalte.“

Unternehmen müssen Haftungsrisiken neu bewerten

Für Unternehmen, die KI-Systeme zur Generierung von Inhalten nutzen, bedeutet dieses Urteil einen klaren Handlungsauftrag: Die Vorstellung, KI könne im Alleingang rechtssicher öffentlich kommunizieren, ist falsch. Der Fall Campact gegen X.AI verdeutlicht die juristische Brisanz von LLM-generierten Aussagen.

Künftig wird die Frage, wer für die Verbreitung rechtswidriger oder falscher Inhalte haftet, nicht länger theoretisch diskutiert, sondern mit konkreten Sanktionen beantwortet. Das Urteil könnte nur der Auftakt weiterer Verfahren gegen KI-Chatbots sein.

Es braucht weiterhin ausgebildete Redakteure und Texter, die KI-generierte Inhalte prüfen, korrigieren und im Zweifel verwerfen. Diese redaktionelle Endkontrolle wird zur Pflichtaufgabe, wenn Unternehmen Schaden von sich abwenden wollen.

Damit ist klar: KI wird nicht Arbeitsplätze vernichten, sondern neue schaffen, um Probleme zu lösen, die wir vorher nicht hatten. Das betrifft nicht nur Falschbehauptungen, sondern auch das ungelöste Risiko von Prompt Injections oder grundlegende urheberrechtliche Fragen.

Urheberrechtliche Fragen weiterhin ungeklärt

___STEADY_PAYWALL___

Weitere Klagen gegen US-KI-Anbieter, die urheberrechtlich geschützte Inhalte ohne Zustimmung kommerziell verwerten, sind bereits absehbar. Insbesondere die systematische Nutzung von Texten, Bildern und Filmen im Training großer Sprachmodelle dürfte bald Gegenstand umfassender Urheberrechtsprozesse werden. Denn auch hier gibt es eine klare Rechtssprechung, die derzeit von allen großen Modellen ignoriert wird.

Der Video-Generator Sora von OpenAI greift etwa auf massiv auf bekannte Versatzstücke aus ikonischen Hollywood-Filmen zu und generiert daraus nach Belieben neue Filmchen, ohne die Urheber zu beteiligen. Was Menschen verboten ist, kann KI nicht erlaubt sein.

Auch der Facebook-Konzern Meta hat mit Vibe ein Produkt vorgestellt, mit dem man selbst KI-Videos generieren und in sozialen Netzwerken teilen kann, die auf den so genannten “Trainingsdaten” von urheberrechtlich geschütztem Material basieren. Dass dieser Angriff auf die Rechte von Kreativen komplett illegal sein muss, dürfte selbst juristischen Laien ersichtlich sein.

Die US-KI-Industrie muss sich also auf eine deutlich schärfere rechtliche Auseinandersetzung mit einstellen. Um sich dagegen in Stellung zu bringen sind US-Billionäre gerade intensiv damit beschäftigt, Hollywood zu übernehmen und damit die Rechte an den Filmwerken zu übernehmen.

In einem Vortrag vor geladenen Gästen sprach der irre Tech-Miliardär Peter Thiel zuletzt sogar davon, dass Kritiker neuer Technologien “Antichristen” seien, die mit allen Mitteln bekämpft werden müssten. Er hebt Technologie damit auf eine Stufe mit Gott.

Tatsächlich hängt ein Großteil von US-Investitionen derzeit mit dem Aufbau gewaltiger KI-Infrastruktur zusammen, was die Radikalität erklärt, mit der diese rechtswidrige und fehlerhafte Technologie wider besseres Wissen auf die Menschheit losgelassen wird.

Urteile wie das im Fall Campact vs. X können angesichts dieser drohenden Gefahr gar nicht hoch genug eingeschätzt werden.

KI-Regulierung durch die EU: Studie zeichnet Zukunftsszenario Risiken und Nebenwirkungen von generativer KI: Von Prompt Injections bis DSGVO Prompt Injections: Die unsichtbare Schwachstelle von KI-Systemen Google KI und Gemini: Eine neue Ära für SEO Von SEO zu GEO: Was Suchmaschinen von LLMs unterscheidet – und was sie verbindet Warum KI-Detektoren nicht funktionieren – und was wirklich hilft Google KI-Modus: Wie sich die Suche im AI Mode verändert (mit Checkliste) KI-Regulierung: Warum generative KI klare Regeln braucht KI-Slop: Warum generative KI oft mehr schadet als nützt Websites DSGVO-sicher machen – jetzt handeln! CustomGPT in ChatGPT erstellen (Checkliste) OpenAI bereitet Start eines eigenen Webbrowsers vor – Konkurrenz für Google Chrome