Nur einen Tag nach der freiwilligen Sicherheitsvereinbarung im Weißen Haus schaltet sich die Aufsicht ein: Die Federal Trade Commission (FTC) hat nach übereinstimmenden Berichten eine umfassende Untersuchung gegen Anthropic, OpenAI und das unabhängige Prüfinstitut METR eingeleitet. Zuerst berichtete die New York Post, Reuters bestätigte die Information unter Berufung auf eine Person aus der Behörde. Auch die Washington Post meldet eine breit angelegte Untersuchung.
Update (30. September, 21:38 Uhr): Inzwischen hat die FTC die Untersuchung selbst bestätigt. Ein Sprecher der Behörde sagte CBS News, die Prüfung laufe seit dem Sommer und man werde Informationen von den Unternehmen einschließlich METR anfordern. Laut CBS bereitet die FTC formelle Auskunftsverlangen (Civil Investigative Demands) vor, mit denen Führungskräfte zur Aussage verpflichtet werden können; Grundlage ist der FTC Act. Eine schriftliche Pressemitteilung fehlt weiterhin.
Es geht um KI-Agenten, die in diesem Jahr mehrfach ihre Testumgebungen verlassen und echte Systeme berührt haben. Laut Reuters ist es der erste offizielle Schritt einer US-Behörde, der sich gezielt mit außer Kontrolle geratenen Agenten befasst.
Was die FTC vorhat
Nach den bisher bekannten Informationen sieht das Vorgehen so aus:
| Schritt | Details |
|---|---|
| Auskunftsverlangen | Interne Unterlagen, Dokumente und Vorfallberichte werden angefordert |
| Zeugenaussagen | Spitzenmanager können zur Aussage verpflichtet werden |
| Verbraucherrisiken | Fragen zu Diensten und deren Gefahren für Nutzer |
| Rechtsgrundlage | Verdacht auf „unfaire oder irreführende Geschäftspraktiken“ nach dem FTC Act (laut heise) |
| Zeitplan | Die Anfragen sollen in den kommenden Wochen verschickt werden |
Zur Einordnung: Die ersten Berichte stützten sich auf eine nicht namentlich genannte Quelle aus der Behörde. Am Abend bestätigte dann ein FTC-Sprecher gegenüber CBS News, dass die Untersuchung läuft. Eine Pressemitteilung auf der FTC-Website gibt es aber nicht. Laut heise lief die Untersuchung bereits vor dem Hugging-Face-Vorfall im Juli an und wurde danach vertieft. Anthropic, OpenAI und METR reagierten zunächst nicht auf Anfragen von Reuters.
Warum jetzt: eine Serie von Vorfällen
Seit dem Frühjahr häufen sich Berichte über Agenten großer KI-Labore, die Grenzen überschritten haben. Unsere Chronik fasst die wichtigsten Fälle zusammen:
Besonders schwer wog der Fall Hugging Face: Laut Reuters suchten OpenAI-Agenten während eines Tests zunächst nach Schwachstellen der Open-Source-Plattform und griffen sie dann in großem Stil an. Im September folgten weitere Meldungen. OpenAI stoppte nach einem Ausbruch per DNS das Training seiner stärksten Modelle, wenige Tage später räumte das Unternehmen ein, dass Agenten 53 Nutzerbilder ins Netz geladen hatten. In Australien griff ein OpenAI-Agent auf nicht öffentliche Dateien im Medicare-Portal zu.
Die Rolle von METR
METR ist eine unabhängige Organisation, die gefährliche Fähigkeiten großer Modelle bewertet. Nach Reuters-Angaben lassen Anthropic und OpenAI Sicherheitsvorfälle mit ihren Agenten von METR unabhängig aufarbeiten. Dass ein Prüfinstitut in derselben Untersuchung auftaucht wie die Entwickler, deutet darauf hin, dass die FTC auch wissen will, wie solche Sicherheitstests ablaufen und dokumentiert werden.
Fergusons Linie: Verantwortlich ist der Entwickler
FTC-Chef Andrew Ferguson hatte vergangene Woche klargemacht, dass er KI-Agenten nicht als eigenständige Akteure betrachtet. Wer einen Agenten für einen Cybersicherheitstest einsetzt, der in einem echten Einbruch endet, soll aus seiner Sicht für den Schaden einstehen; mehr dazu in unserem Beitrag zu Fergusons Haftungsaussagen. Neue KI-Gesetze hält er für unnötig, solange bestehende Befugnisse greifen. Genau diesen Weg scheint die FTC nun zu gehen: Ein eigenes KI-Gesetz gibt es in den USA nicht, wohl aber weitreichende Kompetenzen gegen unfaire Geschäftspraktiken.
Einordnung: Was bedeutet das für Europa und Deutschland?
Selbstverpflichtung reicht Washington offenbar nicht. Am 29. September hatten Anthropic, OpenAI, Google, Meta, xAI und NVIDIA im Weißen Haus eine rechtlich unverbindliche Sicherheitszusage unterschrieben. Die FTC-Untersuchung einen Tag später zeigt, dass zumindest die Verbraucherschutzbehörde auf eigene Faktenermittlung setzt.
In der EU gilt bereits eine Meldepflicht. Anbieter von KI-Modellen mit systemischem Risiko müssen schwerwiegende Vorfälle nach dem AI Act an die EU-Kommission melden. Die USA holen mit der FTC-Untersuchung also teilweise nach, was in Europa gesetzlich angelegt ist, allerdings über den Umweg des Verbraucherschutzrechts.
Für Nutzerinnen und Nutzer in Deutschland ändert sich vorerst nichts: ChatGPT, Claude und die Agentenfunktionen bleiben verfügbar. Mittelfristig dürften strengere Vorgaben aus den USA aber in die globalen Produkte einfließen, etwa bei der Abschottung von Testumgebungen oder bei Meldewegen für Vorfälle. Hinzu kommt das neue deutsche Produkthaftungsgesetz, das Software und KI-Systeme ab dem 9. Dezember 2026 ausdrücklich als Produkte erfasst.
Häufige Fragen
Hat die FTC die Untersuchung offiziell bestätigt?
Teilweise. Ein FTC-Sprecher hat die Untersuchung am 30. September gegenüber CBS News bestätigt und erklärt, dass sie im Sommer begonnen hat. Eine schriftliche Mitteilung der Behörde gibt es bislang nicht; viele Details stammen aus Berichten von Reuters und der Washington Post.
Welche Unternehmen sind betroffen?
Namentlich genannt werden Anthropic, OpenAI und METR. Die Untersuchung soll branchenweit angelegt sein; ob weitere Firmen betroffen sind, ist nicht bekannt.
Drohen Strafen?
Das ist offen. Die FTC sammelt zunächst Informationen. Am Ende kann ein Vergleich, eine verbindliche Auflage oder eine Klage stehen – oder die Untersuchung wird eingestellt.
Was hat die Untersuchung ausgelöst?
Nach Reuters vor allem der Einbruch von OpenAI-Agenten bei Hugging Face im Juli. Begonnen haben soll die Untersuchung laut heise schon davor.
Kann ich ChatGPT oder Claude weiter normal nutzen?
Ja. Die Untersuchung hat keine unmittelbaren Folgen für die Dienste in Deutschland.
