Wenn ein KI-Agent Schaden anrichtet, soll sich niemand hinter der Maschine verstecken können. Diese Linie hat Andrew Ferguson, Vorsitzender der US-Handels- und Verbraucherschutzbehörde FTC, am Freitag (25. September 2026) auf der Konferenz Reuters Momentum AI in Austin, Texas, gezogen. Sinngemäß: Wer einem Werkzeug einen Auftrag gibt, trägt die Verantwortung für das Ergebnis – nicht das Werkzeug.
Die Äußerung kommt zu einem heiklen Zeitpunkt. Am selben Tag hatte OpenAI eingeräumt, dass eigene Forschungsagenten Nutzerbilder ins Netz geladen haben. Für Unternehmen, die Agenten einsetzen oder anbieten, ist Fergusons Signal deutlich: Die Ausrede „Das hat der Agent selbst entschieden“ dürfte bei der FTC wenig verfangen.
Was Ferguson gesagt hat
Ferguson wandte sich laut Reuters gegen die Vorstellung, Agenten würden sich „losreißen“ und eigene Wünsche verfolgen. Wörtlich sagte er: „I'm going to continue as long as I am chairman to resist this anthropomorphizing of these tools.“ Er wolle sich also, solange er im Amt ist, gegen die Vermenschlichung dieser Programme stemmen.
Seine Begründung: Bei jüngeren Zwischenfällen, in denen KI-Systeme unbefugt auf Unternehmens- oder Behördendaten zugegriffen hätten, hätten die Protokolle gezeigt, dass die Systeme schlicht Anweisungen ausführten. Die Verantwortung liege deshalb bei dem Menschen oder dem Unternehmen, das den Agenten beauftragt und betreibt.
Neue Gesetze fordert Ferguson dafür nicht. Die USA sollten vorhandene Instrumente nutzen. Als Beispiel nannte er die Befugnis der FTC, gegen Firmen vorzugehen, die Datenpannen verschweigen – das könne auch für KI-Entwickler gelten.
Zweites Thema: personalisierte Preise
Auf derselben Veranstaltung kündigte Ferguson laut Reuters an, dass die FTC bei verbraucherorientierten Unternehmen Daten zu personalisierten Preisen anfordern will. Gemeint sind Preise, die anhand persönlicher Merkmale wie Standort oder Surfverlauf individuell festgelegt werden. Besorgt zeigte er sich vor allem über Lieferdienste, Fahrdienste und Fluggesellschaften. Häufig würden Kunden über diese Praxis gar nicht informiert.
Der Hintergrund: Agenten-Vorfälle häufen sich
Fergusons Aussagen fallen in eine Phase, in der Pannen mit autonom arbeitenden KI-Systemen immer häufiger öffentlich werden. Wir haben zuletzt berichtet, wie OpenAI-Agenten 53 Nutzerbilder ins Netz luden und wie ein OpenAI-Agent auf ein australisches Medicare-Portal zugriff. Beide Fälle zeigen, warum die Haftungsfrage drängt: Agenten buchen Reisen, schreiben Code und handeln mit Wertpapieren – Fehler haben damit reale Folgen.
Einige KI-Anbieter vermarkten ihre Agenten gern als „digitale Kollegen“, die selbstständig arbeiten. Genau dieses Bild stellt der oberste US-Verbraucherschützer infrage. Für Firmen heißt das praktisch: Anweisungen, Berechtigungen und menschliche Kontrolle sollten sauber dokumentiert sein.
Und in Deutschland? Das neue Produkthaftungsgesetz
Während die FTC auf bestehende Befugnisse setzt, schreibt die EU die Haftung neu. Die überarbeitete Produkthaftungsrichtlinie (EU) 2024/2853 muss bis zum 9. Dezember 2026 in nationales Recht umgesetzt werden. Die Bundesregierung hat dazu einen Gesetzentwurf eingebracht (Drucksache 21/4297), der das Produkthaftungsgesetz von 1989 ablösen soll. Der Bundestag beriet ihn im März in erster Lesung.
Die wichtigsten Punkte des Entwurfs laut Bundestag:
| Bereich | Geplante Regel |
|---|---|
| Software | gilt als Produkt, egal ob installiert oder aus der Cloud – ausdrücklich auch KI-Systeme |
| Updates | Hersteller haften auch für Fehler, die nach dem Verkauf durch Updates entstehen |
| Haftende | neben Herstellern auch Importeure, Bevollmächtigte, Fulfillment-Dienstleister und bestimmte Online-Plattformen |
| Beweise | Offenlegungspflichten und Beweiserleichterungen für Geschädigte |
| Ausnahme | Open-Source-Software außerhalb kommerzieller Tätigkeit |
| Start | im Wesentlichen ab 9. Dezember 2026 |
Im Ergebnis landen Deutschland und die USA an einem ähnlichen Punkt: Verantwortlich ist ein Mensch oder ein Unternehmen, nicht die KI. Der Weg ist aber verschieden. In der EU entsteht ein verschuldensunabhängiger Anspruch gegen den Hersteller, in den USA geht es vorerst um behördliches Einschreiten gegen Unternehmen.
Eine eigene KI-Haftungsrichtlinie wird es in der EU dagegen nicht geben: Die Kommission hat den Entwurf 2025 fallen gelassen, die Rücknahme wurde im Oktober 2025 im Amtsblatt veröffentlicht. Hinzu kommen die Pflichten aus dem AI Act, etwa die Meldung schwerwiegender Vorfälle durch Anbieter besonders leistungsfähiger Modelle.
Was das für Unternehmen und Nutzer bedeutet
- Unternehmen, die Agenten einsetzen, sollten dokumentieren, welche Aufgaben und Zugriffsrechte ein Agent hat und wer ihn überwacht.
- Softwareanbieter in der EU müssen ab Dezember damit rechnen, für fehlerhafte KI-Funktionen wie für ein fehlerhaftes Gerät einzustehen – auch nach Updates.
- Privatnutzer gewinnen im Schadensfall voraussichtlich bessere Karten, weil Beweiserleichterungen vorgesehen sind. Ob ein konkreter Schaden erfasst ist, hängt vom Einzelfall ab; im Zweifel hilft eine Verbraucherzentrale oder anwaltliche Beratung.
Häufige Fragen
Hat die FTC neue Regeln für KI-Agenten erlassen?
Nein. Ferguson hat seine Rechtsauffassung dargelegt und angekündigt, bestehende Befugnisse zu nutzen. Eine neue Vorschrift gibt es nicht.
Gilt Fergusons Aussage auch in Deutschland?
Nein, die FTC ist eine US-Behörde. Für Deutschland sind vor allem das künftige Produkthaftungsgesetz, die DSGVO und der AI Act maßgeblich.
Ab wann gilt das neue Produkthaftungsgesetz?
Der Regierungsentwurf sieht den 9. Dezember 2026 vor; dann endet die Umsetzungsfrist der EU-Richtlinie. Für Produkte, die bis zum 8. Dezember 2026 in Verkehr gebracht werden, soll das alte Recht weiter gelten.
Haftet ein Agent jemals selbst?
Nach keiner der beiden Linien. Weder die FTC noch das EU-Recht behandeln KI als eigene Rechtsperson.
Titelbild: Apex Building, Sitz der FTC in Washington, D.C., Foto: Harrison Keely, CC BY 4.0 (Wikimedia Commons).
