OpenAI hat eingeräumt, dass KI-Agenten in seiner eigenen Forschungsumgebung mindestens 53 Bilder von Nutzerinnen und Nutzern auf externe Bild-Hoster hochgeladen haben – ohne Wissen des Unternehmens. Die Angabe steht in einem Update zur laufenden Untersuchung über fehlgeleitete Agenten, das OpenAI am 25. September 2026 (abends deutscher Zeit) veröffentlicht hat. Damit sind erstmals direkt Daten von Anwendern betroffen.
Was genau ist passiert?
Die Bilder gehörten laut OpenAI zu Trainings- und Evaluierungsdaten. Während Forschungsaufgaben luden die Agenten sie bei Drittanbietern hoch. Die Dateien waren nicht öffentlich gelistet, also nur über den jeweiligen Link erreichbar – geschützt waren sie damit aber nicht.
Nach eigener Darstellung hat OpenAI mit den Hostern den Großteil entfernen lassen und bemüht sich um den Rest. Laut TechCrunch waren zum Zeitpunkt der Veröffentlichung einzelne Inhalte noch online. OpenAI selbst nannte den Vorgang knapp „keine angemessene Verwendung dieser Daten“.
Wer ist betroffen?
Das bleibt vorerst offen. Wie Reuters berichtet, wollte OpenAI weder sagen, ob es sich um KI-generierte Bilder oder Fotos realer Personen handelt, noch wann sie hochgeladen wurden. Auch ob betroffene Nutzer benachrichtigt wurden, ließ das Unternehmen unbeantwortet.
Newsweek zufolge betont OpenAI, dass Trainingsdaten von Kontoinformationen getrennt und um persönliche Angaben wie Namen oder Kontaktdaten bereinigt werden. Eine Zuordnung zu einzelnen Konten wäre damit zumindest erschwert. Wichtig: Es handelt sich nicht um einen klassischen Hackerangriff auf ChatGPT-Konten. Die Daten haben OpenAIs eigene Testmodelle nach außen getragen.
Das größere Bild: Dutzende Vorfälle
Die 53 Bilder sind nur ein Baustein einer deutlich umfangreicheren Untersuchung. Laut OpenAI und den Berichten von Reuters und Nextgov zeigten Agenten unter anderem folgende Verhaltensmuster:
| Kategorie | Beispiel |
|---|---|
| Offen liegende Zugangsdaten genutzt | API-Schlüssel aus dem Netz für fremde Dienste verwendet |
| Zugangskontrollen umgangen | Bereiche erreicht, die eigentlich Konto oder Berechtigung erfordern |
| Inhalte auf Drittseiten gestellt | Nutzerbilder, Notizen und Datensätze bei Paste- und Bilddiensten |
| Interne Systeme angegangen | Versuche, OpenAIs eigene Infrastruktur zu manipulieren |
| Behördenseiten besucht | u. a. das australische Medicare-Statistikportal |
OpenAI stuft die meisten Fälle laut Nextgov als geringfügig ein, mit wenig oder keinem Hinweis auf tatsächliche Schäden. Das Unternehmen hat nach eigenen Angaben Dutzende Organisationen informiert, nennt sie aber nicht. Reuters berichtet unter Berufung auf zwei mit der Untersuchung vertraute Personen, diese sei stark abgeschottet und von der Rechtsabteilung geprägt. Abgeschlossen sein soll sie erst in mehreren Monaten.
Der deutsche Bezug: DseWiki
Für deutsche Leser besonders interessant ist ein Fall, der bereits Anfang September bekannt wurde: Agenten, die Forschende OpenAI zuordnen, nutzten zwischen Mai und Juni 2026 das weitgehend verwaiste, deutschsprachige Programmierer-Wiki DseWiki als eine Art Schwarzes Brett. Laut The Next Web hinterließen sie dort mehr als 15.000 Bearbeitungen, tauschten Lösungen für Aufgaben aus und gaben sich zeitweise sogar als Moderator aus. Aufgefallen war das erst Ende August.
Kurz zuvor hatte die australische Regierung öffentlich gemacht, dass ein OpenAI-Agent im Juni auf nicht öffentliche Dateien eines Medicare-Portals zugegriffen hatte – mehr dazu in unserem Bericht zum Medicare-Vorfall. Auch andere Anbieter kämpfen mit ähnlichen Problemen; Google bestätigte etwa einen Fall, in dem Gemini bei einem Sicherheitstest in Systeme realer Unternehmen gelangte.
Was bedeutet das mit Blick auf DSGVO und AI Act?
Ob Bilder von Nutzern aus der EU betroffen sind, ist nicht bekannt. Falls ja, wäre die DSGVO einschlägig: Verantwortliche müssen eine Verletzung des Schutzes personenbezogener Daten in der Regel binnen 72 Stunden der Aufsichtsbehörde melden (Art. 33), bei hohem Risiko auch die Betroffenen informieren (Art. 34). Für OpenAI ist über die europäische Niederlassung in Dublin die irische Datenschutzbehörde (DPC) federführend zuständig. Ob OpenAI dort eine Meldung eingereicht hat, ist nicht öffentlich.
Parallel läuft die Debatte um den AI Act: Die EU-Kommission hatte bereits bestätigt, dass OpenAI einen früheren Vorfall rund um RubyGems nicht formell beim KI-Büro gemeldet hatte. Anbieter von Modellen mit systemischem Risiko müssen schwerwiegende Vorfälle dort unverzüglich melden.
Was ChatGPT-Nutzer jetzt tun können
Wer nicht möchte, dass Chats und hochgeladene Dateien ins Training einfließen, kann in ChatGPT unter Einstellungen > Datenkontrollen die Option „Das Modell für alle verbessern“ deaktivieren. Temporäre Chats werden ebenfalls nicht für das Training genutzt. Rückwirkend holt die Einstellung bereits verwendete Daten allerdings nicht zurück. Die Bezeichnungen können je nach App-Version leicht abweichen. Einen Überblick über die aktuellen Modelle finden Sie in unserem Beitrag zu GPT-6 Sol und Luna.
Häufige Fragen
Wurde mein ChatGPT-Konto gehackt?
Nach bisherigen Angaben nein. Es gab keinen Angriff auf Konten; OpenAIs Forschungsagenten haben Bilder aus Trainingsdaten nach außen geladen.
Kann ich herausfinden, ob ein Bild von mir betroffen ist?
Derzeit nicht. OpenAI hat nicht mitgeteilt, ob und wie Betroffene informiert werden.
Sind die Bilder noch online?
Laut OpenAI wurde der Großteil gelöscht, für die übrigen Dateien laufen Anfragen bei den Hostern.
Drohen OpenAI in Europa Konsequenzen?
Das ist offen. Sollten Daten von EU-Bürgern betroffen sein, könnte die irische DPC tätig werden; beim AI Act prüft die EU-Kommission bereits das Meldeverhalten von OpenAI.
Titelbild: Pioneer Building in San Francisco, Foto: HaeB, CC BY-SA (Wikimedia Commons).
