Mitarbeiter von OpenAI lesen private KI-Chats mit
Hunderte externe Mitarbeiter lesen bei OpenAI Prompts und Chats mit, um ChatGPT zu verbessern. Das zeigen Recherchen von 404 Media zum internen „Project Lily“. Persönliche Daten können dabei trotz Filter durchrutschen, und die meisten Nutzer wissen nichts davon. Wir zeigen, was hinter der Praxis steckt, welche Anbieter ähnlich vorgehen und wie Sie die Nutzung Ihrer Chats unterbinden.
KI-Ergebnisse werden analysiert und benotet
Das US-Nachrichtenportal 404 Media fand heraus, dass der ChatGPT-Entwickler OpenAI offenbar hunderte externe Mitarbeiter einsetzt, um Prompts und Chats mit der KI mitzulesen. Diese verdeckte Kontrollmaßnahme läuft unter dem Codenamen „Project Lily“. Sie dient dem Zweck, KI-Modelle durch realistische Nutzer-Konversationen zu verbessern.
Diese Mitarbeiter lesen Prompts mit, beschreiben die vom Nutzer erwarteten Ergebnisse und bewerten anschließend vier verschiedene ChatGPT-Antworten auf diesen Prompt mit bis zu sieben Punkten. Ein interner Leitfaden definiert verschiedene Kriterien, die beispielsweise eine „ausgezeichnete Antwort“ der KI beschreiben.
„Mensch liest mit“ wird nicht kommuniziert
OpenAI stellt klar, dass die mit dieser Analyse beauftragten Mitarbeiter keine Nutzernamen lesen könnten. Personenbezogene Daten würden vor dem Mitlesen durch einen Privatsphäre-Filter ausgesondert. Bekannt ist jedoch auch: Dieser Filter ist durchaus anfällig für Fehler – persönliche Daten könnten ihn unter Umständen dennoch passieren. 404 Media weist zudem darauf hin, dass üblicherweise auch in den Inhalten der Prompts und Chats private und unter den Datenschutz fallende Angaben gemacht würden. Außerdem wird den meisten ChatGPT-Nutzern nicht bewusst sein, dass ihre Eingaben mitgelesen werden können. OpenAI weist darauf hin, dass eine begrenzte Zahl autorisierter Mitarbeiter und Dienstleister auf Nutzerinhalte zugreifen kann – unter anderem zur Verbesserung der Modellleistung, sofern Nutzer dieser Verwendung nicht widersprochen haben.
Viele Anfragen sind persönlicher Natur
ChatGPT wird rund um den Globus wöchentlich von über 900 Millionen Menschen genutzt. Eine hauseigene Studie ermittelte für den Juni 2025, dass annähernd drei Viertel der KI-Chats private, also nicht berufliche Hintergründe hatten. Dazu gehörten unter anderem Hilfe bei den Hausaufgaben von Schülern oder die Lösung von Alltagsproblemen. Es sei demnach normal, dass gerade jüngere Nutzer ihre persönlichen Anliegen dem Chatbot mitteilten. Hierunter fallen auch die in letzter Zeit häufig thematisierten Beratungsgespräche zu Lebensfragen und aus therapeutischen Gründen.
Auch andere KI-Anbieter teilen diese Praxis
Neben OpenAI lassen wahrscheinlich auch andere Anbieter von künstlicher Intelligenz Menschen an ausgewählten Prompts und Chats lesend teilnehmen. Google und Anthropic erklärten, dass sie ihre Modelle durch ähnliche Bewertungen verbessern. Auf welche Technologie sich „Project Lily“ konkret bezieht, ist vorerst nicht bekannt. Eine breit angelegte Aufklärung der User ist bislang nicht erfolgt.
Am besten Zustimmung zur Datennutzung abschalten
Privatnutzer von ChatGPT können in den Datenkontrollen festlegen, ob ihre Gespräche zur Verbesserung der Modelle verwendet werden dürfen. Wer ein ungutes Gefühl hat, dass seine Chats mitgelesen werden, kann diese Option deaktivieren. ChatGPT-Konten von Unternehmen und Bildungsinstitutionen sind in diesem Punkt sicherer: Hier ist die Erlaubnis von vornherein nicht aktiv.
Datenschutz & Datensicherheit Das Fachinformationsportal

- Aktuelles Fachwissen
- Rechtssichere Entscheidungen
- Praktische Arbeitshilfen
- Schritt-für-Schritt-Anleitungen
- Sofort einsetzbare Schulungen