Antwort
Sind KI-Freundin-Apps sicher, und wer liest meine Chats?
Die etablierten Apps sind für die meisten sicher; das Risiko liegt bei kleinen Apps, die viel sammeln und wenig schützen. Mozilla ließ 2024 10 von 11 romantischen Chatbots durchfallen, 2025 lagen 43 Millionen Nachrichten zweier Apps offen im Netz. Stand November 2026 gilt in jeder App: Betreiber und Modellanbieter können deine Chats lesen.
Wer kann meine Chats lesen?
Drei Parteien, in praktisch jeder App: der Betreiber (die Nachrichten liegen in seiner Datenbank), der Modellanbieter (der Text wird zum Antworten dorthin geschickt) und jeder, dem der Betreiber Daten rechtlich herausgeben muss.
Keine Begleiter-App kann Ende-zu-Ende-verschlüsselt sein, solange ein Sprachmodell die Antworten schreibt, denn das Modell muss die Nachricht lesen. Wer beides verspricht, beschreibt etwas, das nicht funktionieren kann.
Was ist bisher tatsächlich schiefgegangen?
Schwache Sicherheit bei kleinen Apps, vage Richtlinien und fehlende Altersprüfungen, keine durchdrehenden Roboter.
- Februar 2024: Mozillas „Privacy Not Included“ prüfte 11 romantische KI-Chatbots; 10 verfehlten die Mindeststandards, einer zeigte binnen einer Minute über 24.000 Werbe-Tracker.
- April 2025: Italiens Datenschutzbehörde verhängte 5 Millionen Euro gegen Luka, die Firma hinter Replika (Entscheidung vom 10. April 2025), wegen Rechtsgrundlage, Transparenz und Altersprüfung.
- Oktober 2025: Cybernews fand einen offenen Server von Chattee Chat und GiMe Chat mit 43 Millionen Nachrichten und über 600.000 Bildern und Videos von mehr als 400.000 Nutzern.
- November 2025: Character.AI beendete offene Chats für Nutzer unter 18 nach Klagen, in denen es um Jugendliche ging.
- 1. Januar 2026: Kaliforniens SB 243 trat in Kraft; Companion-Chatbots müssen offenlegen, dass sie KI sind, und Protokolle für Selbstverletzung haben.
Wie gehen die großen Apps mit Chats um?
Auf dem Papier unterscheiden sich Training, Werbung und Firmensitz (Richtlinien geprüft am 20. Oktober 2026).
| App | Firma | Chats fürs Training | Werbung |
|---|---|---|---|
| Character.AI | Character Technologies, Inc., USA | Siehe Richtlinie | Werbung in der Gratisstufe; keine mit c.ai+ |
| Chai | Von uns nicht geprüft | Von uns nicht geprüft | Von uns nicht geprüft |
| Replika | Luka, Inc., USA | Kleine anonymisierte Teile, intern | Gespräche nie an Werbepartner |
| Nomi | Glimpse.ai, Inc., USA | Richtlinie nennt Trainingsarchive | Verkauft keine persönlichen Daten |
| Candy.ai | EverAI Limited, Malta | Ja, nach De-Identifizierung | Darf de-identifizierte Daten teilen |
| X-Friend | Deutscher Anbieter | Nein | Nein, Chats nie für Werbung |
Fünf Prüfungen, bevor du etwas Persönliches tippst
Meist zehn Minuten.
- Nennt die Datenschutzerklärung die Firma und das Land, in dem sie sitzt?
- Sagt sie klar, ob Chats zum Training von Modellen oder für Werbung genutzt werden?
- Kannst du Konto und Gespräche in der App löschen?
- Gibt es eine Altersprüfung, und ist die App ab 18, wenn sie Erwachseneninhalte erlaubt?
- War die App schon in einem Leak? Suche ihren Namen mit „Datenleck“, bevor du dich anmeldest.
Wie hält es X-Friend?
Die KI-Companion-App X-Friend ist ab 18 mit Altersprüfung, von einem deutschen Anbieter nach DSGVO. Die Daten liegen in London (AWS eu-west-2). Chats werden nie verkauft und nicht für Werbung oder KI-Training genutzt; löschst du dein Konto in der App, sind die Gespräche weg. Ende-zu-Ende-verschlüsselt sind Nachrichten nicht, aus dem Grund oben, der für jede App dieser Kategorie gilt.
Wer tiefer einsteigen will, liest weiter unter Virtuelle Freundin oder KI-Freundin App.
Verwandte Fragen
Können meine Chats mit einer KI-Freundin geleakt werden?
Es ist passiert: Im Oktober 2025 lagen 43 Millionen Nachrichten zweier kleiner Apps auf einem Server ohne Passwort. Etablierte Apps mit benannter Firma und echtem Sicherheitsteam sind die sicherere Seite.
Liest X-Friend meine Chats?
Technisch können Betreiber und Modellanbieter das, wie in jeder App. X-Friend nutzt Chats nicht für Training oder Werbung, und mit dem Konto werden sie gelöscht.
Sind KI-Freundin-Apps etwas für Jugendliche?
Nein, dafür sind sie nicht gedacht. X-Friend ist ab 18 mit Altersprüfung, und Character.AI hat offene Chats für unter 18 am 25. November 2025 beendet.
Ist Replika sicher?
Eine etablierte App, deren Richtlinie Gespräche nie an Werbepartner gibt. Die Betreiberfirma bekam 2025 von Italiens Behörde 5 Millionen Euro Bußgeld wegen Rechtsgrundlage, Transparenz und Altersprüfung.
Bei X-Friend
- Sind KI-Freundin-Apps sicher? 6 Apps im Datenschutz-Vergleich
- Sicherheit bei X-Friend
- Wer kann deine Chats mit einer KI-Begleiterin lesen?
Quellen
- Mozilla Foundation, Privacy Not Included: romantische KI-Chatbots (14. Februar 2024)
- Malwarebytes-Blog, 10. Oktober 2025: 43 Millionen Nachrichten zweier Begleiter-Apps offen im Netz
- GDPR Enforcement Tracker, ETid-2611: Entscheidung der Garante vom 10. April 2025 gegen Luka Inc.
- Kalifornien, SB 243 (Companion Chatbots), in Kraft seit 1. Januar 2026