Datenschutz
Sind KI-Freundin-Apps sicher? Datenschutz und Sicherheit im Vergleich
Meistens ja, wenn du die App mit Bedacht wählst, und die Risiken sind andere, als viele denken. Die echten Probleme waren bisher schwache Sicherheit bei kleinen Apps, schwammige Datenschutzerklärungen und fehlende Altersprüfung, keine Roboter, die außer Kontrolle geraten. Hier steht, was belegt ist und wie die großen Apps auf dem Papier im Oktober 2026 dastehen.
Sind KI-Freundin-Apps sicher?
Die bekannten Apps sind für die meisten Menschen ausreichend sicher; das Risiko liegt bei kleinen Apps, die viel sammeln und wenig schützen.
Im Februar 2024 hat Mozillas Team „Privacy Not Included“ 11 romantische KI-Chatbots geprüft und alle mit seinem Warnhinweis versehen; 10 der 11 fielen bei den Mindeststandards für Sicherheit durch, und eine App zeigte binnen einer Minute über 24.000 Werbe-Tracker. Im Oktober 2025 berichtete Cybernews, dass zwei Begleiter-Apps, Chattee Chat und GiMe Chat der Firma Imagime Interactive aus Hongkong, einen Server ohne Passwort offen gelassen hatten: 43 Millionen Nachrichten und über 600.000 Bilder und Videos von mehr als 400.000 Nutzern.
Was ist bei den großen Apps schiefgelaufen?
Vor allem Datenschutzrecht und Altersprüfung.
Die italienische Datenschutzbehörde hat Luka, die Firma hinter Replika, mit Entscheidung vom 10. April 2025 zu 5 Millionen Euro Bußgeld verurteilt: keine gültige Rechtsgrundlage, unzureichende Information in der Datenschutzerklärung, keine Altersprüfung. Character.AI hat freie Chats für unter 18-Jährige im November 2025 beendet, nach Klagen im Zusammenhang mit Jugendlichen. Seit dem 1. Januar 2026 verlangt das kalifornische Gesetz SB 243 von Anbietern, klar offenzulegen, dass man mit einer KI spricht, und Abläufe für den Umgang mit Suizid und Selbstverletzung zu haben.
Wie gehen die großen Apps mit deinen Daten um?
Auf dem Papier unterscheiden sie sich bei Training, Werbung und Firmensitz.
| App | Anbieter | Chats fürs Training? | Werbung | Mindestalter |
|---|---|---|---|---|
| Replika | Luka, Inc., USA | Kleine anonymisierte Teile, für interne Sicherheit und Leistung | Gespräche nie an Werbepartner; Website-Daten schon | 18 |
| Nomi | Glimpse.ai, Inc., USA | Erklärung spricht von Trainings-Archiven | Verkauft und vermietet keine persönlichen Daten | 18 |
| Candy.ai | EverAI Limited, Malta | Ja, nach Zusammenfassung, Anonymisierung oder Pseudonymisierung | Weitergabe pseudonymisierter Daten an Partner erlaubt | Plattform für Erwachsene |
| X-Friend | Deutscher Anbieter | Nein | Nein; Chats nie für Werbung | 18 |
Wer kann meine Chats mit der KI-Freundin lesen?
Der Betreiber der App und die Firma, deren Modell die Antworten schreibt, in praktisch jeder App.
Keine Begleiter-App kann Ende-zu-Ende verschlüsselt sein, solange ein Sprachmodell die Antworten schreibt, denn das Modell muss die Nachricht lesen. Entscheidend ist, was der Betreiber damit verspricht, wo gespeichert wird und ob du löschen kannst. Die Details stehen in unserem Artikel, wer deine KI-Chats lesen kann.
Wie finde ich eine sichere KI-Begleiter-App?
Fünf Fragen, zehn Minuten.
- Nennt die Datenschutzerklärung die Firma und das Land, in dem sie sitzt?
- Steht klar drin, ob Chats fürs KI-Training oder für Werbung genutzt werden?
- Kannst du Konto und Gespräche in der App selbst löschen?
- Gibt es eine Altersprüfung, und ist die App ab 18 freigegeben, wenn sie erwachsene Inhalte erlaubt?
- Hatte die App schon ein Datenleck? Such vor der Anmeldung nach ihrem Namen mit „Leck“ oder „breach“.
Wie geht X-Friend mit Sicherheit und Datenschutz um?
X-Friend ist eine App ab 18 mit Altersprüfung, von einem deutschen Anbieter, nach DSGVO.
Die Daten liegen in London (UK, AWS eu-west-2), außerhalb der EU unter einem Datenschutzniveau, das die EU als angemessen anerkennt. Chats werden nie verkauft und nicht für Werbung oder KI-Training genutzt. Löschst du dein Konto in der App, sind Konto und Gespräche weg. Ende-zu-Ende verschlüsselt sind die Nachrichten nicht, aus dem Grund oben; das gilt für jede App dieser Kategorie.
Häufige Fragen
Sind KI-Freundin-Apps sicher?
Die großen, etablierten Apps sind für die meisten Menschen ausreichend sicher, aber die Kategorie hat beim Datenschutz eine schlechte Bilanz. Mozilla fand 2024, dass 10 von 11 romantischen Chatbots die Mindeststandards für Sicherheit verfehlten, und 2025 lagen bei zwei kleinen Apps 43 Millionen private Nachrichten auf einem ungeschützten Server.
Können KI-Freundin-Apps Chats leaken?
Ja, das ist passiert. 2025 ließen Chattee Chat und GiMe Chat einen Server ohne Zugangsschutz offen, mit 43 Millionen Nachrichten und über 600.000 Bildern und Videos, laut Cybernews und Malwarebytes.
Ist Replika sicher?
Replika ist eine etablierte App ab 18, und die Datenschutzerklärung sagt, dass Gespräche nie an Werbepartner gehen. Die italienische Datenschutzbehörde hat 2025 ein Bußgeld von 5 Millionen Euro verhängt, wegen Rechtsgrundlage, Transparenz und Altersprüfung.
Ist eine KI-Freundin DSGVO-konform?
Das hängt vom Anbieter ab. Achte auf Firmensitz, Speicherort, eine klare Aussage zum KI-Training und eine Löschfunktion in der App. X-Friend ist ein deutscher Anbieter unter der DSGVO, speichert in London und nutzt Chats nicht für Training oder Werbung.
Wie es weitergeht
- Wer kann deine Chats mit einer KI-Begleiterin lesen?
- Sicherheit bei X-Friend
- Über X-Friend
- Was KI-Begleiter-Apps wirklich dürfen
Quellen
- Mozilla Foundation, Privacy Not Included, 14. Februar 2024: Prüfung von 11 romantischen KI-Chatbots.
- Malwarebytes, 10. Oktober 2025, zur Entdeckung von Cybernews bei Chattee Chat und GiMe Chat.
- GDPR Enforcement Tracker, ETid-2611: Entscheidung der Garante vom 10. April 2025 gegen Luka Inc.
- Character.AI-Blog, 29. Oktober 2025. Zusammenfassungen von Skadden und Future of Privacy Forum zu Kaliforniens SB 243.
- Datenschutzerklärungen von Replika, Nomi und Candy.ai, geprüft am 20. Oktober 2026. X-Friend: eigene Erklärung.