Antwoord
Zijn AI-vriendin-apps veilig, en wat gebeurt er met mijn chats?
Gevestigde apps zijn veilig voor de meeste mensen; het risico zit bij kleine apps die veel verzamelen. Mozilla stelde in 2024 vast dat 10 van de 11 romantische chatbots zijn minimale beveiligingsnormen niet haalden, en in 2025 lekten twee apps 43 miljoen berichten. In november 2026 kan in elke app de aanbieder en de modelleverancier je chats lezen, ook onder de AVG.
Wie kan mijn chats lezen?
Drie partijen, in praktisch elke app: de aanbieder (de berichten staan in zijn database), de modelleverancier (de tekst gaat daarheen om het antwoord te maken), en iedereen aan wie de aanbieder wettelijk verplicht is gegevens af te staan.
Geen enkele companion-app kan end-to-end versleuteld zijn zolang een taalmodel de antwoorden schrijft, want het model moet het bericht lezen. Een app die allebei claimt beschrijft iets wat niet kan werken.
Wat is er daadwerkelijk misgegaan?
Zwakke beveiliging bij kleine apps, vaag beleid en ontbrekende leeftijdscontroles; geen robots die op hol slaan.
- Februari 2024: Privacy Not Included van Mozilla beoordeelde 11 romantische AI-chatbots; 10 haalden de minimale beveiligingsnormen niet, één toonde binnen een minuut meer dan 24.000 advertentietrackers.
- April 2025: de Italiaanse privacytoezichthouder legde Luka, de maker van Replika, een boete van 5 miljoen euro op (besluit van 10 april 2025) wegens rechtsgrond, transparantie en leeftijdsverificatie. In Nederland is de Autoriteit Persoonsgegevens de toezichthouder met dezelfde bevoegdheden, in België de Gegevensbeschermingsautoriteit.
- Oktober 2025: Cybernews ontdekte dat Chattee Chat en GiMe Chat een server open hadden laten staan, waardoor 43 miljoen berichten en meer dan 600.000 afbeeldingen en video’s van meer dan 400.000 gebruikers blootlagen.
- November 2025: Character.AI beëindigde open chats voor gebruikers onder de 18 na rechtszaken rond tieners.
- 1 januari 2026: de Californische wet SB 243 trad in werking en verplicht companion-chatbots te melden dat ze AI zijn en protocollen tegen zelfbeschadiging te hebben.
Hoe gaan de grote apps met chats om?
Op papier zitten de verschillen in training, reclame en waar het bedrijf zit (beleid gecontroleerd op 20 oktober 2026).
| App | Bedrijf | Chats gebruikt voor training | Reclame |
|---|---|---|---|
| Character.AI | Character Technologies, Inc., VS | Zie beleid | Reclame in het gratis niveau; geen met c.ai+ |
| Chai | Niet door ons geverifieerd | Niet door ons geverifieerd | Niet door ons geverifieerd |
| Replika | Luka, Inc., VS | Kleine geanonimiseerde delen, intern | Gesprekken nooit gedeeld met advertentiepartners |
| Nomi | Glimpse.ai, Inc., VS | Beleid verwijst naar trainingsarchieven | Verkoopt geen persoonsgegevens |
| Candy.ai | EverAI Limited, Malta | Ja, na de-identificatie | Kan gede-identificeerde gegevens delen met partners |
| X-Friend | Duits bedrijf (AVG) | Nee | Nee, chats nooit gebruikt voor reclame |
Vijf controles voordat je iets persoonlijks typt
Tien minuten, meestal.
- Noemt het privacybeleid het bedrijf en het land waar het geregistreerd is?
- Staat er duidelijk of chats worden gebruikt om modellen te trainen of voor reclame?
- Kun je je account en gesprekken in de app zelf verwijderen?
- Is er een leeftijdscontrole, en is de app 18+ als hij inhoud voor volwassenen toestaat?
- Heeft de app in een lek gezeten? Zoek de naam met «lek» of «breach» voordat je je aanmeldt.
Hoe X-Friend ermee omgaat
De AI-companion-app X-Friend is 18+ met leeftijdscontrole, van een Duits bedrijf onder de AVG, dezelfde verordening die gebruikers in Nederland en België beschermt. Gegevens staan in Londen (AWS eu-west-2). Chats worden nooit verkocht en niet gebruikt voor reclame of AI-training; je account verwijderen in de app verwijdert de gesprekken. Berichten zijn niet end-to-end versleuteld, om de reden hierboven, wat voor elke app in deze categorie geldt.
Twee pagina’s die bij dit onderwerp horen: “Een virtuele vriendin om momenten mee te delen” en “Een AI vriendin die je zelf maakt”.
Verwante vragen
Kunnen mijn chats met een AI-vriendin lekken?
Het is gebeurd: in oktober 2025 lekten twee kleine apps 43 miljoen berichten via een server zonder authenticatie. Gevestigde apps met een bekend bedrijf en een echt beveiligingsteam zijn de veiligere kant.
Leest X-Friend mijn chats?
Technisch kunnen de aanbieder en de modelleverancier dat, zoals in elke app. X-Friend gebruikt chats niet voor training of reclame, en het account verwijderen verwijdert ze.
Zijn AI-vriendin-apps veilig voor tieners?
Ze zijn er niet voor bedoeld. X-Friend is 18+ met leeftijdscontrole, en Character.AI beëindigde op 25 november 2025 open chats voor gebruikers onder de 18.
Is Replika veilig?
Het is een gevestigde app waarvan het beleid zegt dat gesprekken nooit met adverteerders worden gedeeld. De maker kreeg in 2025 een boete van 5 miljoen euro van de Italiaanse toezichthouder wegens rechtsgrond, transparantie en leeftijdscontrole.
Bij X-Friend
- Zijn AI-vriendin-apps veilig? 6 apps vergeleken op privacy
- Wie kan je chats met een AI-companion lezen?
Bronnen
- Mozilla Foundation, Privacy Not Included: romantic AI chatbots (14 February 2024)
- Malwarebytes blog, 10 October 2025: 43 million messages exposed by two companion apps
- GDPR Enforcement Tracker, ETid-2611: Garante decision of 10 April 2025 against Luka Inc.
- California SB 243 (companion chatbots), in force since 1 January 2026