Zo werkt het
Waarom je AI-companion je vergeet, en hoe je dat test
In week één vertelde je haar over je zus. In week vier noem je je zus en ze heeft geen idee over wie je het hebt. Dat is de meest gehoorde klacht over AI-companion-apps, en het is geen bug in de gewone zin. Het is een ontwerpkeuze, en je kunt erop testen voordat je betaalt.
Waarom vergeet mijn AI-vriendin alles?
Omdat een taalmodel zelf geen geheugen heeft. Het ziet bij elke beurt alleen de tekst die je het meegeeft.
Elk bericht dat je stuurt, gaat op weg met een pakketje: wie het personage is, en het recente gesprek. Dat pakketje heeft een maximale omvang, dus apps houden alleen de nieuwste berichten bij, vaak iets in de orde van de laatste paar dozijn. Alles wat ouder is, ligt gewoon niet voor het model als het schrijft. Het is niet vergeten zoals een mens vergeet. Het heeft het nooit te zien gekregen.
Hoe onthouden sommige apps dan dingen van maanden geleden?
Ze schrijven dingen apart op, buiten het gesprek.
Een companion-app die goed onthoudt, laat naast de chat een tweede systeem draaien: dat merkt feiten op die het bewaren waard zijn (je werk, de naam van je zus, dat je koriander haat), slaat ze op en plakt de relevante bij latere beurten terug in het pakketje. Het model herinnert zich niets. De app helpt het geheugen een handje, elke keer opnieuw.
Daarom verschillen apps hier zo enorm in. Het gespreksvenster is overal ongeveer even groot. Het verschil zit in de vraag of iemand dat tweede systeem heeft gebouwd, en hoe goed het beslist wat het bewaren waard is.
Hoe test ik het geheugen van een app in vijf minuten?
Geef haar vijf concrete feiten en vraag er later naar.
- Eerste sessie: noem vijf concrete details terloops, niet als lijstje. Een naam, een baan, een huisdier, een datum, iets waar je een hekel aan hebt.
- Laat de app minstens een dag liggen, liefst een week. Geheugen dat alleen binnen één sessie werkt, is het venster, geen geheugen.
- Kom terug en vraag indirect: niet „hoe heet mijn hond?” maar „denk je dat hij het park leuk zou vinden?”
- Geef een score: een goede app weet er vier of vijf. Een app met alleen een venster weet er geen, en verzint vaak vol overtuiging een fout antwoord.
- Herhaal het een week later nog eens. Sommige apps onthouden een week en laten het dan stilletjes vallen.
Lost een groter contextvenster het op?
Niet echt, en hier wordt de marketing misleidend.
Langere vensters bestaan echt en helpen, maar ze worden snel duur en lossen het probleem niet op, ze stellen het uit. Een model dat duizenden oude berichten krijgt, vindt ook slechter het ene bericht dat ertoe doet: een goed gedocumenteerd effect waarbij informatie in het midden van een lange invoer over het hoofd wordt gezien. Opgeschreven geheugen wint van een groter venster, omdat het kort, geselecteerd en altijd relevant is.
Wat X-Friend doet
Beide systemen, waarbij het opgeschreven deel het zware werk doet.
Het recente gesprek gaat met elk bericht mee, en daarnaast houdt je companion aantekeningen bij van wat je haar vertelt en brengt ze die uit zichzelf weer ter sprake. De praktische test is die van hierboven: noem iets één keer, kom een week later terug en kijk of zij er eerder over begint dan jij.
Veelgestelde vragen
Waarom vergeet mijn AI-companion wat ik haar vertelde?
Omdat taalmodellen tussen berichten geen geheugen hebben. Apps sturen bij elke beurt alleen het nieuwste deel van het gesprek mee, dus oudere berichten liggen gewoon niet voor het model. Apps die langer onthouden, slaan feiten apart op en voegen ze bij elk bericht weer toe.
Welke AI-companion-apps hebben langetermijngeheugen?
Nomi, X-Friend en Replika bewaren allemaal feiten buiten het gespreksvenster en halen ze later terug. Character.AI is ingericht op afwisseling in plaats van één doorlopende relatie en neemt minder mee over weken.
Hoe test ik of een AI-companion echt onthoudt?
Noem in één sessie vijf concrete feiten, wacht minstens een dag en vraag er dan indirect naar. Een app met echt geheugen weet de meeste nog. Een app die alleen op het gespreksvenster leunt, weet er geen en verzint vaak een antwoord.
Waar je nu heen kunt
Bronnen
- Het gedrag van contextvensters en de neiging om informatie in het midden van lange invoer over het hoofd te zien, zijn goed gedocumenteerd in gepubliceerd onderzoek naar taalmodellen.
- De grootte van het berichtvenster verschilt per app en verandert in de loop van de tijd; het genoemde getal is gebruikelijk, niet universeel.