Jak to działa
Dlaczego twój towarzysz AI cię zapomina i jak to sprawdzić
W pierwszym tygodniu opowiedziałeś jej o swojej siostrze. W czwartym wspominasz siostrę, a ona nie ma pojęcia, o kogo chodzi. To najczęstsza skarga na aplikacje z towarzyszem AI i nie jest to błąd w zwykłym sensie. To decyzja projektowa, a ty możesz ją sprawdzić, zanim zapłacisz.
Dlaczego moja dziewczyna AI wszystko zapomina?
Bo model językowy nie ma własnej pamięci. Widzi tylko tekst, który dostaje przy każdej wymianie.
Każda wysłana przez ciebie wiadomość idzie w paczce: kim jest postać i jak wyglądała ostatnia rozmowa. Ta paczka ma limit rozmiaru, więc aplikacje zostawiają w niej tylko najnowsze wiadomości, często kilkadziesiąt ostatnich. Wszystko, co starsze, po prostu nie leży przed modelem, kiedy pisze odpowiedź. Nie zapomniał w ludzkim sensie. Nigdy mu tego nie pokazano.
To jak niektóre aplikacje pamiętają rzeczy sprzed miesięcy?
Zapisują je osobno, poza rozmową.
Aplikacja z dobrą pamięcią prowadzi obok czatu drugi system: wyłapuje fakty warte zachowania (twoją pracę, imię siostry, to, że nie znosisz kolendry), zapisuje je i przy kolejnych wiadomościach wkleja te istotne z powrotem do paczki. Model niczego nie pamięta. To aplikacja mu przypomina, za każdym razem.
Dlatego aplikacje tak bardzo się tu różnią. Okno rozmowy jest wszędzie mniej więcej takie samo. Różni je to, czy ktoś w ogóle zbudował ten drugi system i jak dobrze decyduje on, co warto zachować.
Jak w pięć minut sprawdzić pamięć aplikacji?
Podaj jej pięć konkretnych faktów, a potem wróć później i zapytaj.
- Pierwsza sesja: wspomnij mimochodem pięć konkretnych szczegółów, nie w formie listy. Imię, pracę, zwierzę, datę, coś, czego nie lubisz.
- Zostaw aplikację na co najmniej dzień, najlepiej na tydzień. Pamięć działająca tylko w obrębie jednej sesji to okno, a nie pamięć.
- Wróć i zapytaj pośrednio: nie „jak ma na imię mój pies”, tylko „myślisz, że spodobałoby mu się w parku?”.
- Oceń: dobra aplikacja przypomni sobie cztery albo pięć. Aplikacja, która ma tylko okno, nie przypomni sobie żadnego i często z pewnością wymyśli złą odpowiedź.
- Powtórz to jeszcze raz tydzień później. Niektóre aplikacje pamiętają przez tydzień, a potem po cichu o tym zapominają.
Czy większe okno kontekstu to naprawia?
Nie bardzo, i właśnie tu marketing zaczyna wprowadzać w błąd.
Dłuższe okna istnieją i pomagają, ale szybko robią się drogie i nie rozwiązują problemu, tylko go odsuwają. Model, który dostaje tysiące dawnych wiadomości, gorzej też znajduje tę jedną ważną; to dobrze opisany efekt, w którym informacje ze środka długiego tekstu umykają. Zapisana pamięć wygrywa z większym oknem, bo jest krótka, wybrana i zawsze na temat.
Co robi X-Friend
Oba systemy, a najcięższą pracę wykonuje część zapisana.
Ostatnia rozmowa idzie z każdą wiadomością, a osobno twoja towarzyszka prowadzi notatki o tym, co jej powiedziałeś, i sama do tego wraca. Praktyczny test jest ten sam co wyżej: wspomnij o czymś raz, wróć po tygodniu i zobacz, czy poruszy to, zanim ty to zrobisz.
Częste pytania
Dlaczego mój towarzysz AI zapomina, co mu powiedziałem?
Bo modele językowe nie mają pamięci między wiadomościami. Aplikacje wysyłają przy każdej wymianie tylko najnowszą część rozmowy, więc starsze wiadomości po prostu nie leżą przed modelem. Aplikacje, które pamiętają dłużej, zapisują fakty osobno i wstawiają je z powrotem do każdej wiadomości.
Które aplikacje z towarzyszem AI mają pamięć długoterminową?
Nomi, X-Friend i Replika przechowują fakty poza oknem rozmowy i później do nich wracają. Character.AI jest nastawione na różnorodność, a nie na jedną ciągłą relację, i przenosi mniej przez kolejne tygodnie.
Jak sprawdzić, czy towarzysz AI naprawdę pamięta?
Wspomnij w jednej sesji pięć konkretnych faktów, odczekaj co najmniej dzień, a potem zapytaj o nie pośrednio. Aplikacja z prawdziwą pamięcią przypomni sobie większość. Aplikacja, która polega tylko na oknie rozmowy, nie przypomni sobie żadnego i często wymyśli odpowiedź.
Co dalej
Źródła
- Działanie okna kontekstu i skłonność do pomijania informacji ze środka długich tekstów są dobrze opisane w opublikowanych badaniach nad modelami językowymi.
- Rozmiar okna wiadomości różni się między aplikacjami i zmienia się w czasie; podana liczba jest typowa, a nie uniwersalna.