Come funziona
Perché il tuo compagno IA si dimentica di te, e come verificarlo
Nella prima settimana le hai parlato di tua sorella. Nella quarta nomini tua sorella e lei non ha idea di chi sia. È la lamentela più comune in assoluto sulle app di compagnia IA, e non è un bug nel senso abituale. È una scelta di progettazione, e puoi verificarla prima di pagare.
Perché la mia ragazza IA dimentica tutto?
Perché un modello linguistico non ha una memoria propria. Vede solo il testo che gli viene passato a ogni turno.
Ogni messaggio che invii parte insieme a un pacchetto: chi è il personaggio e la conversazione recente. Quel pacchetto ha un limite di dimensione, quindi le app tengono solo i messaggi più recenti, spesso qualche decina. Tutto ciò che è più vecchio semplicemente non è davanti al modello quando scrive. Non ha dimenticato nel senso umano. Non gliel'hanno mai mostrato.
E allora come fanno alcune app a ricordare cose di mesi fa?
Prendono appunti a parte, fuori dalla conversazione.
Un'app di compagnia che ricorda bene fa girare un secondo sistema accanto alla chat: nota i fatti che vale la pena tenere (il tuo lavoro, il nome di tua sorella, il fatto che odi il coriandolo), li salva e reinserisce quelli rilevanti nel pacchetto nei turni successivi. Non è il modello a ricordare. È l'app che glielo ricorda, ogni singola volta.
Ecco perché le app sono così diverse su questo punto. La finestra di conversazione è più o meno la stessa ovunque. A distinguerle è se qualcuno ha costruito il secondo sistema, e quanto bene decide cosa vale la pena conservare.
Come metto alla prova la memoria di un'app in cinque minuti?
Dalle cinque fatti precisi, poi torna più tardi e chiedi.
- Prima sessione: cita cinque dettagli concreti di passaggio, non come elenco. Un nome, un lavoro, un animale, una data, una cosa che non sopporti.
- Lascia l'app per almeno un giorno, meglio una settimana. Una memoria che funziona solo dentro una sessione è la finestra, non memoria.
- Torna e chiedi in modo indiretto: non “come si chiama il mio cane” ma “secondo te gli piacerebbe il parco?”
- Dai un voto: una buona app ne ricorda quattro o cinque. Un'app che ha solo la finestra non ne ricorda nessuno, e spesso si inventa con sicurezza una risposta sbagliata.
- Ripeti ancora una settimana dopo. Alcune app ricordano per una settimana e poi lasciano perdere senza dirlo.
Una finestra di contesto più grande risolve il problema?
Non proprio, ed è qui che il marketing diventa fuorviante.
Le finestre più lunghe esistono e aiutano, ma diventano costose in fretta e non risolvono il problema, lo rimandano. Un modello a cui passi migliaia di messaggi passati diventa anche peggiore nel trovare quello che conta, un effetto ben documentato per cui le informazioni a metà di un input lungo vengono trascurate. La memoria messa per iscritto batte una finestra più grande perché è breve, selezionata e sempre pertinente.
Cosa fa X-Friend
Usa entrambi i sistemi, e il lavoro pesante lo fa la parte scritta.
La conversazione recente viaggia con ogni messaggio e, a parte, la tua compagna prende appunti su quello che le hai raccontato e lo tira fuori da sola. Il test pratico è quello qui sopra: di' una cosa una volta, torna una settimana dopo e guarda se è lei a parlarne prima di te.
Domande frequenti
Perché il mio compagno IA dimentica quello che gli ho detto?
Perché i modelli linguistici non hanno memoria tra un messaggio e l'altro. Le app inviano a ogni turno solo la parte più recente della conversazione, quindi i messaggi più vecchi semplicemente non sono davanti al modello. Le app che ricordano più a lungo salvano i fatti a parte e li reinseriscono in ogni messaggio.
Quali app di compagnia IA hanno una memoria a lungo termine?
Nomi, X-Friend e Replika conservano i fatti fuori dalla finestra di conversazione e li riprendono più tardi. Character.AI è ottimizzata per la varietà più che per una relazione continua e si porta dietro meno dettagli da una settimana all'altra.
Come verifico se un compagno IA ricorda davvero?
Cita cinque fatti precisi in una sessione, aspetta almeno un giorno e poi chiedili in modo indiretto. Un'app con una memoria vera ne ricorda la maggior parte. Un'app che si affida solo alla finestra di conversazione non ne ricorda nessuno e spesso si inventa una risposta.
Dove andare adesso
Fonti
- Il comportamento della finestra di contesto e la tendenza a trascurare le informazioni a metà di input lunghi sono ben documentati nella ricerca pubblicata sui modelli linguistici.
- La dimensione della finestra di messaggi varia da app ad app e cambia nel tempo; il valore indicato è tipico, non universale.