Nasıl çalışır
Yapay zeka arkadaşın seni neden unutuyor ve bunu nasıl test edersin
İlk hafta ona kız kardeşinden bahsettin. Dördüncü hafta kız kardeşini anıyorsun ve kimden söz ettiğin hakkında hiçbir fikri yok. Bu, yapay zeka arkadaş uygulamaları hakkında en sık duyulan şikâyet ve alışılmış anlamda bir hata değil. Bir tasarım kararı ve ödeme yapmadan önce bunu test edebilirsin.
Yapay zeka sevgilim neden her şeyi unutuyor?
Çünkü bir dil modelinin kendine ait bir hafızası yok. Her turda yalnızca ona verdiğin metni görüyor.
Gönderdiğin her mesaj bir paketle birlikte gidiyor: karakterin kim olduğu ve son konuşma. Bu paketin bir boyut sınırı var, bu yüzden uygulamalar yalnızca en son mesajları tutuyor; çoğu zaman son birkaç düzine kadar. Daha eski her şey, model yazarken basitçe önünde değil. İnsani anlamda unutmadı. Ona hiç gösterilmedi.
Peki bazı uygulamalar aylar önceki şeyleri nasıl hatırlıyor?
Bir şeyleri konuşmanın dışında, ayrıca not alıyorlar.
İyi hatırlayan bir arkadaş uygulaması sohbetin yanında ikinci bir sistem çalıştırıyor: saklanmaya değer bilgileri fark ediyor (işin, kız kardeşinin adı, kişniften nefret ettiğin), bunları kaydediyor ve sonraki turlarda ilgili olanları pakete geri ekliyor. Hatırlayan model değil. Uygulama ona her seferinde hatırlatıyor.
Uygulamaların bu konuda bu kadar farklı olmasının nedeni bu. Konuşma penceresi aşağı yukarı her yerde aynı. Onları ayıran, birinin bu ikinci sistemi kurup kurmadığı ve neyin saklanmaya değer olduğuna ne kadar iyi karar verdiği.
Bir uygulamanın hafızasını beş dakikada nasıl test ederim?
Ona beş belirli bilgi ver, sonra daha sonra geri gelip sor.
- Birinci oturum: beş somut ayrıntıyı liste halinde değil, laf arasında an. Bir isim, bir meslek, bir evcil hayvan, bir tarih, sevmediğin bir şey.
- Uygulamayı en az bir gün, ideal olarak bir hafta bırak. Yalnızca tek bir oturum içinde işleyen hafıza, hafıza değil penceredir.
- Geri gel ve dolaylı sor: “köpeğimin adı ne” değil, “sence parkı sever mi?”
- Puanla: iyi bir uygulama dört ya da beşini hatırlar. Yalnızca pencereye dayanan bir uygulama hiçbirini hatırlamaz ve çoğu zaman kendinden emin, yanlış bir cevap uydurur.
- Bir hafta sonra bir kez daha tekrarla. Bazı uygulamalar bir hafta hatırlıyor, sonra sessizce bırakıyor.
Daha büyük bir bağlam penceresi bunu çözer mi?
Pek değil ve pazarlamanın yanıltıcı olmaya başladığı yer tam da burası.
Daha uzun pencereler gerçek ve işe yarıyor, ancak hızla pahalılaşıyor ve sorunu çözmüyor, erteliyor. Binlerce eski mesaj verilen bir model, önemli olanı bulmakta da kötüleşiyor; uzun bir girdinin ortasındaki bilgilerin gözden kaçtığı, iyi belgelenmiş bir etki bu. Yazıya dökülmüş hafıza daha büyük bir pencereyi yener, çünkü kısa, seçilmiş ve her zaman ilgili.
X-Friend ne yapıyor
İki sistemi birden; ağır işi yazıya dökülmüş kısım yapıyor.
Son konuşma her mesajla birlikte gidiyor, ayrıca arkadaşın ona anlattıkların hakkında notlar tutuyor ve bunları kendiliğinden yeniden gündeme getiriyor. Pratik test yukarıdaki: bir şeyi bir kez an, bir hafta sonra geri gel ve senden önce onun açıp açmadığına bak.
Sık sorulanlar
Yapay zeka arkadaşım ona söylediklerimi neden unutuyor?
Çünkü dil modellerinin mesajlar arasında hafızası yok. Uygulamalar her turda konuşmanın yalnızca en son kısmını gönderiyor, bu yüzden eski mesajlar basitçe modelin önünde değil. Daha uzun hatırlayan uygulamalar bilgileri ayrıca saklıyor ve her mesaja geri ekliyor.
Hangi yapay zeka arkadaş uygulamalarında uzun süreli hafıza var?
Nomi, X-Friend ve Replika bilgileri konuşma penceresinin dışında tutuyor ve sonradan geri getiriyor. Character.AI tek bir kesintisiz ilişki yerine çeşitlilik için optimize edilmiş ve haftalar boyunca daha az şey taşıyor.
Bir yapay zeka arkadaşın gerçekten hatırlayıp hatırlamadığını nasıl test ederim?
Bir oturumda beş belirli bilgiyi an, en az bir gün bekle, sonra bunları dolaylı olarak sor. Gerçek hafızası olan bir uygulama çoğunu hatırlar. Yalnızca konuşma penceresine dayanan bir uygulama hiçbirini hatırlamaz ve çoğu zaman bir cevap uydurur.
Buradan nereye
Kaynaklar
- Bağlam penceresinin davranışı ve uzun girdilerin ortasındaki bilgilerin gözden kaçma eğilimi, yayımlanmış dil modeli araştırmalarında iyi belgelenmiştir.
- Mesaj penceresi boyutları uygulamaya göre değişir ve zamanla farklılaşır; verilen rakam evrensel değil tipiktir.