AI agentları için bellek mimarisi: Her şeyi hatırlamak neden doğru değildir?
Agent belleğini sınırsız bir konuşma geçmişi gibi tasarlamak maliyet, gecikme ve güvenilirlik sorunları üretir. Çalışma belleği, episodik kayıtlar ve uzun dönem bilgiyi birlikte kurguluyoruz.
Bir AI agentının her şeyi hatırlaması ilk bakışta güçlü bir özellik gibi görünür. Üretimde ise sınırsız geçmiş; maliyeti büyütür, eski kararları yeni görevlere taşır ve modelin hangi bilginin güncel olduğunu anlamasını zorlaştırır. Sağlam bellek mimarisi daha fazla veri saklamakla değil, doğru bilgiyi doğru anda geri çağırmakla ilgilidir.
Çalışma belleği kısa ve görev odaklı olmalıdır
Çalışma belleği agentın o anda yürüttüğü planı, son araç sonuçlarını ve tamamlanmamış adımları taşır. Bu alan konuşmanın tamamı değildir. Tamamlanan veya geçerliliğini kaybeden adımlar özetlenmeli, kritik durum değişkenleri yapılandırılmış biçimde korunmalıdır. Böylece model her turda yüzlerce eski mesajı yeniden yorumlamak zorunda kalmaz.
Episodik kayıt ile uzun dönem bilgiyi ayırın
Episodik bellek belirli bir olayın ne zaman ve hangi sonuçla gerçekleştiğini saklar. Uzun dönem bilgi ise kullanıcı tercihi, ürün kuralı veya doğrulanmış gerçek gibi tekrar kullanılabilir bilgidir. Bu iki tür aynı vektör havuzuna kontrolsüzce yazıldığında eski bir olay kalıcı gerçek gibi geri dönebilir. Kaynak, zaman, güven düzeyi ve geçerlilik süresi metadata olarak korunmalıdır.
Belleğe yazmadan önce sorulacak sorular
- Bu bilgi gelecekte gerçekten gerekli mi?
- Kaynağı ve doğrulanma zamanı biliniyor mu?
- Kullanıcı bu verinin saklanmasını bekliyor mu?
- Bilginin geçerlilik süresi veya silme politikası var mı?
- Geri çağrıldığında hangi görevlerde kullanılabilir?
Agent belleği bir sohbet arşivi değil; seçilmiş, kaynaklı ve yaşam döngüsü tanımlı bir karar destek katmanıdır.
Geri çağırma da bir bütçe problemidir
Bellekte doğru kayıtların bulunması yetmez; kaç kaydın context içine taşınacağı da yönetilmelidir. Sorguyla ilişki, güncellik, güven ve çeşitlilik birlikte puanlanabilir. Benzer kayıtlar birleştirilmeli, çelişen bilgiler açıkça işaretlenmeli ve hassas içerik yetki kontrolünden sonra getirilmelidir. Context optimizasyonu geri çağrılan kayıtları göreve uygun biçimde sadeleştirebilir.
Sonuç
İyi bellek agentı daha konuşkan değil, daha tutarlı yapar. Çalışma, episodik ve uzun dönem katmanlarını ayırmak; saklama ve geri çağırma politikalarını ölçmek gerekir. Bu yaklaşım token maliyetini azaltırken eski veya ilgisiz bilgilerin kararları bozma riskini de sınırlar.