Yeni Yapay Zeka Bellek Çerçevesi Sorgu Başına 118 Bin Token Kullanıyor, LangMem 3.26 Milyon Tüketiyor

Uzun vadeli akıl yürütme görevlerinde yapay zeka (YZ) ajanlarının temel bir zayıflığı olan bağlam pencerelerinin hızla dolması ve veri getirme (retrieval) süreçlerinin gürültü yerine sinyal döndürmesi sorununa çözüm arayan araştırmacılar, yeni bir bellek çerçevesi geliştirdi. Singapur Ulusal Üniversitesi'nden araştırmacıların geliştirdiği MRAgent adlı bu çerçeve, statik 'getir ve akıl yürüt' yaklaşımını terk ederek, ajanın kanıt biriktirdikçe belleğini dinamik olarak geliştirmesine olanak tanıyor. Bu çok adımlı bellek yeniden yapılandırma süreci, büyük dil modellerinin (LLM) akıl yürütme sürecine entegre ediliyor. MRAgent, diğer ajan bellek yönetimi yaklaşımlarına kıyasla belirgin şekilde daha az token tüketimi ve çalışma süresi maliyeti sağlıyor. Geleneksel veri getirme sistemlerinde, belgeler vektör araması veya grafik geçişi yoluyla alınır ve akıl yürütme için LLM'ye iletilir. Ancak bu pasif yaklaşım, akıl yürütmeyi bellek erişimiyle birleştiremediği için üç ana darboğaza neden oluyor: Bu sistemler, akıl yürütme sırasında getirme stratejilerini revize edemezler. Bir ajanın bir belge alıp kritik bir eksiklik fark etmesi durumunda (belirli bir tarih veya kişi gibi), bu bulguya dayanarak yeni bir sorgu yayınlamanın bir yolu yoktur. Sabit benzerlik skorları ve önceden tanımlanmış grafik genişlemeleri, LLM'nin bağlam penceresini alakasız gürültüyle dolduran yüzeyel eşleşmeler döndürerek akıl yürütmeyi bozmaktadır. Mevcut sistemler, önde gelen sonuçlar ve statik alaka fonksiyonları gibi önceden oluşturulmuş yapılara büyük ölçüde güvenmekte, bu da öngörülemeyen, uzun vadeli kullanıcı etkileşimlerinde ölçeklenmek için gereken esnekliği sınırlamaktadır. Araştırmacılar, bu sınırlamaların üstesinden gelmek için geliştiricilerin 'aktif ve ilişkisel yeniden yapılandırma süreci'ne geçmesi gerektiğini savunuyor; bu kavram bilişsel nörobilimden esinlenmiştir. Bu paradigma altında, bellek geri çağırma, statik bir veritabanının pasif bir okuması olarak işlemek yerine sıralı olarak gelişir. Sistem, kullanıcı komut dosyasından küçük, belirli tetikleyicilerle başlar; örneğin bir kişinin adı, bir eylem veya bir yer. Bu ilk ipuçları, devasa metin blokları yerine birbirine bağlanan kavramları veya kategorileri işaret eder. Bu meta veri basamaklarını izleyerek, ajan tek tek küçük kanıt parçaları toplar. Tam, doğru hikayeyi başarıyla bir araya getirene kadar bir sonraki adımı yönlendirmek için her yeni bilgi parçasını kullanır. MRAgent, aktif bellek yeniden yapılandırmasını nasıl uygular Statik bir veritabanı olarak belleğe bakmak yerine, MRAgent (LLM Ajanları için Bellek Akıl Yürütme Mimarisi), onu etkileşimli bir ortam olarak ele alır. Karmaşık bir sorguyu işlerken, ajan 'kullanır'.