MemGPTLLMLer için uzun vadeli bellek ve öncesiz fonksiyon çağrımı sağlayan bir çerçevedir

MemGPT, büyük dil modellerinin temel bir kısıtlamasını gidermeye yönelik açık kaynaklı bir çerçevedir: sınırlı bağlama penceresi. Kaliforniya Üniversitesi Berkeley'den doğan projenin, işletim sistemi gibi fiziksel hafızayı sınırlı bir şekilde yönetirken sayfa ve hiyerarşik hafıza katmanlarını kullanarak bir modelin büyük, sürekli hafızaya sahip olma izlenimi vermek fikirlerini tanıttığı dile getirilmektedir. Ana approached trực olarak operasyonel sistem tasarımından türetilmiştir. MemGPT, modelin prompt penceresinde güncel olarak bulunan tokenleri (kontext içindeki bellek) ve kontekste dıştan tutulan verileri (dış depolama) arasında ayırır. LLM itself için işlev çağrımları sağlar ki, bunlarla bilgi arasında akışın ne zaman gerçekleşeceği hakkında karar verebilir — örneğin, önemlidir çünkü ömrü uzun olan faktleri uzun vadeli depolamaya kaydedebilir, ilgili geçmiş bilgilerin getirilebilmesi ya da kendi çekirdek belleğini düzenlemesi. Bu özdeksel davranış, agents'in uzun süreli sohbetler ya da belgelere yaygın olarak aşan tek bir kontext penceresi boyunca tutarlı ve gelişen durumlarını koruyabilmesi için izin verir. Çatı, kullanıcıların ve önceki etkileşimlerin kalıcı hatırlanmasından sorumlu olan konuşma ajanları oluşturan geliştiriciler ve büyük bağlamı doldurmayan veri kümelerinin incelenmesini işleyenlerin ihtiyaçlarına hitap etmektedir. Anı hatırlama belleği, arşiv depolama ve çalışma bağlamı yönetiminin sağlanmasına yardımcı olarak MemGPT, geliştiriciye her durumda yeniden Topluluk Kanalı alma.pipelineleri için el manual mühendisliği yapmasını gerektirmeden, daha önceki bir etkileşimden ayrıntıları referans olarak kullanan ajanlar oluşturmayı mümkün kılar. MemGPT, OpenAI'den gelen özdeş modeller ile yerel barındırılan açık modeller birlikte çalışır ve oturumlar arasında belleği sürdürebilmek için vektör veritabanları ve diğer depolama arkauçlarıyla entegre olur. Proje daha sonra evrim geçirir ve alt yapıda sahip devasa agent fikirleri ile Letta firması ve platformunun geliştirilmesine yakından bağlanırken, orijinal fikirlerin etrafında bir sunucu ve tooling sunulur. Ana güçleri kavramsal netlik ve uzun vadeli hatırlama içindi, yeniden kullanılabilir bir betimleme sunmasıdır. Naif geri çağırma-yeniden üretilen üretimden öte gitmektedir. Agent platformlarında tipik olmak üzere işlemlere göre değişen türetici güvenilirliğine bağlı olarak, kendini düzenleme bellek döngüsünün modellerin fonksiyon çağrılarının güvenilirliğine aşırı bağımlı olması, daha küçük ya da yerel modellerde ve ek bellek yönetimi adımlarının gecikme ve token üst limitini artırması gibi tavizler bulunmuştur. Gelişimini sürdüren açık kaynaklı bir proje olması sebebiyle, isimlendirilme, API'ler ve etrafı olan ekosistem zaman içinde değişmiş, belgeler ve sürümlemede belirlenen hedefler sürekli olarak değişmektedir.