MemGPTფრეიმვორკი, რომელიც LLM‑ებს გრძელვადიანი მეხსიერება და თვითმართვადი კონტექსტი უჩანს ფიქსირებული ტოკენ ლიმიტების მიღმა

MemGPT არის ღია წყაროანი ჩარჩო, რომელიც შექმნილია დიდი ენის მოდელების ძირითადი შეზღუდვების, განსაკუთრებით მათი ფიქსირებული კონტექსტის ფანჯრის, გადაჭრისთვის. UC Berkeley‑ის კვლევებიდან გამომდინარე, პროექტი შემოგთავაზა იდეას, რომ LLM‑ის შეზღუდული კონტექსტის დასათვლად როგორც ოპერაციული სისტემა მართავს შეზღუდულ ფიზიკურ მეხსიერებას, გვერდის (paging) და ჰიერარქიული მეხსიერების დონეების გამოყენებით, მოდელებს უფრო დიდ, მუდმივი მეხსიერების განცდა მისცენ. ძირითადი მიდგომა პირდაპირ ოპერაციული სისტემის დიზაინიდან აღებულია. MemGPT გაასხვავებს in‑context მეხსიერებას (ტოკენები, რომლებიც ამჟამად მოდელის პრომპტ‑ფანჯარაში არიან) და კონტექსტის გარეთ მდებარე გარე საცავებს. LLM‑ს თავად მიაწოდება ფუნქციების გამოძახების ინსტრუმენტები, რომლებიც საშუალებას აძლევენ ის განისაზღვროს, როცა ინფორმაცია გადაიტანს ამ დონეების შორის – მაგალითად, მნიშვნელოვანი ფაქტების შენახვა გრძელ‑მხოლოდ საცავში, შესაბამისი წარსული ინფორმაციის მიღება ან თავის ძირეულ მეხსიერების რედაქტირება. ეს თვითრედაქტირების ქცევა საშუალებას აძლევს აგენტებს შეინარჩუნონ თანმიმდევრული, დინამიურად განვითரும் მდგომარეობა გრძელი საუბრობებზე ან დოკუმენტებზე, რომლებიც შერწყმის კონტექსტის ფანჯრის ერთიანი ზომას գերազանցებს. ფრეიმვორთი მიზნად ისახავს დეველოპერებს, რომლებიც ქმნიან კონვერსაციულ აგენტებს, რომელსაც საჭიროებს მუდმივი მეხსიერება მომხმარებლებისა და წინა ურთიერთობების შესახებ, ასევე მათ, ვინც მუშაობს დოკუმენტების ანალიზზე იმ კოლექტორებზე, რომლებიც კონტექსტში ჩათვლას არ შეუძლიათ. მეხსიერების აღდგენ, არქივური საცავი და სამუშაო კონტექსტის მართვით, MemGPT აენერგებს აგენტებს, რომლებიც შეძლებენ მითითებებს დეტალებზე, რომლებიც Interaction‑ის ძვირფასია, გარეშე, რომ დეველოპერმა თითოეული შემთხვევისთვის ხელით შექმნას ძიების მექანიზმები. MemGPT მუშაობს როგორც საკუთრების მოდელებთან, მაგალითად OpenAI‑ისგან მოდელებთან, ისე ლოკალურად ჰოსტული ღია მოდელებთან, და ის ინტეგრირდება ვექტორული ბაზებთან და სხვა საცავის backend‑ებით, რათა მეხსიერება შეინარჩუნოს სესიებს შორის. პროექტი შემდგომში განვითარდა და ახლად ასოცირებულია Letta‑სთან, კომპანიასა და პლატფორმასთან, რომელიც განაგრძობს stateful‑agent კონცეფციების განვითარებას, სერვერისა და ხელსაწყოების შეთავაზებით ორიგინალური იდეების გარშემო. მისი ძირითადი სიძლიერეები კონცეფციური გამჭვირვალობა და konkreta, ხელახლა გამოყენებად შაბლონი გრძელვადიან მეხსიერებისთვის, რომელიც გადაჭარბებს მარტივად აღდგენით გაძლიერებულ გენერაციას. კომპრომისები ნორმალურია აგენტის ჩარჩოებისთვის: თვითწესების მეხსიერების ციკლი დიდად დამოკიდებულია მოდელის function‑calling საიმედობაზე, რაც შეიძლება varie პატარა ან ლოკალური მოდელებში, ხოლო დამატებითი მეხსიერების მართვის ნაბიჯები latency და token გადატვირთვას ზრდის. როგორც განვითარებადი ღია‑წყაროს პროექტი, მისი სახელები, API‑ები და გარშემო არსებული ეკოსისტემა დროთა განმავლობაში შეიცვალა, რაც დოკუმენტაციისა და ვერსიაციის დინამიკას ცვლად მიზანს ქმნის.