Προηγούμενη μάχη · 2024-12-22 UTC
Agent Development Αναμέτρηση — 22 Δεκεμβρίου 2024
Από την κατηγορία Agent Development. 15 βαθμοί τοποθετήθηκαν σε 4 μαχητές. Το Vocode πήρε το στέμμα.
Τελική κατάταξη
Η σύνθεση
Οι μαχητές
Προφίλ κάθε εργαλείου που διαγωνίστηκε σε αυτή τη μάχη, καταταγμένα με βάση την τελική τους βαθμολογία.
Vocode
Πλαίσιο ανοιχτού κώδικα για τη δημιουργία AI φωνής σε πραγματικό χρόνο από speech‑to‑text, LLM, και text‑to‑speech συστατικά.
Vocode είναι μια ανοιχτού κώδικα βιβλιοθήκη για την ανάπτυξη εφαρμογών AI συνομιλίας με φωνή. Παρέχει την υποδομή που χρειάζεται για να συνδέσει την αναγνώριση ομιλίας, το LLM και τη σύνθεση ομιλίας σε έναν ενιαίο, σε πραγματικό χρόνο σωλήνα, επιτρέποντας στους προγραμματιστές να δημιουργήσουν πράκτορες που μπορούν να ακούσουν, να αναλύσουν και να μιλήσουν μέσω τηλεφωνικών κλήσεων, web sockets ή τοπικού ήχου. Το framework κυρίως διανέμεται ως Python SDK, με έμφαση στο streaming audio ώστε οι συνομιλίες να νιώθουν ανταποκρινόμενες αντί για βασισμένες σε εναλλαγές με μεγάλες καθυστερήσεις. Διαχειρίζεται τις προκλήσεις ορχήστρωσης που καθιστούν δύσκολη τη δημιουργία voice agents από το μηδέν, όπως η διαχείριση διακοπών (barge‑in), buffering και streaming transcription, καθώς και τον συντονισμό του back‑and‑forth μεταξύ transcriber, agent logic, και synthesizer. Το Vocode έχει σχεδιαστεί ώστε να είναι modular και provider-agnostic. Ενσωματώνεται με μια σειρά τρίτων υπηρεσιών για κάθε φάση της pipeline — για παράδειγμα, παρόχους μεταγραφής όπως Deepgram και AssemblyAI, μοντέλα γλώσσας όπως αυτά από την OpenAI, και μηχανές κειμένου-σε-φωνή όπως ElevenLabs, Azure και άλλες. Οι προγραμματιστές μπορούν να αντικαθιστούν τα στοιχεία ανάλογα με το κόστος, την καθυστέρηση και τις απαιτήσεις ποιότητας φωνής. Ένα συνηθισμένο σενάριο χρήσης είναι η τηλεφωνία: το Vocode υποστηρίζει τη διεξαγωγή και λήψη τηλεφωνικών κλήσεων μέσω πάροχων όπως η Twilio, γεγονός που το καθιστά κατάλληλο για την ανάπτυξη αυτοματοποιημένων πράκτορων εξωτερικών και εσωτερικών κλήσεων, φωνητικών βοηθών και φωνητικών bot τηλεφώνου που απευθύνονται στους πελάτες. Επιπλέον, υποστηρίζει συνομιλίες μέσω του προγράμματος περιήγησης και τοπικού μικροφώνου για φωνητικές εμπειρίες εντός της εφαρμογής. Επειδή είναι open source και self-hostable, το Vocode ελκύει ομάδες που επιθυμούν έλεγχο πάνω στο stack τους και τη δυνατότητα προσαρμογής της συμπεριφοράς των agent, αντί να βασίζονται σε πλήρως διαχειρισμένη κλειστή πλατφόρμα. Η ανταλλαγή είναι ότι η δημιουργία agent φωνής με επίπεδο παραγωγής εξακολουθεί να απαιτεί εντοπισμό και πληρωμή για εξωτερικές υπηρεσίες μεταγραφής, LLM και TTS, καθώς και ρύθμιση καθυστέρησης και συνομιλητικής συμπεριφοράς. Βρίσκεται σε έναν αναπτυσσόμενο χώρο εργαλείων φωνητικών πράκτορων δίπλα σε διαχειριζόμενες πλατφόρμες και άλλα πλαίσια· ο κύριος διαφοροποιητικός παράγοντας του είναι η ανοιχτού κώδικα, σύνθετη προσέγγιση που δίνει στους προγραμματιστές άμεση πρόσβαση στα εσωτερικά του pipeline.
Κατανομή κριτηρίων
- Προσωρινή ροή pipeline φωνητικού πράκτορα σε πραγματικό χρόνο
- Ενσωματώσεις με πολλαπλούς παρόχους STT, LLM και TTS
- Υποστήριξη τηλεφώνου μέσω Twilio και παρόμοιων υπηρεσιών τηλεφωνίας
- Διαχείριση διακοπής (barge‑in)
- Python SDK για τη δημιουργία προσαρμοσμένων πράκτορων
- Υποστήριξη συνομιλιών μέσω περιηγητή και τοπικού μικροφώνου
MemGPT
Πλαίσιο που δίνει σε LLM μακροπρόθεσμη μνήμη και αυτο-διαχειριζόμενο πλαίσιο πέραν των σταθερών ορίων token
Το MemGPT είναι ένα ανοιχτού κώδικα πλαίσιο σχεδιασμένο ώστε να αντιμετωπίζει έναν από τους βασικούς περιορισμούς των μεγάλων μοντέλων γλώσσας: το σταθερό παράθυρο περιεχομένου τους. Προερχόμενο από έρευνα στο UC Berkeley, το έργο εισήγαγε την ιδέα ότι ο περιορισμένος χώρος context ενός LLM μπορεί να αντιμετωπίζεται όπως ένα λειτουργικό σύστημα διαχειρίζεται περιορισμένη φυσική μνήμη, χρησιμοποιώντας paging και ιεραρχικά επίπεδα μνήμης ώστε τα μοντέλα να έχουν την εμφάνιση μιας πολύ μεγαλύτερης, μόνιμης μνήμης. Η βασική προσέγγιση αντλεί απευθείας από τον σχεδιασμό λειτουργικών συστημάτων. Το MemGPT διακρίνει μεταξύ της *in‑context memory* (τα tokens που βρίσκονται στην τρέχουσα παραθυρο‑προτροπή του μοντέλου) και της εξωτερικής αποθήκευσης που βρίσκεται εκτός του συμφραζομένου. Το LLM λαμβάνει εργαλεία *function‑calling* που του επιτρέπουν να αποφασίζει πότε να μεταφέρει πληροφορίες μεταξύ αυτών των επιπέδων – για παράδειγμα, να αποθηκεύει σημαντικά δεδομένα στη μακροπρόθεσμη αποθήκευση, να ανακτά σχετικές παλαιές πληροφορίες ή να επεξεργάζεται τη δική του *core memory*. Αυτή η συμπεριφορά *self‑editing* επιτρέπει στους agents να διατηρούν συνεκτική, εξελισσόμενη κατάσταση κατά τη διάρκεια μακροπρόθεσμων συνομιλιών ή εγγράφων που υπερβαίνουν ένα μόνο παράθυρο συμφραζομένου. Το πλαίσιο απευθύνεται σε προγραμματιστές που δημιουργούν συνομιλητικούς πράκτορες που χρειάζονται μόνιμη μνήμη των χρηστών και των προηγούμενων αλληλεπιδράσεων, καθώς και σε εκείνους που εργάζονται στην ανάλυση εγγράφων πάνω σε συλλογές πολύ μεγάλες για να χωρέσουν στο πλαίσιο. Με τη διαχείριση μνήμης ανάκλησης, αποθηκευτικού αρχείου και λειτουργικού περιβάλλοντος, το MemGPT επιτρέπει στους πράκτορες να αναφέρουν λεπτομέρειες από πολύ νωρίτερα στο διάλογο χωρίς ο προγραμματιστής να χρειάζεται να σχεδιάζει χειροκίνητα κανάλια ανάκτησης για κάθε περίπτωση. Το MemGPT λειτουργεί τόσο με ιδιοκτησιακά μοντέλα, όπως αυτά της OpenAI, όσο και με ανοιχτά μοντέλα που φιλοξενούνται τοπικά, και ενσωματώνεται με vector databases και άλλα συστήματα αποθήκευσης για να διατηρεί τη μνήμη μεταξύ των συνεδριών. Το έργο εξελίχθηκε και συνδέεται στενά με την Letta, μια εταιρεία και πλατφόρμα που συνεχίζει την ανάπτυξη των βασικών stateful-agent concepts, προσφέροντας server και tooling γύρω από τις αρχικές ιδέες. Τα κύρια δυνατά σημεία του MemGPT είναι η εννοιολογική σαφήνεια και ένα συγκεκριμένο, επαναχρησιμοποιήσιμο μοτίβο για μακροπρόθεσμη μνήμη που υπερβαίνει την απλή ενίσχυση της δημιουργίας με ανάκτηση. Τα trade‑offs είναι τα τυπικά για πλαίσια εργασίας (agent frameworks): ο βρόχος αυτοσυντονισμού μνήμης βασίζεται έντονα στην αξιοπιστία της κλήσης λειτουργιών του μοντέλου, η οποία μπορεί να διαφέρει με μικρότερα ή τοπικά μοντέλα, ενώ τα πρόσθετα βήματα διαχείρισης μνήμης προσθέτουν καθυστέρηση και επιπλέον χρήση token. Ως εξελισσόμενο έργο ανοιχτού κώδικα, η ονοματολογία, οι API και το περιβάλλον του έχουν μεταβληθεί με την πάροδο του χρόνου, γεγονός που μπορεί να κάνει την τεκμηρίωση και τη διαχείριση εκδόσεων ένα συνεχώς μεταβαλλόμενο στόχο.
Κατανομή κριτηρίων
- Σταδιακή διαχείριση περιεχομένου και εξωτερικής μνήμης
- Αυτό-επεξεργασία βασικής μνήμης μέσω κλήσεων συναρτήσεων
- Αποθήκευση μνήμης αρχειοθέτησης και ανάκλησης
- Ενσωμάτωση βάσης διανυσμάτων για ανάκτηση
- Υποστήριξη πολλαπλών backends LLM
- Καταστάσιμοι συνομιλητές
Letta AI
Πλατφόρμα ανοιχτού κώδικα για τη δημιουργία stateful AI agents με μακροπρόθεσμη μνήμη και προηγμένη λογική.
Letta AI είναι μια ανοιχτού κώδικα πλατφόρμα σχεδιασμένη για τη δημιουργία κρατώντων AI agents. Αυτοί οι agents είναι εξοπλισμένοι με μακροπρόθεσμη μνήμη και προηγμένες δυνατότητες λογικής. Η πλατφόρμα επιτρέπει στους προγραμματιστές να δημιουργήσουν AI agents που μπορούν να διατηρήσουν μια μνήμη των προηγούμενων αλληλεπιδράσεων, επιτρέποντας πιο σύνθετες και ευαίσθητες διαδικασίες λήψης αποφάσεων. Αυτό είναι ιδιαίτερα χρήσιμο για εφαρμογές που απαιτούν agents να μαθαίνουν από εμπειρίες με την πάροδο του χρόνου και να προσαρμόζουν τις αποκρίσεις τους ανάλογα. Letta AI στοχεύει στους προγραμματιστές και ερευνητές που ενδιαφέρονται να δημιουργήσουν εξελιγμένους AI agents για διάφορες εφαρμογές, από εξυπηρέτηση πελατών έως πιο περίπλοκες εργασίες επίλυσης προβλημάτων. Παρέχοντας μακροπρόθεσμη μνήμη και προηγμένη λογική, Letta AI επιτρέπει την ανάπτυξη AI agents που μπορούν να διαχειριστούν ευρεία γκάμα εργασιών με υψηλότερο βαθμό αυτονομίας και νοημοσύνης.
Κατανομή κριτηρίων
- AI agents με κατάσταση
- Μακροπρόθεσμη μνήμη
- Προηγμένη λογική
mosaia
Ανοιχτή πλατφόρμα για τη δημιουργία, την κοινή χρήση και την ανάπτυξη AI agents συνεργατικά
Το Mosaia είναι μια πλατφόρμα που κινείται από την κοινότητα, σχεδιασμένη για την κατασκευή AI agents και εφαρμογών ανοιχτού κώδικα. Προσφέρει στους προγραμματιστές εργαλεία για τη δημιουργία, προσαρμογή και ανάπτυξη λύσεων AI, ενθαρρύνοντας τη συνεργασία και τη διαφάνεια μεταξύ των έργων. Η πλατφόρμα δίνει έμφαση στην ανοιχτότητα, επιτρέποντας στους χρήστες να μοιράζονται το έργο τους, να αναδιαμορφώνουν τους πράκτορες άλλων και να συμβάλλουν σε ένα αναπτυσσόμενο οικοσύστημα AI. Αυτή η προσέγγιση στοχεύει στη μείωση του φράγματος εισόδου για την ανάπτυξη AI, ενώ ενθαρρύνει την ανταλλαγή γνώσεων μεταξύ των δημιουργών. Είτε πρωτοτυπώνετε έναν ενιαίο πράκτορα είτε συνθέτετε μια πιο σύνθετη ροή εργασίας AI, το Mosaia προσφέρει την υποδομή και την κοινότητα για να υποστηρίξει επαναληπτική, ανοιχτή ανάπτυξη.
Κατανομή κριτηρίων
- Εργαλεία δημιουργίας AI agents
- Ανοιχτή κοινή χρήση και συνεργασία
- Marketplace βασισμένο στην κοινότητα
- Προσαρμόσιμες ροές εργασίας agents
- Πλατφόρμα με έμφαση σε προγραμματιστές
- Υποδομή ανάπτυξης