AI Model Serving Platforms Yhteenotto — 5. maaliskuuta 2025

1

New API

Avoimen lähdekoodin LLM-yhdyskäytävä, joka yhdistää useiden AI-palveluntarjoajien API:t reitityksen, laskutuksen ja analytiikan avulla

4.3 (4)

Freemium

Koko arvostelu

New API on avoimen lähdekoodin LLM-yhdyskäytävä, joka tarjoaa yhtenäisen käyttöliittymän useiden AI-mallipalvelujen, kuten OpenAI:n, Anthropic Claude:n ja Google Gemini -tyylisten API:en, yhdistämiseen. Se toimii keskitettynä hallintakerroksena, jonka avulla tiimit voivat ohjata pyyntöjä eri palveluntarjoajien välillä, hallita pääsyä ja seurata käyttöä yhdestä paikasta. Projektin kohderyhmänä ovat kehittäjät, alustan tiimit ja organisaatiot, jotka käyttävät AI API:ita laajassa mittakaavassa ja haluavat yhden portaalin sen sijaan, että integroitaisivat jokaisen palveluntarjoajan erikseen. Tarjoamalla OpenAI-yhteensopivia endpointteja se mahdollistaa olemassa olevien sovellusten ja SDK:iden toimimisen useiden backendien kanssa ilman, että asiakaskoodia täytyy kirjoittaa uudelleen. Perusproxyn lisäksi New API keskittyy operatiivisiin näkökohtiin, kuten token‑pohjaisiin kiintiöihin, laskutukseen ja krediittien hallintaan, pyyntöjen auditointiin sekä käyttöanalytiikkaan. Nämä ominaisuudet tekevät siitä sopivan sisäisten AI‑alustojen rakentamiseen tai käyttöoikeuksien jälleenmyyntiin/mitoitukseen useille käyttäjille tai tiimeille. Open-source- ja itse isännöitävänä työkaluna se antaa operaattoreille hallinnan käyttöönottoon ja tietovirtaan, mikä voi olla tärkeää kustannusten hallinnan ja sääntöjen noudattamisen kannalta. Se sijoittuu samaan tilaan kuin muut API‑portaalit ja aggregaattorit, kuten LiteLLM ja One API, joista se on peräisin. Kuten useimmissa itse isännöidyissä gateway-ympäristöissä, New API:n käyttöönotto edellyttää infrastruktuurin pystyttämistä ja jatkuvaa ylläpitoa, ja tarjoajien tuen laajuus sekä vakaus riippuvat yhteisön panoksista.

• Yhtenäinen monipalveluntarjoajien API-yhdyskäytävä
• OpenAI-yhteensopivat päätepisteet
• Pyyntöjen reititys eri mallipalveluntarjoajien välillä
• Token-kiintiöt ja laskutuksen hallinta
• Käyttöanalytiikka ja auditointi

2

GLM‑4.5

Avoin lähdekoodi hybrid-reaaliointi MoE pohjatiedosto rakennettu agenteille, koodaukselle ja työkalutöille

4.5 (6)

Ilmainen

Koko arvostelu

GLM-4.5 on avoimen lähdekoodin suurenväestöllinen kieli malli, joka kehittänyt Zhipu AI (Z.ai):n GLM-malliperheen osana. Se käyttää sekoitus-asiantuntijoiden (MoE, Mixture-of-Experts) arkkitetuuria ja hybridirea johtamistapaa, josta malli voi "miettiä" vastausta ennen reagointia tai vastata suoraan, kohdistamalla siitä kyselee työkalupotiluutta, koodaamista ja työkalutoiminto. Malli tukee 128K-tahtien kontekstivilkkyys ja alkuperäistä työkalupuhelua. Malli on suunniteltu kehittäjille, joilla on tehtävä älykkäät agentit ja koodiavustimet. Malli esitteli "Interleaved Thinking "-käytännön, jossa malli perusteli vastauksensa ennen jokaista vastausta ja ohjelmakutsua. Myöhemmistä GLM-julkaisuja (GLM-4.6 ja GLM-4.7) laajensi tämän ominaisuuden, esimerkiksi Preserved Thinking- ja Turn-level Thinking -ominaisuuksilla. GLM-4.5 painottaa agenttiperustuvaa koodaamista, integroimalla mainstream agenttiympäristöihin ja kooditöölihin kuten Claude Code, Cline, Roo Code ja Kilo Code. GitHub-tilin varastoissa sijaitsee malli- ja havainnon lähteenä tarvikkeita, esimerkkejä, ja ohjeet, kun taas painot ovat avoinna itseomistajille tarjoamiseksi. API-toiminnallisuudet on tarjolla Z.ai API -Pohjana. Tällä hetkellä tilin sivulla löytyy myös esimerkkimalleja peräkkäisiä versioita GLM-4.6 ( laajentuneita konteksteja 200 000 sanoiä varten) ja GLM-4.7, ja ohuita, mutta tehokkaita 30B-A3B-variantteja (GLM-4.7-Flash), jotka tarjoavat tehokkaamman käyttöönoton. GLM-4.5 on avoimen lähdekoodin julkaisu, joka kilpailee muiten avointen mallejen kanssa, jotka on suunniteltu aktiiviseksi tekijäksi ja koodaukseen. Sen vahvuudet sijaitsevat työkaluiden käytössessa, päätöksenteon hallinnassa sekä avoimuudessa, vaikka ajaa suurta MoE-mallia paikallisesti edellyttää myös paljon varustettua laitetta, ja uudempia GLM-versioita ovat edelleen osoittautuneet kehittyneemmiksi benchmarkin tuloksissa.

• Mixture-of-Experts (MoE) -arkkitehtuuri
• Hybrid reaaliaiheiden yhdistäminen ajatus/ajatuston malleittain
• Perinteinen työkalujen kutsu-agentteille
• Poikkeavat ajatuksia ennen palautuksia ja palvelujen kutsuja
• 128K yhteyden muisti
• Agenttien koodausoptimointi

3

Jina AI

Monitietokuvauksellinen hakemisen perusta: upotukset, uudelleenarviointi ja RAG-putkitukset

4.2 (5)

Ilmainen

Koko arvostelu

Jina AI tarjoaa joukon perusmalleja ja API:ja, jotka on rakennettu hakua, haun ja monitilaista ymmärtämistä varten. Sen ydinpäästöt käsittävät teksti- ja kuvaupotukset, neurorijättäjät, nollasuurteiset luokittelijat ja työkalut hakuvahvistetun luomisen (RAG) työkalujen luomiseen suuressa mittakaavassa. Alusta on suunniteltu kehittäjille ja tiimille, jotka rakentavat hakukoneita, suositussysteemejä ja tekoälyavustajia, jotka tarvitsevat pääsylle tekstiin, kuviin ja rakenteistettuihin tietoihin. Mallit ovat saatavilla isännöidyistä API:sta ja avoimista lähdekoodin julkaisuista, joissa on monikielinen tuki ja pitkän kontekstin ominaisuudet suurten asiakirjojen käsittelyyn. Jina AI integroituu yleisiin vektortietokantoihin ja LLM-kehyksiin, mikä tekee siitä käytännöllisen rakennuspalikan tuotantovalmiille semanttisille hakujärjestelmille ja tietojen hakujärjestelmille.

• Teksti- ja kuva-upotusmallit
• Neuraalisen uudelleenarvioinnin API:t
• Nollatappio luokittelu
• Pitkäkontekstin asiakirjojen tuki
• Monikielinen hakeminen
• RAG- ja vektorigraafitietokantajärjestelmien integraatiot