New APIღია წყაროს LLM გატე, რომელიც მრავალ AI მომწოდებლის API‑ებს აერთიანებს, უზრუნველყოფს რაუტინგს, გადახდებს და ანალიზს

4.3 (4)

შეფასებული Daniel Nikulshyn·განახლდა ივნისი, 2026

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

მიმოხილვა

New API არის ღია წყაროს LLM ხიდი, რომელიც უზრუნველყოფს ერთიანი ინტერფეისს მრავალ AI მოდელის პროვაიდერებთან კავშირებისთვის, მათ შორის OpenAI, Anthropic Claude და Google Gemini‑style APIs. ის მოქმედებს ცენტრალურ მართვის შრეად, რომელიც გუნდებს საშუალებას იძლევა მოთხოვნები პროვაიდერებს შორის გადამისამართება, წვდომის კონტროლი და გამოყენების მონიტორინგი ერთი ადგილიდან. პროექტის მიზანი არის დეველოპერები, პლატფორმის გუნდები და ორგანიზაციები, რომლებიც მასშტაბურად AI API‑ებს იყენებენ და ერთი gateway‑ს, თითოეული პროვაიდერის ცალკეული ინტეგრაციის მაგიერ, გნებავთ. OpenAI‑თან თავსებადური endpoints‑ების გაშვების გზით, ის საშუალებას აძლევს არსებული აპლიკაციებს და SDK‑ებს მრავალი backend‑თან მუშაობის, client code‑ის გადაწერით გარეშე. მიუხედავად საბაზისო პროქსიების, New API ფოკუსირდება ოპერაციულ საკითხებზე, როგორიცაა ტოკენზე დაფუძნებული კვოტები, ბილინგი და კრედიტის მართვა, მოთხოვნების აუდიტი და გამოყენების ანალიზი. ეს ფუნქციები მას შესაფერის ხდის შიდა AI პლატფორმების ასაშენებლად ან მრავალ მომხმარებლის/გუნდისთვის ხელმეორედ გაყიდვის/მეტრი-თვის წვდომის მართვაში. როგორც ღია-წყაროს და თვითჰოსტირებადი ხელსაწყო, ის ოპერატორებს კონტროლის იძლევა გაშვებისა და მონაცემთა ნაკადის შესახებ, რაც შეიძლება მნიშვნელოვანი იყოს ხარჯების მართვისა და შესაბამისობისთვის. იგი თავის თავს იმავე სივრცეში მოიცავს, როგორც სხვა API გეითვეები და აგერატორები, როგორიცაა LiteLLM და One API, რომელთაგანაც ის გამოიხმარება. როგორც უმრავლესობის საკუთარი ჰოსტით გეატვეებისთვის, New API‑ის მიღება ინფრასტრუქტურის დაყენებასა და მუდმივი მოვლას მოითხოვს, ხოლო მომწოდებლების მხარდაჭერის და სტაბილურობის ფართობა დამოკიდებულია საზოგადოების წვლილებზე.

ძირითადი ფუნქციები

ერთიანი მრავალ მომწოდებლის API გატე
OpenAI‑თან თავსებადი წერტილები
მოდელ მომწოდებლებს შორის მოთხოვნების რაუტინგი
ტოკენების კვოტები და გადახდის მართვა
გამოყენების ანალიტიკა და აუდიტი

ფასები

მოდელი: Freemium
კატეგორია: AI მოდელების სერვისის პლატფორმები
შეფასება: 4.3 / 5 (4)

გამოყენების შემთხვევები

მრავალ მომწოდებლის LLM წვდომის ერთიანება

მოთხოვნებს OpenAI‑, Claude‑სა და Gemini‑ს შორის ერთ API‑ის საშუალებით გადაგზავნის, რაც ინტეგრაციის მარტივობასა და ვენდორების ლಾಕ್‑ინს შემცირებს ინჟინერულ გუნდებისთვის.

კვოტების და გუნდის გადახდის მტკიცება

დააყენეთ თითო მომხმარებლის ან გუნდის კვოტები და თვალყურისდევნეთ გამოყენება შიდა გადახდებისთვის, რაც ორგანიზაციის მასშტაბით კონტროლირებადი LLM მოხმარებას საშუალებას გაძლევთ.

LLM მოხმარების აუდიტი და ანალიზი

გაიგზავნეთ დეტალური ჟურნალები და ანალიზი LLM მოთხოვნებზე, რაც დაეხმარება შესაბამისობის აუდიტებს, ხარჯების ოპტიმიზაციას და წარმადობის მონიტორინგს.

თვითჰოსტირებული AI ინფრასტრუქტურა

შეადგინეთ ღია წყარო გატე თქვენს კომპანიის შიგნით, რათა შეინარჩუნოთ მონაცემთა კონტროლი და მრავალ LLM მომწოდებლის ხელმისაწვდომობა სტანდარტიზირდეს.

დადებითი და უარყოფითი

დადებითი

ღია წყარო და თვითჰოსტებადი, რაც სრულ კონტროლის საშუალებას იძლევა
ერთ API‑ის ქვეშ მრავალი AI მომწოდებლის ერთიანება
შიგთავსი კვოტები, გადახდის და გამოყენების ანალიზი
აუდიტი და წვდომის მართვა მრავალმომხმარებლის კონფიგურაციებისთვის

უარყოფითი

საჭიროებს თვითჰოსტირებას და მუდმივ მოვლელს
ფუნქციონალის სიმდიდრე დამოკიდებულია საზოგადოების წვლილებზე
დოკუმენტაცია შეიძლება ახალი მომხმარებლებისთვის ნაკლებად იყოს

შეფასებები

4.3

საშუალო 4 შეფასებიდან.

შედი ანგარიშზე შეფასების დასატოვებლად.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

კითხვები

რა ოპერაციული ფუნქციებს New API აძლევს საბაზისო API პროქსირების მიღმა?

როუბინგის გარდა სხვადასხვა LLM პროვაიდერებისთვის, New API შეიცავს შიდა კვოტებს, ბილინგს, აუდიტს და გამოყენების ანალიზს, რაც მას ხდის შესაფერისი გუნდებისთვის, რომლებიც საჭიროებენ LLM მოხმარების ცენტრალიზებულად მართვанию, მონიტორინგს და კონტროლს.

Asked by Margaret Whitfield · May 25, 2025

რომელ LLM პროვაიდერებსა და API ფორმატებს უჭერს მხარე New API?

New API მოქმედებს როგორც ერთიანი კარიბჭე ძირითადი LLM API‑ებისთვის, მათ შორის OpenAI‑, Claude‑ და Gemini‑სტილის საბოლოო წერტილების მხარდაჭერით, რაც საშუალებას იძლევა მოთხოვნები გადაგზავნოთ მრავალ პროვაიდერზე ერთი კონსისტენტური ინტერფეისით.

Asked by Camille Laurent · May 21, 2025

New API‑ი უფასოა და შეიძლება თვით-ჰოსტინგი?

დიახ. New API ღია წყაროა, ამიტომ შეგიძლიათ თვით-ჰოსტოთ, უფასოდ. თქვენი მხოლოდ ხარჯები იქნება ინფრასტრუქტურა, რომლის վրա მისი გაშვება ხდება, და გამოყენების საფასური, რომელიც დარიცხება ზევარდის LLM მიმწოდებლებს.

Asked by Devin Walker · May 13, 2025