MiniMax‑M1Отворено-код модел за голям мащабен разсъждение с контекст от 1 милион токена и хибридно архитектура Mixture-of-Experts.

MiniMax-M1 е отворен-звеждинен, голям мащабен модел разглобяване с биномична внимание. Той е осигурен от смесен Mixture-of-Experts (MoE) архитектура, комбинирана с бързо внимание механизам, което овластва ефективното мултиплициране на времето за изпълнение при тестването. Моделът нативно поддържа максимум дължина на контекст от 1 милион знаци и е обучен използвайки големи машини за обучение на съществуващи проблеми. В резултат, той надвишава постижението на други силни отворен-звеждинни модели в сложните задачи за софтуерна инженерия, използване на инструменти и дълги контексти. Експериментите на стандарта бенчмарков показват, че MiniMax-M1 изкачва над другите модели в категорийните задачи като математика, програмиране, софтуерен инжинiring, агентно ползване на инструменти и дълго контекстно разбиране. Моделът е особено подходящ за сложни задачи, които изискват обработка на дълги въвеждания и измишление на значителна мисъл. MiniMax-M1 представлява силна основа за следващите поколения агенти с езиков модел за разсъждение и решаване на реални проблеми. Съпоставянето на бенчмаркова изпълнителна способност между водещи комерцιάлни и отворени тежи модели сред различни категорични задачи подчертава изпълнителната способност на модела. Техническият доклад обогатява информацията за архитектурата на модела, тренировъчния протокол и резултатите от оценката.