MiniMax‑M1Model rozumowania na dużą skalę o otwartym kodzie źródłowym z 1 milionem tokenów kontekstu i hybrydową architekturą Mixture-of-Experts.

MiniMax-M1 to otwarto-średnio model rozmyślania z hybrydowym uwagą, który jest oparty na hybrydowym arcydziele (Mixture-of-Experts - MoE), połączonym z łącznikiem uwagi migotliwym, co umożliwia efektywny skok obciążeń w przypadku obliczeń na czasie testowym. Model ten naturalnie obsługuje długość kontekstu wynoszącą milion tokenów i został zaoparty za pomocą dużą skalowalność uczenia się wzajemnego na różnorodne problemy. MiniMax-M1 wykazuje lepsze parametry niż inne silne o otwartych wagach modeli na złożonych zadanach programistycznych, korzystania ze toolów i zadań z długim kontekstem. Badania na standardowych punktach odniesienia wykazują, że MiniMax-M1 wyprzedza inne modeli w kategoriach zadań, takich jak matematyka, kodowanie, inżynieria oprogramowania, użycie narzędzi agendy oraz zrozumienie kontekstu długiego. Model znajduje się w szczególności wśród najlepszych do skomplikowanych zadań, których wymaga się do przetwarzania długich danych wejściowych, a także głębokiego myślenia. MiniMax-M1 działa jako mocna podstawa dla następnorodzinnych agentów modeli języka, by móc logicznie myśleć i radzić sobie z wyzwaniami codziennego świata. Porównanie wydajności benchmarkowej modeli komercyjnych oraz otwartych, o różnych kategoriach zadań, wskazuje na osiągnięcia modelu. Szczegółowa raport techniczny dostarcza informacji dotyczących architektury modelu, protokołu szkolenia i wyników ewaluacji.