InclusionAI представила Ling-1T: мощная модель для эффективного рассуждения

Компания InclusionAI представила Ling-1T, первую модель, основанную на архитектуре Ling 2.0, специально разработанную для «эффективного рассуждения». Эта триллион-параметрическая модель MoE (Mixture of Experts) использует лишь около 5% нейронов для обработки каждого токена, что позволяет ей работать с контекстом до 128K токенов и применять FP8-обучение.

Ling-1T обучена на 20 триллионах токенов, из которых 40% составляют задачи, требующие рассуждений. Модель демонстрирует превосходство над GPT-5 и DeepSeek-V3 в кодовых бенчмарках, таких как mbpp и LiveCodeBench. В математических тестах AIME-2025 и Omni-Math она показывает прирост точности на 5-10%.

Кроме того, новая система LPO (Linguistic Policy Optimization) оптимизирует поведение модели, фокусируясь на смысловых предложениях, а не на токенах. Ling-1T способствует доказательству того, что масштаб и эффективность могут быть совместимы, позволяя обучать триллионные модели, которые рассуждают экономно и детерминированно.