На прошлой неделе Motif Technologies анонсировала свою новую модель Motif-2-12.7B‑Reasoning, которая уже успела установить рекорды производительности среди корейских AI-решений, обойдя ChatGPT 5.1 от OpenAI. Однако для корпоративных AI-команд более значимым является исследование, опубликованное на arXiv, в котором детально описывается процесс обучения модели и причины, по которым многие внутренние LLM-инициативы терпят неудачи.

Стартап выделяет четыре ключевых урока для успешного обучения корпоративных LLM. Во-первых, качество рассуждений зависит от структуры данных, а не от размера модели. Во-вторых, обучение на длинном контексте — это инфраструктурная задача, которая требует тщательного подхода. В-третьих, RL-донастройка требует фильтрации данных, иначе возникают проблемы с качеством. И, наконец, оптимизация памяти критически важна для достижения высоких результатов.

Motif-2-12.7B‑Reasoning позиционируется как конкурент более крупным моделям, подчеркивая важность прозрачности в процессе достижения таких результатов.