Развёртывание открытых весов Mistral Large 4: лицензия, память, инструменты и управляемые агенты

1. Отделяйте публикацию весов 29 октября от прежней предварительной версии

Mistral опубликовала улучшенные веса Large 4 29 октября после публичной предварительной версии от 6 октября. В анонсе описаны дополнительное обучение с подкреплением и изменённое поведение рассуждений. Это разные этапы: доступность предварительного API раньше не означает, что тот же набор весов уже можно было скачать. Сохраняйте дату выпуска, время обращения к источнику и точный проверяемый артефакт.

Текущая карточка API по-прежнему помечает размещённую модель как Public Preview. Публикация весов сама не переводит все размещённые сервисы в общую доступность и не создаёт обязательств по бесперебойности. Изменяемый псевдоним API, исходная дата выпуска модели и скачанная ревизия тоже описывают разные вещи. Полезный реестр хранит их отдельно, а не заменяет всё одной датой.

Инженерный вопрос — что становится доступно, когда организация сама запускает модель, и что ей приходится обслуживать. Ниже отделены документированные возможности от предлагаемого нами устройства и критериев тестирования. Мы не скачивали веса, не арендовали ускорители, не вызывали платную модель и не измеряли выпуск в производственной нагрузке. Заявления поставщика о тестах не являются нашей приёмкой.

Источники раздела: Mistral: публикация улучшенных весов Large 4, 29 октября · Карточка API Mistral и статус предварительной версии

2. Прочитайте лицензию до выбора способа предоставления продукта

Выпуск использует Mistral Ecosystem Open-Weight License — изменённую MIT. Она предоставляет широкие права использования, изменения и распространения при выполнении условий. Сохранение уведомлений об авторских правах и разрешении остаётся частью текста. Название просто MIT или неограниченное открытое ПО скрывает сведения, необходимые до решения о способе предоставления продукта.

Особое условие относится к лицензиату или его аффилированным лицам, ведущим бизнес Model-as-a-Service. Для такой ситуации текст требует отдельную коммерческую лицензию до коммерческого использования. Определение охватывает доступ третьих лиц к инференсу или постобучению со значимым контролем над входами, параметрами или обучающими данными. Одно маркетинговое описание продукта этот вопрос не разрешает.

Определение исключает конечные продукты, где модель встроена только в конкретные функции или контуры выполнения, и простую пересылку запросов моделям, размещённым другими. Другая оговорка исключает из этого условия внутреннее использование без предоставления модели третьим лицам и доступ через официальные продукты Mistral. Эти уточнения столь же важны, как главное ограничение.

Для проверки развёртывания сохраните точный файл лицензии и ревизию. Опишите, кто запускает модель, кто получает доступ и чем управляет. Неясные схемы уточняйте у правообладателя до коммерческого запуска. Это изложение опубликованных границ, а не юридическое заключение о соответствии конкретного приложения исключению.

Источники раздела: Текст лицензии Mistral Ecosystem Open-Weight

3. Считайте память по всем весам, а не активным параметрам

Официальные карточки описывают примерно триллион общих параметров; карточка API указывает 1,05T. Карточка весов различает 49 млрд активных параметров на токен и 52 млрд с учётом входных представлений и выходных слоёв. Это смесь экспертов: активное число описывает вычислительный путь, а не обещает, что всему сервису потребуется только столько параметров в памяти.

Для прозрачной начальной оценки умножьте общее число параметров на идеальные байты веса. В таблице намеренно взяты округлённый 1T, десятичные единицы и нулевые накладные расходы. Это лишь арифметика: она не определяет минимум ускорителей, не доказывает поддержку произвольного квантования и не оценивает скорость на вашем оборудовании.

Реальная ёмкость включает масштабы и метаданные квантования, неквантованные компоненты, рабочие буферы, пространство обмена, репликацию и состояние внимания. Официальная карточка также указывает вариант NVFP4 для Blackwell. Это конкретный артефакт и аппаратный путь, а не доказательство сохранения качества любой четырёхбитной конверсией или работы на всех устройствах. Проверяйте именно выбранный формат.

Источники раздела: Официальная карточка весов Mistral: архитектура, рассуждения и обслуживание · Карточка API Mistral и статус предварительной версии

4. Контекст 1M и параллелизм — разные вопросы ёмкости

Документированное окно в миллион токенов — предел модели, а не обещание, что любая конфигурация обслужит такую длину с полезным параллелизмом. Один короткий запрос и множество длинных нагружают систему по-разному. Планирование должно задавать реальные длины входов, бюджет выхода, одновременные задания и допустимое ожидание в очереди.

Измеряйте отдельно подготовку промпта, предварительную обработку, задержку первого токена, генерацию и ожидание инструментов. Пользователь исследования репозитория видит весь путь. Привлекательная скорость после предварительной обработки не показывает, когда начнёт отвечать большой документ и как занятый сервис примет второй запрос.

Официальные заметки предлагают уменьшать контекст или параллелизм при нехватке памяти. Мы предлагаем матрицу коротких, обычных и длинных входов при возрастающей нагрузке. Записывайте память, процентили задержки, ошибки и качество. Задайте очередь или отказ до исчерпания ресурсов, а не принимайте всё в надежде на повторы.

Сокращение контекста тоже является продуктовым решением. Сохраните нужные инструкции, релевантные доказательства и прежние результаты инструментов, затем сравните ответ. Больший контекст расширяет охват, но повышает стоимость и приносит нерелевантные либо враждебные данные. Ни максимальная длина, ни попадание в кэш не гарантируют использования правильного доказательства.

Источники раздела: Официальная карточка весов Mistral: архитектура, рассуждения и обслуживание

5. Вызов функции предлагает действие, но не выполняет бизнес-операцию

Mistral документирует вызов функций и структурированный вывод. В примерах обслуживания различаются парсер инструментов и парсер рассуждений. Первый должен сохранять имя функции, аргументы и идентификаторы; второй — разделять рассуждения и пользовательский текст по нужным каналам. Приём привычной формы запроса не доказывает исправность ни одного из путей.

Начните с безвредного инструмента только для чтения. Проверьте разбор корректного вызова, явный отказ для ошибочных аргументов, сопоставление результата с вызовом и продолжение после ошибки инструмента. Если допускаете параллельные или повторные вызовы, проверьте и их. Ограничьте доступ к сырым трассам: промпты и результаты могут содержать конфиденциальные данные.

Приложение должно проверить аргументы, определить текущего пользователя и арендатора, проверить права, выполнить операцию и вернуть явный результат. Сгенерированный идентификатор счёта не даёт права пересекать границу арендаторов. Предложение об успехе не доказывает запись в базу, оплату или развёртывание.

До включения необратимого действия определите согласование и независимое подтверждение. Имена инструментов и JSON-схемы — договор об интерфейсе, а не полномочия. Это наши требования к интеграции, не автоматически предоставляемые свойства модели. Поиск только для чтения, предварительный просмотр изменения и окончательная операция требуют отдельных состояний и журналов.

Источники раздела: Официальная карточка весов Mistral: архитектура, рассуждения и обслуживание · Карточка API Mistral и статус предварительной версии

6. Зафиксируйте веса и режим рассуждений до сравнения результатов

Для улучшенной модели документированы low, medium и high; high выбран по умолчанию, low заменяет прежний none. Не выводите одинаковые задержки, расход токенов или поведение из неизменившегося имени. Записывайте режим вместе с ревизией весов, токенизатором, шаблоном, версией движка и настройкой парсеров.

Задайте фиксированные задания и общие правила приёмки до одновременного изменения нескольких переменных. Сравните обычные правки, неоднозначные запросы, длинные доказательства и ошибки инструментов. Более дешёвая успешная попытка полезна, но быстрая попытка с повторными исправлениями может расходовать больше ресурсов. Выбор модели относится ко всему процессу.

Сохраняйте предыдущий рабочий артефакт во время обновления. Храните конфигурацию каждого результата, чтобы воспроизвести регрессию. Улучшение поставщика в конкретном тесте — повод исследовать, а не разрешение ожидать такого же улучшения языка, репозитория или внутренней политики. Мы не воспроизводили тесты анонса.

Источники раздела: Mistral: публикация улучшенных весов Large 4, 29 октября · Официальная карточка весов Mistral: архитектура, рассуждения и обслуживание

7. Gemini API CLI показывает разницу состояния клиента и хранения на сервере

Google выпустила бета-клиент gemini-api 27 октября. Он вызывает API из оболочки, отличается от интерактивного Gemini CLI и может работать внутри другого агента программирования. Документация описывает явные идентификаторы, фоновые задания, структурированный вывод и медиафайлы на диске. Это варианты интеграции, не полный рабочий контур агента.

CLI называется stateless, поскольку команды не хранят скрытое локальное состояние процесса. Предыдущий идентификатор взаимодействия, URI загруженного файла или фонового задания явно задаёт продолжение. Вызывающая система всё равно сохраняет эти данные и решает, кто возобновит работу после перезапуска. Путь файла не засоряет контекст двоичными данными, но не означает, что содержимое никогда не отправлялось серверу.

Google также изменила хранение Generate Content по умолчанию для новых платных проектов с 26 октября. Старые проекты сохраняют прежнюю настройку. Поле store запроса приоритетнее настройки проекта; хранение Interactions поддерживает серверную историю. Поэтому клиент без состояния и сохранённое сервером взаимодействие совместимы. Проверяйте действующую политику журналов и реальный проект, а не исторический параметр.

Бета-руководство рекомендует закреплять выпуск, потому что совместимость может нарушаться и в малых версиях. Поддерживаются HTTP, SSE и опрос, но не двунаправленные WebSocket. Для реального времени используйте соответствующий интерфейс. Мы не запускали команды или API-примеры: сравниваем ответственность за состояние и транспорт, не утверждая, что все возможности Gemini появились только сейчас.

Источники раздела: Google: журнал обновлений Gemini API · Google: состояние, фоновые задания и ограничения Gemini API CLI · Google: журналы Gemini API, настройки хранения и сроки

8. Сравнивайте собственный инференс с приобретаемым управляемым уровнем

Текущая документация OpenAI Agents API описывает управляемый контур Codex: OpenAI ведёт сеансы, оркестрацию, сжатие контекста и восстановление; приложение предоставляет инструменты и выбирает среду исполнения. Это сравнение с документированным текущим сервисом, а не заявление, что всё перечисленное анонсировано 29 октября.

Такое распределение отличается от размещения весов за совместимым интерфейсом. Оно также не равно запуску SDK внутри своего приложения. Отдельно рассматривайте инференс, цикл агента, вычислительную среду и бизнес-интеграцию. Собственное размещение среды исполнения само не переносит управляемый контур и всё его состояние на ваши серверы.

Руководство описывает асинхронные циклы и предупреждает: простаивающий сеанс не доказывает успех, а завершённый цикл не гарантирует успех всех инструментов. Применяйте то же различие к своему агенту. Сохраняйте прогресс и проверяйте реальные результаты и артефакты до сообщения о завершении. Событие транспорта полезно, но продукту необходимо правило приёмки.

Источники раздела: OpenAI: обзор управляемого Agents API · OpenAI: сеансы, асинхронные циклы и восстановление

9. Отделяйте входные изображения от полноценного голосового продукта

Large 4 принимает текст и изображения и выдаёт текст. Это полезно для графиков, документов и визуального контекста программирования, но нативная мультимодальность не означает наличие телефонии, распознавания, синтеза и обработки перебиваний в самих весах. Проверяйте конкретные входные и выходные модальности, не расширяя маркетинговую формулировку на весь продукт.

Mistral представила Voxtral 3 20 октября как аудиосемейство и конвейер голосовых агентов. Журнал помечает четыре аудиомодели как Public Preview. Анонс описывает распознавание, рассуждающую модель с инструментами и синтез в потоковой системе. Это обновление из расширенного периода и другая архитектура, а не незаметно добавленная в файл Large 4 аудиофункция.

Для голосового процесса отдельно проверяйте конец реплики, перебивания, ошибки расшифровки, ожидание инструментов и устное подтверждение. Неправильно распознанный счёт может дать безупречно оформленный, но неверный вызов. Для каждой системы оцените согласие, сроки хранения записи и полномочия. Примеры задержки поставщика не устанавливают ваши сквозные задержки или договорный уровень сервиса.

Источники раздела: Официальная карточка весов Mistral: архитектура, рассуждения и обслуживание · Mistral: анонс Voxtral 3 от 20 октября · Mistral: предварительная версия Voxtral 3 и журнал API

10. Измеряйте стоимость принятой задачи и реальные границы данных

Mistral сообщает об улучшениях программирования и уменьшении токенов в определённых заданиях и условиях. Наш предлагаемый знаменатель — независимо принятые задачи: сложите модель, повторы, инструменты, вычисления, эксплуатацию и проверку, затем разделите на число результатов, прошедших согласованные критерии. Меньше выходных токенов само не доказывает меньшую полную стоимость.

Используйте фиксированные разрешённые задания с явным успехом: тесты пройдены, нужное поведение есть, посторонних изменений нет, доказательства подтверждают ответ, запрещённые данные не отправлены. Включайте нерешённые случаи. Разделяйте сбой исполнения, отказ модели, неверные аргументы и правдоподобный неправильный ответ. Общая частота ошибок скрывает нужное исправление.

Суверенитет данных тоже требует конкретных границ. Meta объявила поддержку пяти университетов США 28 октября; описанные медицинские проекты выполняются в институциональных средах без предоставления Meta данных пациентов и клинических данных. Это ограниченная исследовательская схема, не новый универсальный API и не обещание для всякого Muse. Она показывает важность точного места обработки и договорного охвата.

Учитывайте промпты, найденные документы, ответы инструментов, трассы, временные файлы, копии и внешние запросы. Локальные веса не мешают интеграции отправить доказательства другому сервису. Региональный endpoint не разрешает все вопросы хранения и дальнейшей передачи. Проверьте каждый фактический компонент, не заменяя карту данных одним словом о суверенитете.

Источники раздела: Mistral: публикация улучшенных весов Large 4, 29 октября · Meta: университетские исследования и границы данных, 28 октября · OpenAI: обзор управляемого Agents API

11. Внедряйте поэтапно, с постоянными записями и рабочим откатом

Начните с изолированной оценки только для чтения. Не меняйте производственный маршрут, пока кандидат не выполнит письменные критерии. Ниже предложен наш процесс выпуска, а не отчёт о проведённых тестах. Он намеренно проверяет и интеграцию вокруг модели, и генерируемый текст.

Прерванный запрос требует сверки. Приложение должно различать предложенный, согласованный, начатый, завершённый и неудачный инструмент. Для побочных эффектов храните постоянный идентификатор и подтверждение операции; смотрите запись до повторения неясного действия. Повтор инференса не равен повтору подтверждённой операции, а дедупликация сообщений поставщика не заменяет идемпотентность бизнеса.

Расширяйте трафик лишь после сравнения кандидата и базовой системы на одинаковой приёмке и нагрузке. Храните достаточные обезличенные доказательства без бессрочного хранения секретов. При регрессии возвращайте известную конфигурацию и сверяйте незавершённые задания. Открытые веса дают ещё один вариант развёртывания, полезный только при соответствии лицензии, ёмкости, исполнения и эксплуатации задаче.

1. Зафиксируйте лицензию, ревизию весов, квантование, токенизатор, движок и парсеры.
2. Проверьте инструменты чтения, структурированный вывод, разделение рассуждений и явные ошибки.
3. Измерьте короткие и длинные входы при типичном параллелизме, с очередями и нехваткой памяти.
4. Проверьте перезапуск, отмену, потерю ответа и повторную отправку на безвредных примерах.
5. Проверьте права арендаторов, согласования, внешние назначения данных, хранение и конечные подтверждения.
6. Запустите небольшую канарейку с порогами остановки; сохраните прежние артефакт и настройки, сверяйте задания до отката или повтора.

Источники раздела: Официальная карточка весов Mistral: архитектура, рассуждения и обслуживание · OpenAI: сеансы, асинхронные циклы и восстановление