Inkling получила 975 млрд параметров

Thinking Machines Lab, основанная бывшим техническим директором OpenAI Мирой Мурати, представила Inkling — первую собственную модель компании с открытыми весами. Релиз состоялся 15 июля 2026 года, почти через 17 месяцев после публичного запуска стартапа 18 февраля 2025 года.

Inkling построена по архитектуре смеси экспертов и содержит 975 млрд параметров, из которых при обработке каждого элемента входных данных задействуется около 41 млрд. Модель принимает текст, изображения и звук, поддерживает контекст до миллиона токенов и генерирует текстовые ответы. Предварительное обучение прошло на 45 трлн токенов, включавших тексты, картинки, аудиозаписи и видео.

Компания сразу предупреждает, что Inkling не является сильнейшей моделью на рынке. Разработчики сделали ставку на ровные возможности в разных дисциплинах, управляемые вычислительные затраты и последующую настройку под задачи компаний. Полные веса опубликованы на Hugging Face под лицензией Apache 2.0.

Inkling представляет собой 66-слойный декодирующий трансформер с разреженной смесью экспертов. Каждый специализированный слой содержит 256 распределяемых и два общих эксперта. Для одного токена маршрутизатор выбирает шесть специализированных модулей, а два общих работают постоянно.

Все 975 млрд весов приходится хранить в памяти, но в конкретном вычислении участвует лишь их часть. Это снижает стоимость обработки относительно плотной модели аналогичного размера, хотя не превращает Inkling в систему, которую можно запустить на обычной рабочей станции.

Inkling формально не достигает триллиона параметров, а открытые модели такого масштаба существовали раньше. К примеру, Kimi K2 получила один триллион общих и 32 млрд активных параметров ещё в 2025 году.

Главная архитектурная особенность Inkling связана с обработкой разных типов данных внутри общей модели. Компания называет этот подход архитектурой без отдельных энкодеров для звука и зрения. 

Аудиосигнал переводится в dMel-спектрограммы — компактное представление частотной структуры звука. Изображения делятся на участки размером 40 на 40 пикселей и проходят через четырёхслойный иерархический многослойный перцептрон. Получившиеся представления попадают в общее скрытое пространство и обрабатываются тем же декодером, который работает с текстом.

Модель принимает аудио в формате WAV с частотой дискретизации 16 кГц. Рекомендованная продолжительность одной записи ограничена 20 минутами. Изображения могут иметь произвольный растровый формат, оптимальный размер каждой стороны находится в диапазоне от 40 до 4096 пикселей. Выход пока остаётся только текстовым.

Видео использовалось при предварительном обучении, но среди доступных пользователю входных форматов в карточке релиза указаны только текст, изображения и аудио.

Максимальное контекстное окно Inkling достигает одного миллиона токенов. Такой объём позволяет помещать в запрос крупные репозитории, документы, длинные аудиозаписи и историю работы агента.

Облачная платформа Tinker на старте предлагает варианты на 64 тыс. и 256 тыс. токенов. Миллионный контекст относится к возможностям самой модели, но не означает, что каждый поставщик программного интерфейса уже обслуживает запросы такого размера.

Для длинного контекста разработчики чередуют локальное и глобальное внимание в пропорции пять к одному. Относительное кодирование позиции заменило распространённый механизм вращательных позиционных представлений. Авторы считают, что выбранная схема лучше переносится на последовательности, превышающие длину обучающих примеров.

Основные испытания проводились при максимальном усилии размышления 0,99 и температуре генерации 1. Для задач программирования предел всей траектории агента составлял 256 тыс. токенов. 

В SWE-bench Verified, где агент исправляет ошибки в настоящих программных репозиториях, Inkling получила 77,6%. Kimi K2.6 показала 80,2%, GLM 5.2 — 80%, GPT-5.6 Sol — 82,2%. При оценке Inkling использовалась внутренняя оболочка с доступом только к командной строке.

На Terminal Bench 2.1 результат составил 63,8%. Это выше 56,4% у Nemotron 3 Ultra, но ниже 71,3% у Kimi K2.6 и 82,7% у GLM 5.2. Запуски, в которых решение могло попасть в модель через веб-поиск, получили нулевую оценку.

Математический AIME 2026 модель прошла с результатом 97,1%. GLM 5.2 набрала 99,2%, а наиболее сильные закрытые системы в таблице приблизились к 99,9%. На текстовой версии Humanity’s Last Exam Inkling получила 29,7%, уступив Kimi K2.6 с 35,9%, GLM 5.2 с 40,1% и GPT-5.6 Sol с 47,2%.

Цифры подтверждают позиционирование разработчиков. Inkling не возглавляет таблицы по сложному программированию или общему рассуждению, но не проваливается в отдельных дисциплинах и сохраняет сопоставимый уровень на широком наборе задач.

В VoiceBench модель набрала 91,4%. Это выше 88,8% у Qwen3-Omni и 89,4% у Nemotron-3 Nano-Omni, но ниже 92,4% у Qwen3.5 Omni-Plus и 94,3% у Gemini 3.1 Pro.

На наборе MMAU, проверяющем понимание и рассуждение по аудиозаписям, результат достиг 77,2%. В Audio MC модель получила 56,6%. 

В рейтинге Agentic Web Dev проекта Design Arena пользователи вслепую сравнивают веб-приложения, созданные разными моделями. Inkling получила рейтинг 1257 и разделила позицию с Claude Opus 4.6. GPT-5.6 Sol находилась чуть выше с 1260 баллами, а Kimi K2.6 — ниже с 1249.

Inkling получила управляемый уровень вычислительных усилий. Разработчик может выбрать значение от 0,2 до 0,99 и менять соотношение между качеством, задержкой и количеством создаваемых токенов.

Способность управлять длиной рассуждения формировалась во время обучения с подкреплением. Для разных примеров команда меняла системные сообщения и стоимость каждого дополнительного токена. Модель постепенно научилась понимать, сколько вычислений от неё ждут в конкретном режиме.

Исходный контрольный набор BF16 требует не менее 2 Тбайт совокупной видеопамяти. Рекомендованные конфигурации включают восемь Nvidia B300 или 16 Nvidia H200.

Версия NVFP4 уменьшает требование примерно до 600 Гбайт. Её можно запустить на четырёх B300 в четырёхбитном режиме или на восьми H200 с четырёхбитными весами и 16-битными вычислениями. Полная локальная установка остаётся задачей для крупных компаний, облачных операторов и исследовательских центров.

Inkling обучалась на системах Nvidia GB300 NVL72. Для предварительного обучения использовался гибрид оптимизаторов Muon и Adam. Основная настройка после предварительного обучения проходила с подкреплением на задачах математики, программирования, работы с инструментами, изображений, звука, диалогов и безопасности.

Открытые веса не равнозначны полностью открытому процессу создания. Компания указывает, что данные происходили из общедоступных источников, материалов сторонних поставщиков и синтетических наборов, но не публикует полный перечень обучающих коллекций.

Оригинальные веса и NVFP4-сборка размещены на Hugging Face. Модель поддерживают SGLang, vLLM, TokenSpeed, Unsloth и Transformers.

Доступ через программный интерфейс открыли Together AI, Fireworks, Modal, Databricks и Baseten. Платформа Tinker позволяет работать с моделью, проверять её в интерактивной среде и запускать дополнительное обучение.

Лицензия Apache 2.0 разрешает коммерческое использование, изменение и распространение весов с соблюдением условий лицензии. Отдельная политика допустимого применения сохраняет ограничения на вредоносные сценарии.

Следующей моделью семейства должна стать Inkling-Small. Она содержит 276 млрд общих и 12 млрд активных параметров. Полные веса ещё не выпущены: компания заканчивает проверку модели и обещает опубликовать их позднее.

На части заданий младшая версия действительно приблизилась к старшей. В GPQA Diamond она получила 88,3% против 87,2% у Inkling, в MCP Atlas — 74,9% против 74,1%, а в CharXiv с Python — 83,4% против 82%.

Равенство не распространяется на все дисциплины. Terminal Bench дал младшей модели 52,7% против 63,8%, SimpleQA — 20,9% против 43,9%, а банковский сценарий Tau 3 — 13,6% против 23,7%.