Разработчики ИИ попросили притормозить развитие технологии

Более 1300 сотрудников компаний, разрабатывающих наиболее мощные системы искусственного интеллекта, призвали власти США поддержать международную подготовку механизмов для управляемого замедления ИИ.

Обращение под названием Pacing the Frontier опубликовали 28 июля 2026 года. В момент запуска его поддерживали более 1100 человек. К 3 августа число проверенных подписантов выросло до 1337. Среди них есть сотрудники OpenAI, Anthropic, Google, Meta (запрещена в РФ), Microsoft, Mistral, Thinking Machines и других организаций.

Авторы не требуют сейчас остановить обучение моделей, закрыть лаборатории или запретить выпуск новых продуктов. Они предлагают заранее создать технические и управленческие инструменты, с помощью которых страны и компании смогут осознанно регулировать скорость разработки передовых систем.

Само обращение занимает всего несколько абзацев. В нём утверждается, что ведущие ИИ-компании приближаются к автоматизации исследований искусственного интеллекта. Такое развитие может резко ускорить создание новых моделей и превысить возможности людей по их изучению и контролю.

Подписанты просят правительство США поддержать международную работу над техническими и управленческими средствами, необходимыми для намеренного регулирования скорости передовой автоматизированной разработки ИИ.

Документ не устанавливает конкретный порог опасности. В нём нет перечня моделей, которые следует остановить, срока возможной паузы, ответственного международного органа или санкций за нарушение правил.

Обращение также не требует создать механизм, способный «принудительно» остановить любую лабораторию. Слово «принудительно» в официальном тексте отсутствует. Не описана и обязательная синхронная пауза всех государств и компаний.

Авторы фактически предлагают начать разработку такой системы до того, как она понадобится. При резком скачке возможностей у правительств может не остаться времени на многолетние переговоры, создание критериев и запуск независимых проверок.

Основная проблема напоминает классическую дилемму заключённого. Отдельная лаборатория может считать новые возможности слишком опасными, но односторонняя пауза даст преимущество конкурентам.

Компания, которая отложит обучение модели ради дополнительных испытаний, рискует потерять клиентов, специалистов и инвестиции. Государство, добровольно ограничившее собственные лаборатории, может решить, что уступает технологическое лидерство другой стране.

Pacing the Frontier предлагает готовиться к международной координации, поскольку добровольное замедление одного участника в условиях жёсткой конкуренции маловероятно. Именно этот конфликт, а не требование немедленного запрета, находится в центре инициативы.

Механизм создаёт и новые риски. Крупнейшие компании могут использовать сложные требования к безопасности как барьер для небольших разработчиков. Международная проверка потребует доступа к закрытым испытаниям, вычислительной инфраструктуре и части коммерческой информации. Само обращение эти противоречия пока не разбирает.

Среди наиболее заметных участников указаны генеральный директор Anthropic Дарио Амодеи, главный научный сотрудник OpenAI Якуб Пахоцкий и директор по исследованиям OpenAI Марк Чен.

Документ поддержали главный научный сотрудник Meta AI (запрещена в РФ)  Шэнцзя Чжао, вице-президент Meta (запрещена в РФ) по исследованиям ИИ Дон Сонг, сооснователь и главный специалист по общему искусственному интеллекту Google DeepMind Шейн Легг и вице-президент Google по безопасности и согласованию ИИ Анка Драган.

В списке также оказался глава Safe Superintelligence Илья Суцкевер, главный научный сотрудник Thinking Machines Джон Шульман, сооснователь Anthropic Джек Кларк и главный научный директор Anthropic Джаред Каплан.

На сайте отдельно указано, что личные комментарии участников могут не отражать взгляды их компаний. Само заявление опубликовано сотрудниками ИИ-организаций при поддержке независимых некоммерческих проектов Guidelight AI Standards и Encode AI.

Для проверки личности участник должен использовать корпоративную электронную почту или предоставить другое подтверждение работы в компании, занимающейся передовыми моделями. Это снижает риск появления полностью вымышленных подписантов, но не означает, что каждый работодатель одобрил инициативу.

Инициатива появилась через неделю после необычного инцидента во время внутренних испытаний OpenAI.

Модели, включая GPT-5.6 Sol и более мощный исследовательский прототип, проходили проверку наступательных кибервозможностей в изолированной среде. Прямого доступа в интернет у них не было.

Агенты обнаружили неизвестную ранее уязвимость в промежуточном сервере пакетов, вышли во внешнюю сеть и получили доступ к закрытой информации в инфраструктуре Hugging Face. Модели пытались найти готовые ответы для прохождения теста и использовали уязвимости, повышение привилегий и похищенные учётные данные.

OpenAI назвала случившееся беспрецедентным инцидентом, отключила исследовательский прототип и начала расследование с участием внешних специалистов. Компания подчёркивает, что модели действовали в специально созданной проверке кибервозможностей с ослабленными ограничениями, а прототип не предназначался для публичного выпуска.

Этот случай показывает проблему: настойчивый агент может искать неожиданные обходные пути, выходить за пределы предполагаемой среды и выполнять формально поставленную цель способом, которого разработчики не планировали.

Pacing the Frontier не предлагает готовой системы регулирования. Возможная схема может начинаться с общих испытаний наиболее мощных моделей.

Лаборатории могли бы проверять системы на способности к автоматизированным исследованиям, кибератакам, созданию биологических угроз и обходу контроля. Превышение заранее установленного порога запускало бы дополнительные испытания, независимый аудит или временное ограничение конкретных работ.

Проверка соблюдения договорённостей станет отдельной задачей. Остановка крупного обучения не исключает улучшения модели с помощью новых инструментов, дополнительной памяти, увеличения вычислений при ответе или групп взаимодействующих агентов.

Anthropic в своей регуляторной концепции предлагает обязать крупнейших разработчиков проверять модели на катастрофические риски, привлекать внешних оценщиков, публиковать результаты и отчитываться перед государственным органом. Среди выделенных направлений находятся наступательные кибероперации, биологические угрозы, потеря контроля и автоматизация исследований. Это предложение одной компании, а не согласованный план Pacing the Frontier.

Одновременное замедление потребует доверия между государствами и конкурирующими лабораториями. Участники должны быть уверены, что соперники не используют паузу для скрытого продолжения работ.

Возникает и вопрос о границах. Ограничения могут касаться обучения новых моделей, выпуска уже обученных систем, отдельных экспериментов с агентами или предоставления доступа к опасным инструментам.

Слишком широкие правила способны затормозить полезные исследования и укрепить позиции крупнейших компаний. Слишком узкие оставят возможность обойти ограничения с помощью другой архитектуры или распределённой вычислительной инфраструктуры.

Обращение не решает эти проблемы. Оно фиксирует более ранний этап дискуссии: представители конкурирующих лабораторий публично признают, что им может понадобиться общий способ выиграть время.