Крупнейшие разработчики искусственного интеллекта сами попросили власти США жестче регулировать ИИ. Речь о конкурирующих OpenAI, Anthropic, Google DeepMind, Microsoft AI и Meta поддержали обязательную проверку заказов синтетических ДНК и РНК.
Заказ синтетических ДНК и РНК — это услуга, при которой лаборатория по цифровой последовательности изготавливает фрагмент генетического материала и отправляет его клиенту. Такие материалы нужны для медицины, фармацевтики и научных исследований, но без проверки заказчика и самой последовательности могут стать слабым местом в системе биобезопасности.
Отдельно Anthropic предложила дать государству право останавливать запуск самых мощных ИИ-моделей, если независимая проверка обнаружит риск тяжелых последствий. В центре обсуждения — модели, которые могут помогать в кибератаках, автоматизации исследований, проектировании биологических угроз и работе с опасными инструкциями.
Руководители и представители крупнейших ИИ-компаний подписали обращение к Конгрессу США. Они предлагают обязать продавцов синтетических ДНК и РНК проверять покупателей и сами заказы. Такие материалы используют в медицине, фармацевтике, биотехнологиях и научных лабораториях. Через них разрабатывают вакцины, тест-системы, терапевтические решения и исследовательские образцы.
Проблема в другой стороне ИИ-технологии. Если опасную последовательность можно заказать у коммерческого поставщика, ИИ снижает порог входа для злоумышленника. Раньше для такой работы требовались глубокие знания биологии, доступ к специалистам и лабораторная школа. Современная модель может помочь с поиском подходов, подготовкой запроса, анализом публикаций и избежанием типичных ошибок новичка.
Предложение простое: продавцы должны проверять последовательности на опасные фрагменты, подтверждать легитимность заказчика и хранить записи о сделках. Сейчас часть отрасли делает это добровольно, но единых обязательных правил для всех игроков нет.
ИИ-модели уже умеют работать с научными текстами, кодом, лабораторными протоколами и базами данных. Их используют для поиска гипотез, обработки статей, анализа белков и проектирования молекул.
Anthropic пошла дальше темы биобезопасности. Компания опубликовала отдельный пакет предложений по регулированию самых мощных ИИ-систем. В нем есть несколько ключевых пунктов: независимое тестирование моделей, раскрытие важной информации регуляторам, стандарты безопасности и право государства блокировать или сдерживать запуск опасной системы.
Глава Anthropic Дарио Амодеи сравнивает такой подход с авиацией. Самолет не выпускают в рейс только потому, что производитель уверен в расчетах. Машина проходит проверки, сертификацию и получает допуск. Компания предлагает похожую логику для передовых ИИ-моделей.
Под передовыми здесь понимаются не все модели подряд, а системы на верхней границе возможностей рынка. Такие модели могут писать код, автоматизировать сложные задачи, работать с инструментами, планировать многошаговые действия и помогать пользователю в узких технических областях.
Ключевая идея — государство должно иметь право вмешательства. Не бесконечный ручной контроль каждого релиза, а возможность остановить запуск, если модель не проходит независимый тест по критичным рискам.
OpenAI участвует в письме о проверке заказов синтетических ДНК и РНК. Компания уже развивает направление биозащиты и публиковала материалы о применении ИИ в этой сфере.
Конгресс США может использовать письмо как аргумент в пользу закона о проверке заказов синтетических нуклеиновых кислот. У таких инициатив есть практическое преимущество: они не требуют разбираться во всех сценариях развития ИИ. Законодателю достаточно закрыть конкретную точку риска — продажу опасного генетического материала без обязательной проверки.
Идея Anthropic о блокировке опасных ИИ-моделей сложнее. Там придется определить, какие системы попадают под надзор, кто имеет право тестировать модели, какие результаты считаются провалом и как избежать превращения проверки в тормоз для безопасных исследований.
Есть новость? Станьте автором.
Мы сотрудничаем с независимыми исследователями и специалистами по кибербезопасности. Отправьте нам новость или предложите статью на рассмотрение редакции.
