Некоторые пользователи ChatGPT смогли обойти защитные ограничения и получить пошаговые инструкции, связанные с ядами и биологическим оружием. Эксперты проверили часть переписок и признали отдельные ответы технически точными и способными привести к смертельным последствиям.
OpenAI заблокировала выявленные учётные записи, но не передала сведения о них правоохранительным органам. В США нет общего федерального требования, которое обязывало бы разработчиков искусственного интеллекта сообщать властям обо всех запросах, связанных с изготовлением оружия или подготовкой нападений.
Такие данные приводит расследование The Wall Street Journal, опубликованное 26 июля 2026 года.
Сотни пользователей спрашивали ChatGPT о ядах
Рост числа опасных запросов начался после появления более мощных моделей ChatGPT летом 2025 года. Сотни пользователей из разных стран пытались выяснить, как изготовить яды, подготовить биологические агенты и применить их для причинения вреда.
Большая часть выявленных запросов касалась токсичных веществ. Часть пользователей интересовалась способами распространения возбудителей заболеваний через воздух. Другие спрашивали, можно ли изменить вирус кори так, чтобы существующая вакцина хуже защищала от него.
Ещё одна переписка была связана с рицином, крайне токсичным веществом растительного происхождения. Пользователь упомянул возможное убийство родителей, после чего чат-бот предоставил опасные сведения.
Опасные ответы получили не все пользователи
Сотни пользователей отправляли запрещённые запросы, но расследование говорит лишь о некоторых случаях, когда защитные механизмы пропустили их.
Сотрудники компании оценивали отдельные инструкции как достаточно простые для человека со школьной подготовкой по биологии. Приглашённые специалисты по биологии и противодействию терроризму изучили часть переписок и признали некоторые ответы технически точными.
Полные запросы, ответы и заключения экспертов не раскрыты. Публичные материалы также не позволяют установить, какая версия ChatGPT использовалась в каждом случае, сколько запросов система отклонила и сколько ответов действительно содержали практически применимые сведения.
Нет и подтверждений, что кто-либо из выявленных пользователей располагал оборудованием, материалами или знаниями для реализации полученных инструкций. Сведения о реальных попытках изготовить опасные вещества не приводятся.
Почему OpenAI не сообщила властям
Правила OpenAI запрещают использовать сервисы для разработки, приобретения и применения оружия, включая химические и биологические средства. Нарушение может привести к блокировке учётной записи даже при отсутствии доказанного плана нападения.
Компания использует автоматические средства обнаружения, классификаторы, списки запрещённых признаков и проверку подозрительных переписок специалистами. Блокировка и передача данных правоохранительным органам рассматриваются как разные меры.
Действующий порядок предусматривает уведомление властей, когда содержание переписки указывает на непосредственную и заслуживающую доверия угрозу другим людям. При оценке учитываются цель, доступные средства, сроки и поведение пользователя в нескольких диалогах. Эти правила описаны в официальном материале о защите пользователей ChatGPT.
Расследование не раскрывает, почему каждый конкретный случай не достиг порога для обращения к правоохранителям. Поэтому связывать решение исключительно с отсутствием федерального закона некорректно. Закон не обязывал компанию сообщать обо всех запросах, но и не запрещал добровольно передать сведения при выявлении реальной угрозы.
Отсутствие специальной обязанности для ИИ-компаний не означает, что разработка биологического оружия разрешена.
Раздел 175 главы 18 Кодекса США запрещает разработку, производство, накопление, передачу, приобретение и хранение биологических агентов, токсинов и средств их доставки для применения в качестве оружия. Ответственность предусмотрена за попытку, угрозу, сговор и помощь иностранному государству или организации.
Наказание за наиболее тяжёлые нарушения может достигать пожизненного заключения. Отдельная норма предусматривает до десяти лет лишения свободы за хранение биологического агента или токсина, если его вид и количество нельзя разумно объяснить защитными, медицинскими, исследовательскими или другими мирными целями.
Таким образом, правовой пробел относится к обязанностям цифровой платформы, а не к законности самого оружия.
Исходное утверждение о том, что рицин полностью запрещён международными договорами, требует уточнения.
Рицин является токсином, который содержится в семенах клещевины. Он включён в Список 1 Конвенции о химическом оружии. В этом перечне находятся вещества с высоким риском применения в запрещённых целях.
Организация по запрещению химического оружия указывает, что рицин и сакситоксин являются двумя природными токсинами, прямо включёнными в Список 1. Конвенция запрещает разработку, производство, накопление и применение таких веществ как оружия. Медицинское, защитное, фармацевтическое и исследовательское использование допускается в количествах, соответствующих заявленной мирной цели. Правовой режим разъяснён на сайте ОЗХО.
Рицин также подпадает под действие Конвенции о биологическом и токсинном оружии. Документ запрещает разработку, производство, приобретение, передачу, накопление и применение токсинного оружия. Основные положения опубликованы Управлением ООН по вопросам разоружения.
OpenAI заранее оценивала биориски GPT-5
В системной карте GPT-5 от 7 августа 2025 года модель gpt-5-thinking была отнесена к высокой категории возможностей в биологической и химической областях. Эта оценка не означала, что модель уже доказанно помогает неподготовленному человеку создавать биологическое оружие.
Разработчик указал, что окончательных доказательств такой способности не было. Высокую категорию присвоили как превентивную меру, позволившую включить усиленные средства защиты. Подробности приведены в системной карте GPT-5.
В июле 2026 года модели семейства GPT-5.6 Sol, Terra и Luna также получили высокий уровень биологических и химических возможностей. Этот уровень означает, что разработчик оценивает способность модели предоставить новичку существенную помощь при работе с известными опасными агентами. Он не равен подтверждению того, что модель способна самостоятельно создать оружие или устранить все практические ограничения лабораторной работы.
Защитная система рассчитана на многократные запросы. Компания исходит из того, что злоумышленнику потребуется длительная переписка, уточнение ошибок и помощь на нескольких этапах. Отказы, дополнительные проверки и блокировка аккаунта должны затруднить такой процесс.
9 июля 2026 года OpenAI расширила закрытую программу поиска уязвимостей в средствах биологической безопасности. Исследователи могут получить до 50 тысяч долларов за универсальный запрос, который преодолеет защиту моделей и позволит получить ответы на весь набор закрытых заданий.
Ранее максимальная награда составляла 25 тысяч долларов. После завершения проверки GPT-5.5 программа сосредоточится на GPT-5.6 и последующих моделях. Участники проходят отбор и подписывают соглашение о неразглашении. Условия размещены на странице Bio Bug Bounty.
Закрытый формат нужен из-за чувствительности материалов: публикация успешного способа обхода ограничений могла бы облегчить повторение атаки обычными пользователями.
Вопросы и ответы
ChatGPT действительно выдавал инструкции по биологическому оружию?
Некоторые пользователи получили пошаговые сведения, связанные с биологическими агентами и ядами. Эксперты признали часть ответов технически точной.
Опасные инструкции получили сотни человек?
Такого подтверждения нет. Сотни пользователей отправляли запрещённые запросы, но успешными оказались лишь некоторые из них.
Известно ли, какая модель отвечала пользователям?
Нет. Рост запросов связывают с усилением ChatGPT летом 2025 года, однако конкретная версия модели для каждого диалога не раскрыта.
Пользователь действительно собирался убить родителей?
В переписке присутствовало упоминание убийства родителей. Полный диалог не опубликован, поэтому подтвердить наличие конкретного плана нельзя.
Почему OpenAI не сообщила в полицию?
Федеральный закон США не обязывает ИИ-компании сообщать обо всех подобных запросах. Внутренние правила предусматривают обращение к властям при непосредственной и заслуживающей доверия угрозе.
Рицин запрещён международными договорами?
Запрещено его применение как оружия. Ограниченное использование в мирных исследованиях и защитных целях допускается под строгим контролем.
Есть новость? Станьте автором.
Мы сотрудничаем с независимыми исследователями и специалистами по кибербезопасности. Отправьте нам новость или предложите статью на рассмотрение редакции.
