OpenAI сообщила о пользователе ChatGPT в ФБР после угроз бывшей девушке

OpenAI отправила в ФБР экстренное предупреждение о пользователе ChatGPT, который неоднократно писал об убийстве бывшей девушки и описывал возможные сценарии нападения. Федеральное ведомство передало информацию местным правоохранителям во Флориде. Мужчину позже арестовали, Goldman Sachs уволила его, а в августе суд назначил восемь лет испытательного срока.

Речь идёт о 25-летнем Даррене Чжоу, бывшем финансовом аналитике Goldman Sachs в Уэст-Палм-Бич. Судебные материалы, которые цитируют американские и международные СМИ, содержат повторяющиеся угрозы бывшей девушке, описание слежки за ее распорядком и сценарий убийства с последующим самоубийством. В экстренном уведомлении OpenAI также фигурировали утверждения самого Чжоу о том, что он приобрёл несколько единиц оружия.

Публичные документы подтверждают, что Чжоу рассказывал ChatGPT о якобы купленном оружии, а не сам факт такой покупки. Более поздние публикации приводят позицию защиты, что настоящего оружия у него не было.

В материалах об аресте указано, что местные правоохранители получили информацию от ФБР после экстренного предупреждения OpenAI/ChatGPT. В нем сообщалось, что пользователь неоднократно описывал намерение напасть на бывшую девушку или убить ее.

Доступные материалы подтверждают экстренное предупреждение компании о переписке с агентом на тему убийства. Позже сотрудник офиса шерифа округа Палм-Бич получил и изучил около двух месяцев журналов ChatGPT.

Переписка выходила далеко за пределы эмоционального разговора после расставания. В материалах дела описываются неоднократные угрозы убийством и сексуальным насилием, упоминания родственников девушки, сведения о ее расписании и местах, где ее можно найти. Один из сценариев предполагал встречу возле спортзала: Чжоу описывал вариант, при котором после отказа девушки он применит оружие против нее, а затем против себя.

Бывшая девушка также получала сообщения и звонки вне ChatGPT. Она рассказала следователям, что блокировала Чжоу, но контакты продолжались через номера, созданные с помощью приложений. Материалы, изученные полицией, поэтому состояли не из одной переписки с нейросетью. Следователи сопоставляли журналы ChatGPT с другими сообщениями и поведением мужчины.

Это делает случай существенно отличным от ситуации, когда человек единожды пишет чат-боту грубую или эмоциональную фразу.

Механизм таких уведомлений подробно описан самой OpenAI. Компания использует автоматические системы обнаружения потенциально опасной активности. Они анализируют содержимое и поведение пользователя с помощью классификаторов, рассуждающих моделей, сопоставления хешей, списков блокировки и других инструментов контроля.

После срабатывания автоматической системы отмеченный разговор может попасть к специально обученным сотрудникам. Они оценивают содержание сообщения, окружающий контекст и предыдущие признаки поведения. Доступ проверяющих к пользовательским данным, как утверждает OpenAI, ограничен и осуществляется внутри защищенных систем.

OpenAI установила довольно высокий публично заявленный порог. Компания пишет, что большинство нарушений заканчивается действиями внутри платформы — например, блокировкой аккаунта. Более серьезные случаи передаются на углубленную проверку. Если разговор указывает на достоверную и непосредственную угрозу причинения вреда другим людям, OpenAI уведомляет правоохранительные органы.

При оценке учитывается общий контекст. Компания отдельно уточняет, что человек может прямо не перечислять цель, средства и точное время предполагаемого нападения, но совокупность признаков все равно способна указывать на реальную опасность.

История Чжоу хорошо укладывается в этот механизм: в деле фигурируют конкретная жертва, повторяющиеся угрозы, отслеживание ее распорядка дня, описание возможного нападения и заявления о доступе к оружию.

С точки зрения доступа самого оператора сервиса — считать чат недоступным OpenAI было бы ошибкой. Официальное описание системы безопасности сообщает, что отмеченные автоматикой разговоры могут проверять сотрудники. OpenAI также пишет, что системы анализируют пользовательский контент и поведение для обнаружения нарушений и потенциально опасной активности.

Первичное обнаружение выполняется автоматически, а проверка сотрудником применяется к отмеченным системой случаям. OpenAI заявляет, что особо серьёзные ситуации составляют ограниченную часть таких проверок.

Настройка «Улучшать модель для всех» регулирует использование разговоров для совершенствования моделей. После ее отключения обычные чаты сохраняются в истории, но не используются для обучения ChatGPT. Это отдельный механизм от контроля за злоупотреблениями.

Особенно хорошо разница видна на примере временных чатов. OpenAI пишет, что они не используются для обучения, не появляются в обычной истории и не создают воспоминаний. Копия такого разговора при этом может храниться до 30 дней из соображений безопасности. В справке также указано, что временные чаты могут проверяться для выявления злоупотреблений.

Данные попадают к правоохранителям двумя путями:

• OpenAI сама обнаруживает серьезную угрозу. Компания пишет, что уведомляет правоохранителей, когда после проверки видит достоверный и непосредственный риск причинения вреда другому человеку.

• Государственный орган сам запрашивает данные OpenAI. Для американских ведомств компания обычно требует юридически действительное основание. Действующая с 1 января 2026 года политика перечисляет повестки, судебные постановления и ордера в зависимости от категории запрашиваемой информации. Содержание пользовательских сообщений раскрывается в ответ на соответствующий юридический процесс с учётом предусмотренных законом исключений.

Отдельное исключение предусмотрено для чрезвычайных ситуаций, связанных с опасностью смерти или тяжкого вреда здоровью. Такие случаи OpenAI оценивает отдельно.

Чжоу арестовали в мае 2026 года. После двух дней в тюрьме округа он вышел под залог в $100 тыс. Goldman Sachs сообщила Futurism, что уволила сотрудника после того, как узнала о ситуации в начале июня.

13 августа 2026 года Чжоу заключил соглашение с прокуратурой и признал вину по трём пунктам дела. Суд назначил ему восемь лет испытательного срока. Первые два года предусмотрен электронный контроль с помощью браслета. Среди условий также значатся запрет контакта с бывшей девушкой, запрет оружия, алкоголя и наркотиков, оценка психического состояния и прохождение специальной коррекционной программы.

Судья Скотт Сускауэр принял соглашение, при этом публичные материалы указывают, что позиция пострадавшей была одним из факторов, повлиявших на решение.