Последние новости: Деанонимизация ИИ

OpenAI отправила в ФБР экстренное предупреждение о пользователе ChatGPT, который неоднократно писал об убийстве бывшей девушки и описывал возможные сценарии нападения. Федеральное ведомство передало информацию местным правоохранителям во Флориде. Мужчину позже арестовали, Goldman Sachs уволила его, а в августе суд …

Исследователи нашли способ извлекать содержимое зашифрованных блоков, в которых API Anthropic, OpenAI и Google сохраняли внутреннее состояние рассуждающих моделей между запросами. Атака позволяла переносить такой блок между сеансами и пользователями, а затем передавать его более слабой модели того же поставщика …

У разработчика небольшой игры Operation Octo возник неприятный вопрос к Google: откуда её поисковый ИИ узнал точное имя ещё не представленного персонажа, которое автор, как он утверждает, хранил только в закрытом Google Docs.

Еврокомиссия приняла два обязательных решения в отношении Google. Первое требует предоставить сторонним ИИ-ассистентам доступ к 11 группам функций Android, которыми уже пользуются сервисы Google. Второе устанавливает правила передачи обезличенных данных Google Search конкурирующим поисковикам и чат-ботам с поисковыми возможностями.

Инструмент Grok Build для работы с программным кодом передавал на серверы xAI целые репозитории вместе с историей изменений, даже когда агенту не требовалось изучать проект. Отдельный канал сохранял содержимое файлов, которые модель открывала во время задания, включая конфигурации с секретами.

Разработчик обнаружил в Claude Code скрытый механизм, который определял использование стороннего API-шлюза, искал признаки китайских ИИ-компаний и кодировал результаты проверки в системном промпте. Для передачи меток клиент менял почти неразличимые варианты апострофа и разделители в строке с текущей датой.

Вокруг Anthropic за день появилось сразу два слуха. Первый — компания якобы готовит Claude Sonnet 5, упоминания новой модели нашли в утечках и конфигурациях партнёрских платформ. Второй — возвращение Claude Fable 5 может пройти не по старым правилам: модель, которую …

ИИ-агент из 89 000 кандидатов находит владельца анонимного аккаунта за $4 и с точностью 90%. Исследователи из ETH Zurich и Anthropic доказали, что классические методы деанонимизации по сравнению с LLM набирают менее 5%.