Последние новости: Искусственный интеллект

Уязвимость в Claude Code позволяет обойти запрет на опасные команды. После утечки кода в Claude Code нашли новый способ обхода защитных ограничений

Anthropic изменила правила использования Claude: OpenClaw больше нельзя полноценно запускать в рамках обычной подписки. Пользователей переводят на API-оплату и дополнительные платные пакеты.

Исследователи DomainTools обнаружили вредоносное расширение ChatGPT Ad Blocker в Chrome Web Store. Под видом блокировки рекламы оно копировало переписки пользователей ChatGPT и отправляло их через Discord-вебхук. Рассказываем, как работала схема и что делать пользователям.

Исследователи BeyondTrust Phantom Labs обнаружили в OpenAI Codex уязвимость, которая позволяла через специально подготовленное имя ветки GitHub выполнять команды в контейнере агента и извлекать OAuth-токены. OpenAI уже исправила проблему, но история показала новые риски агентной разработки.

OpenAI открыла новую программу Safety Bug Bounty для сообщений о рисках злоупотребления и проблемах безопасного использования ИИ.

LiteLLM скомпрометировали через PyPI: вредоносные версии крали ключи и токены

В Google Threat Intelligence появился поиск угроз из дарквеба с помощью естесственного языка

Microsoft объяснила, как защищает генеративные ИИ-модели в Azure AI Foundry: проверка моделей, Zero Trust и изоляция данных

За две недели Claude Opus 4.6 нашёл в Firefox больше критичных уязвимостей, чем живые исследователи за месяцы. 14 из 22 оценены как высокой опасности. Одна получила CVSS 9.8.

ИИ-агент из 89 000 кандидатов находит владельца анонимного аккаунта за $4 и с точностью 90%. Исследователи из ETH Zurich и Anthropic доказали, что классические методы деанонимизации по сравнению с LLM набирают менее 5%.

ИИ-расширение Blackbox AI для VS Code (4,7 млн установок) содержит уязвимость инъекции промта: скрытая инструкция в PNG-файле приводит к root-доступу злоумышленника. Агент извинился, сделал файл исполняемым и запустил его от имени суперпользователя. ERNW два месяца не могла связаться с разработчиками.

Злоумышленник выложил полную базу ИИ-генератора звуков OptimizerAI, 118 тыс. записей, привязывающих Google-аккаунты к Discord-профилям, и 1,1 млн коммерческих аудиофайлов.

BI.ZONE обнаружила на командном сервере хактивистов Forbidden Hyena скрипты, созданные с помощью ИИ. Группировка атакует российские госорганы и компании, используя троян BlackReaperRAT и шифровальщик Milkyway. Пока доля ИИ-атак не превышает 1%, но тренд усиливается.

Mozilla выпустила Firefox 148 с переключателем для отключения всех ИИ-функций и закрыла 3 уязвимости с выходом из песочницы браузера.

Как хакер использовал нейросети для взлома межсетевых экранов FortiGate?