Искусственный интеллект и угрозы безопасности

Исследователь показал, как GitHub-комментарии, issue и заголовки PR можно использовать для prompt injection против Claude Code, Gemini CLI Action и GitHub Copilot Agent. Атака позволяет вытаскивать токены и API-ключи из окружения.

Компания Anthropic представила новую версию своей флагманской модели — Claude Opus 4.7. Это самое мощное решение компании среди доступных пользователям, с акцентом на разработку, сложные задачи и безопасность.

OpenAI открывает доступ к киберфункциям, но только проверенным специалистам

OpenAI Codex помог исследователям получить root на Samsung Smart TV

Уязвимость в Claude Code позволяет обойти запрет на опасные команды. После утечки кода в Claude Code нашли новый способ обхода защитных ограничений

Anthropic изменила правила использования Claude: OpenClaw больше нельзя полноценно запускать в рамках обычной подписки. Пользователей переводят на API-оплату и дополнительные платные пакеты.

OpenAI открыла новую программу Safety Bug Bounty для сообщений о рисках злоупотребления и проблемах безопасного использования ИИ.

GitHub расширяет GitHub Code Security за счет ИИ-детекторов уязвимостей. Разбираем, как новая схема будет работать вместе с CodeQL, какие языки и экосистемы затронуты и что известно о сроках запуска.

В Google Threat Intelligence появился поиск угроз из дарквеба с помощью естесственного языка

Microsoft объяснила, как защищает генеративные ИИ-модели в Azure AI Foundry: проверка моделей, Zero Trust и изоляция данных

За две недели Claude Opus 4.6 нашёл в Firefox больше критичных уязвимостей, чем живые исследователи за месяцы. 14 из 22 оценены как высокой опасности. Одна получила CVSS 9.8.

ИИ-агент из 89 000 кандидатов находит владельца анонимного аккаунта за $4 и с точностью 90%. Исследователи из ETH Zurich и Anthropic доказали, что классические методы деанонимизации по сравнению с LLM набирают менее 5%.

ИИ-расширение Blackbox AI для VS Code (4,7 млн установок) содержит уязвимость инъекции промта: скрытая инструкция в PNG-файле приводит к root-доступу злоумышленника. Агент извинился, сделал файл исполняемым и запустил его от имени суперпользователя. ERNW два месяца не могла связаться с разработчиками.

Хакер обошёл защиту чат-бота Claude от Anthropic и использовал его для атак на госструктуры Мексики. За месяц похищено 150 ГБ данных, налоговые записи 195 миллионов граждан, списки избирателей и учётные данные чиновников. Anthropic заблокировала аккаунты, Мексика отрицает масштаб взлома.

Check Point нашёл три уязвимости в ИИ-помощнике Claude Code от Anthropic. Через подменённый файл настроек в репозитории злоумышленник мог выполнять команды на компьютере разработчика и красть API-ключи — без единого клика жертвы. Все проблемы уже исправлены.