Искусственный интеллект и угрозы безопасности

Apple Intelligence не устоял перед новой атакой: защитные барьеры обошли через prompt injection

Уязвимость в Claude Code позволяет обойти запрет на опасные команды. После утечки кода в Claude Code нашли новый способ обхода защитных ограничений

Anthropic изменила правила использования Claude: OpenClaw больше нельзя полноценно запускать в рамках обычной подписки. Пользователей переводят на API-оплату и дополнительные платные пакеты.

OpenAI открыла новую программу Safety Bug Bounty для сообщений о рисках злоупотребления и проблемах безопасного использования ИИ.

GitHub расширяет GitHub Code Security за счет ИИ-детекторов уязвимостей. Разбираем, как новая схема будет работать вместе с CodeQL, какие языки и экосистемы затронуты и что известно о сроках запуска.

В Google Threat Intelligence появился поиск угроз из дарквеба с помощью естесственного языка

Microsoft объяснила, как защищает генеративные ИИ-модели в Azure AI Foundry: проверка моделей, Zero Trust и изоляция данных

За две недели Claude Opus 4.6 нашёл в Firefox больше критичных уязвимостей, чем живые исследователи за месяцы. 14 из 22 оценены как высокой опасности. Одна получила CVSS 9.8.

ИИ-агент из 89 000 кандидатов находит владельца анонимного аккаунта за $4 и с точностью 90%. Исследователи из ETH Zurich и Anthropic доказали, что классические методы деанонимизации по сравнению с LLM набирают менее 5%.

ИИ-расширение Blackbox AI для VS Code (4,7 млн установок) содержит уязвимость инъекции промта: скрытая инструкция в PNG-файле приводит к root-доступу злоумышленника. Агент извинился, сделал файл исполняемым и запустил его от имени суперпользователя. ERNW два месяца не могла связаться с разработчиками.

Хакер обошёл защиту чат-бота Claude от Anthropic и использовал его для атак на госструктуры Мексики. За месяц похищено 150 ГБ данных, налоговые записи 195 миллионов граждан, списки избирателей и учётные данные чиновников. Anthropic заблокировала аккаунты, Мексика отрицает масштаб взлома.

Check Point нашёл три уязвимости в ИИ-помощнике Claude Code от Anthropic. Через подменённый файл настроек в репозитории злоумышленник мог выполнять команды на компьютере разработчика и красть API-ключи — без единого клика жертвы. Все проблемы уже исправлены.

Как хакер использовал нейросети для взлома межсетевых экранов FortiGate?

Ошибка в коде позволяла Copilot Chat обрабатывать конфиденциальные письма в обход DLP. Европарламент отключил ИИ на устройствах депутатов.

ChatGPT, Claude и Gemini создают пароли с энтропией 20–27 бит вместо 98. Хакерам хватит часов на подбор. Что использовать вместо нейросети.