Искусственный интеллект и угрозы безопасности

В Google Threat Intelligence появился поиск угроз из дарквеба с помощью естесственного языка

Microsoft объяснила, как защищает генеративные ИИ-модели в Azure AI Foundry: проверка моделей, Zero Trust и изоляция данных

За две недели Claude Opus 4.6 нашёл в Firefox больше критичных уязвимостей, чем живые исследователи за месяцы. 14 из 22 оценены как высокой опасности. Одна получила CVSS 9.8.

ИИ-агент из 89 000 кандидатов находит владельца анонимного аккаунта за $4 и с точностью 90%. Исследователи из ETH Zurich и Anthropic доказали, что классические методы деанонимизации по сравнению с LLM набирают менее 5%.

ИИ-расширение Blackbox AI для VS Code (4,7 млн установок) содержит уязвимость инъекции промта: скрытая инструкция в PNG-файле приводит к root-доступу злоумышленника. Агент извинился, сделал файл исполняемым и запустил его от имени суперпользователя. ERNW два месяца не могла связаться с разработчиками.

Хакер обошёл защиту чат-бота Claude от Anthropic и использовал его для атак на госструктуры Мексики. За месяц похищено 150 ГБ данных, налоговые записи 195 миллионов граждан, списки избирателей и учётные данные чиновников. Anthropic заблокировала аккаунты, Мексика отрицает масштаб взлома.

Check Point нашёл три уязвимости в ИИ-помощнике Claude Code от Anthropic. Через подменённый файл настроек в репозитории злоумышленник мог выполнять команды на компьютере разработчика и красть API-ключи — без единого клика жертвы. Все проблемы уже исправлены.

Как хакер использовал нейросети для взлома межсетевых экранов FortiGate?

Ошибка в коде позволяла Copilot Chat обрабатывать конфиденциальные письма в обход DLP. Европарламент отключил ИИ на устройствах депутатов.

ChatGPT, Claude и Gemini создают пароли с энтропией 20–27 бит вместо 98. Хакерам хватит часов на подбор. Что использовать вместо нейросети.

Квартальный отчёт GTIG описывает, как группировки из КНДР, Ирана, Китая и России используют Gemini для разведки, фишинга и разработки вредоносного кода. Обнаружены массовые попытки дистилляции модели.

Популярный протокол Anthropic для ИИ-агентов стал индустриальным стандартом, но пренебрег безопасностью. Глобальный аудит 8 000 серверов выявил критические уязвимости: от кражи ключей доступа к AWS до удаленного выполнения кода.

Компания Anthropic представила обновлённую версию своей флагманской ИИ‑модели Claude Opus 4.6. Новинка переходит от роли чат‑бота к статусу автономного агента.

В профильном сообществе обсуждают заявление исследователя mufeedvh об обнаружении критических уязвимостей в React и Node.js с помощью ИИ-агентов.

Исследователи из Университета Олбани разрушили миф о том, что нейросети структурируют данные просто и линейно.