Искусственный интеллект и угрозы безопасности

Ошибка в коде позволяла Copilot Chat обрабатывать конфиденциальные письма в обход DLP. Европарламент отключил ИИ на устройствах депутатов.

ChatGPT, Claude и Gemini создают пароли с энтропией 20–27 бит вместо 98. Хакерам хватит часов на подбор. Что использовать вместо нейросети.

Квартальный отчёт GTIG описывает, как группировки из КНДР, Ирана, Китая и России используют Gemini для разведки, фишинга и разработки вредоносного кода. Обнаружены массовые попытки дистилляции модели.

Популярный протокол Anthropic для ИИ-агентов стал индустриальным стандартом, но пренебрег безопасностью. Глобальный аудит 8 000 серверов выявил критические уязвимости: от кражи ключей доступа к AWS до удаленного выполнения кода.

Компания Anthropic представила обновлённую версию своей флагманской ИИ‑модели Claude Opus 4.6. Новинка переходит от роли чат‑бота к статусу автономного агента.

В профильном сообществе обсуждают заявление исследователя mufeedvh об обнаружении критических уязвимостей в React и Node.js с помощью ИИ-агентов.

Исследователи из Университета Олбани разрушили миф о том, что нейросети структурируют данные просто и линейно.

Критическая уязвимость в Clawdbot. Эксперимент Ethiack показал будущее кибербезопасности: автономный ИИ-пентестер Hackian всего за 1 час 40 минут нашел способ захватить контроль над популярным ассистентом Clawdbot (Moltbot).

Приватность дороже $300 млн: почему Дуров отказал Маску Весной 2025 года Telegram был в шаге от партнерства с xAI: интеграция помощника Grok могла принести мессенджеру сотни миллионов долларов инвестиций.

38% запросов к AI-агентам, это атаки. Отчет Raxe.ai о реальности 2026 года Мы привыкли думать, что AI-агенты - это помощники.

Хотели сделать вирусное видео с помощью AI, а скачали вирус? Новая кампания, раскрытая Morphisec, бьет по создателям контента.

Инструмент Husn Canaries предлагает использовать цифровые «канарейки» - скрытые маркеры, которые мгновенно сигнализируют службе безопасности, если интеллектуальная собственность компании попала в контекст ChatGPT, Claude или Copilot.

Ваш ИИ-помощник может стать идеальным шпионом, и вы даже не заметите подвоха. Microsoft опубликовала исследование нового класса атак, где злоумышленники не ломают код, а просто "просят" агента слить базу данных, спрятав инструкцию в обычном счете на оплату.

Что делать пентестеру в закрытом контуре, где нельзя использовать ChatGPT? Энтузиаст под ником Glass-Ant-6041 представил решение.

Google продолжает встраивать искусственный интеллект в защиту браузера, но теперь дает пользователям право выбора. Новая скрытая настройка позволяет полностью удалить локальные модели.