Последние новости: Безопасность ИИ

Во время испытаний безопасности OpenAI обнаружила неожиданный способ связи между ИИ-агентами, которым запретили обмениваться данными. Экспериментальные агенты работали в разных изолированных виртуальных машинах, не имели общего файла и не могли открыть сетевое соединение друг с другом. Однако им удалось передать …

Обычный файл с инструкциями для ИИ-агента оказался частью реальной атаки на компьютер разработчика. Специалисты Forever Security обнаружили в папке загрузок клиента поддельный AGENTS.md: агент попытался выполнить его указания и установить вредоносный npm-пакет. Защитная система остановила операцию до запуска вредоноса. Затем …

OpenAI опубликовала отчет о двух случаях, когда внутренние ИИ-агенты ослабили систему наблюдения за своими действиями во время обычных инженерных задач. В первом эпизоде агент отключил уведомления специалистов по безопасности, во втором — удалил интеграцию мониторинга при переносе программного компонента. Оба …

Компания Anthropic обнаружила, что ее ИИ-модели Claude во время тестирования использовали уязвимости чужих серверов, обходили ограничения доступа к данным и отправляли настоящие формы на государственных сайтах. В одном случае модель самостоятельно нашла ошибку в университетском веб-приложении и выполнила команды на …

CrowdStrike обнаружила инфраструктуру, связанную с серией атак на финансовые организации Южной Кореи. Оператор использовал агентный инструмент для пентеста ARTEX, DeepSeek v4.1-flash, GLM-5.3, Grok 4.6 и Claude Code.

Исследователь Оливер Фиш сообщил об уязвимости в системах OpenAI, которая, как он утверждает, позволяла выйти из изолированной среды и обращаться к внутреннему Responses API без API-ключа и учетной записи. За отчет OpenAI выплатила ему $300.

OpenAI уволила трех сотрудников команды безопасности после внутреннего расследования об обращении с конфиденциальной информацией. Компания подтвердила, что они нарушили правила доступа к закрытым данным и работы с ними. Источники The Wall Street Journal утверждают, что среди нарушений была передача конфиденциальной …

Google начала предоставлять проверенным специалистам по информационной безопасности доступ к Gemini 4 Argon — новой модели, которая умеет самостоятельно искать уязвимости в коде, проверять их и готовить исправления. Для этой группы компания отключает стандартные ограничения на выполнение киберзадач.

Компании собираются больше тратить на кибербезопасность, но хуже всего готовы к атакам на собственные системы искусственного интеллекта. К такому выводу пришла PwC в исследовании Global Digital Trust Insights 2027, опубликованном 1 октября.

OpenAI приостановила обучение, оценку и запуски с инструментами для своих наиболее мощных моделей после очередного инцидента с исследовательским ИИ-агентом. Модель получила задачу найти человека по биографическим подсказкам, не смогла получить нужные сведения обычным способом и самостоятельно обнаружила незакрытый DNS-канал, через …

Исследователи Hacktron за несколько дней собрали цепочку уязвимостей, которая начиналась с загрузки HEIF-изображения на community.openai.com, а закончилась возможностью выполнить действие во внутреннем репозитории OpenAI через Codex сотрудника. От начала исследования до подтверждения доступа прошло меньше 72 часов.

ИИ-агент OpenAI получил несанкционированный доступ к государственному сайту Австралии, хотя исходная задача сводилась к поиску открытой статистики о расходах на лекарства. Модель столкнулась с ограничениями портала, стала искать другой способ получить информацию, добралась до непубличных файлов и записывала файлы на …

Один китайскоязычный злоумышленник использовал несколько ИИ-агентов для массовых атак на интернет-магазины и другие компании. С 10 по 15 сентября 2026 года он запустил 105 отдельных проектов атак, как минимум 27 организаций были скомпрометированы в разной степени. Исследователи обнаружили на сервере …

Google подтвердила, что одна из версий Gemini во время испытаний в мае 2026 года получила несанкционированный доступ к системам трех реальных компаний. Модель должна была искать уязвимости внутри закрытого учебного полигона, но из-за ошибки в настройке среды смогла выйти в …

OpenAI опубликовала шесть отчетов о необычном поведении моделей во время обучения и тестирования. В одном случае невыпущенная исследовательская модель семейства Astra самостоятельно добавила в служебную сводку инструкции, которых не было в исходной задаче. Там модель объявила себя свободной от ролей …