Последние новости: Промпт-инъекции

Исследователи описали новый тип обхода защитных фильтров в IDE-агентах: GitHub Copilot отказывается отвечать на вредные запросы в обычном чате, но может сгенерировать те же опасные ответы внутри файлов, тестовых данных и программного конвейера. Проблема не в одном «магическом» промпте, а …

Исследователи Noma Security показали новую атаку на GitHub Agentic Workflows — механизм GitHub для запуска ИИ-агентов внутри GitHub Actions. Сценарий назвали GitLost. Злоумышленнику не нужны украденные токены, доступ к организации или права на приватные репозитории. Достаточно открыть обычный Issue в …

Microsoft предупредила о риске утечки CI/CD-секретов через Claude Code GitHub Action. Один комментарий в GitHub мог заставить Claude Code прочитать секреты сборочного конвейера

OpenAI добавила Lockdown Mode в ChatGPT: что он отключает и кого это защитит

Злоумышленники начали использовать Google Ads и легитимные публичные чаты Claude.ai для атаки на пользователей macOS. Человек ищет в Google что-то вроде Claude mac download или Claude Code on Mac, видит рекламную ссылку, визуально связанную с настоящим доменом Claude.ai, открывает общий …

4 мая 2026 года в сети Base прошёл перевод 3 млрд DRB с адреса Bankr 1, связанного с Grok/Bankr, на адрес 0xE8E476...A686B. Команда была спрятана в посте на X азбукой Морзе: Grok расшифровал текст и вывел инструкцию для Bankrbot, а …

Исследователь показал, как GitHub-комментарии, issue и заголовки PR можно использовать для prompt injection против Claude Code, Gemini CLI Action и GitHub Copilot Agent. Атака позволяет вытаскивать токены и API-ключи из окружения.

38% запросов к AI-агентам, это атаки. Отчет Raxe.ai о реальности 2026 года Мы привыкли думать, что AI-агенты - это помощники.