Последние новости: ИИ-агенты

Anthropic представила Claude Security — набор инструментов для защиты от атак, где уязвимости ищет и эксплуатирует сам ИИ. Компания фактически признала новый тренд: скорость атак уже сравнялась со скоростью их обнаружения.

Cisco открыла исходный код инструмента, который позволяет отслеживать происхождение ИИ-моделей и их компонентов — он показывает, из каких данных, зависимостей и сторонних моделей собран конкретный AI-сервис и помогает выявлять риски ещё до запуска в продакшене.

Gemini CLI доверял чужому коду и запускал команды: Google срочно закрыл критическую уязвимость

AI-агент сам запускает вредоносный код: в Cursor нашли критическую уязвимость через Git hooks

«Помощник» с правами DevOps: Cursor-агент с Claude стёр базу PocketOS и резервные копии через API Railway

Уязвимость в Claude Code позволяет обойти запрет на опасные команды. После утечки кода в Claude Code нашли новый способ обхода защитных ограничений

Anthropic изменила правила использования Claude: OpenClaw больше нельзя полноценно запускать в рамках обычной подписки. Пользователей переводят на API-оплату и дополнительные платные пакеты.

Claude Code, по сообщениям, раскрыл исходный код через source map

В Google Threat Intelligence появился поиск угроз из дарквеба с помощью естесственного языка

Впервые уязвимость с оценкой CVSS 9.8 обнаружил автономный ИИ-агент XBOW. Мартовский Patch Tuesday закрыл 83 уязвимости, включая две 0-day в SQL Server и .NET. Ни одна из них пока не использовалась в атаках.

Популярный протокол Anthropic для ИИ-агентов стал индустриальным стандартом, но пренебрег безопасностью. Глобальный аудит 8 000 серверов выявил критические уязвимости: от кражи ключей доступа к AWS до удаленного выполнения кода.

В профильном сообществе обсуждают заявление исследователя mufeedvh об обнаружении критических уязвимостей в React и Node.js с помощью ИИ-агентов.

Исследователи из Университета Олбани разрушили миф о том, что нейросети структурируют данные просто и линейно.

Ваш ИИ-помощник может стать идеальным шпионом, и вы даже не заметите подвоха. Microsoft опубликовала исследование нового класса атак, где злоумышленники не ломают код, а просто "просят" агента слить базу данных, спрятав инструкцию в обычном счете на оплату.