Последние новости: ИИ‑агент

Подрядчик ошибся в настройке испытательного стенда. Модель воспользовалась уязвимостью реального сервиса, который не должен был попасть в область тестирования. Meta* (запрещена в РФ) пока не раскрывает пострадавшую организацию, характер внесённых изменений и возможный ущерб.

Специалисты Novee Security раскрыли несколько цепочек атак на инструменты программирования Claude Code, Gemini CLI и Codex. Исследователи проверяли сценарии автоматизации, работавшие в официальных репозиториях Anthropic, Google и OpenAI.

Исследователь Aikido Security Чарли Эриксен обнаружил в PyPI вредоносный пакет anthropickit, который может быть связан с недавним инцидентом во время испытаний Claude Mythos 5. Код собирал файлы из каталога .ssh, искал секреты в переменных окружения, сохранял результаты на диске и …

Alibaba выпустила Qwen3.8-Max — новую флагманскую модель семейства Qwen, рассчитанную на программирование, исследовательскую работу и длительные многоэтапные проекты. Система получила 2,4 трлн параметров, умеет анализировать текст, изображения и видео, а её контекстное окно вмещает до одного миллиона токенов.

Apple ограничила число новых отчётов об уязвимостях, которые один исследователь может одновременно держать открытыми в программе Apple Security Bounty. Решение приняли после резкого роста заявок, подготовленных с помощью больших языковых моделей. Часть таких материалов описывает настоящие ошибки, но в очередь …

Anthropic обнаружила три случая, когда модели Claude во время испытаний по кибербезопасности получили несанкционированный доступ к рабочим системам сторонних организаций. Модели считали, что выполняют задания внутри изолированного полигона, но тестовые машины по ошибке сохранили доступ в интернет.

В открытой платформе Ruflo обнаружили критическую уязвимость CVE-2026-59726. Она позволяла без авторизации выполнять команды внутри контейнера, красть ключи от ИИ-сервисов, запускать группы агентов за счёт владельца системы и подменять записи в их долговременной памяти.

OpenAI опубликовала исходный код Codex Security CLI — инструмента для поиска, проверки и исправления уязвимостей из командной строки. Вместе с CLI компания открыла TypeScript SDK, позволяющий запускать проверки из других приложений и внутренних инструментов.

JetBrains Research открыла исходный код KotlinLLM — исследовательского плагина для IntelliJ IDEA, который создаёт реализации функций по данным из работающего Kotlin/JVM-приложения. Плагин генерирует исходный код на Kotlin, компилирует его и заменяет соответствующий класс в запущенной JVM без полного перезапуска программы.

NVIDIA, Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Hugging Face и другие участники технологического рынка создали Open Secure AI Alliance. Объединение займётся разработкой открытых средств защиты моделей, программного обеспечения и ИИ-агентов.

Еврокомиссия приняла два обязательных решения в отношении Google. Первое требует предоставить сторонним ИИ-ассистентам доступ к 11 группам функций Android, которыми уже пользуются сервисы Google. Второе устанавливает правила передачи обезличенных данных Google Search конкурирующим поисковикам и чат-ботам с поисковыми возможностями.

Глава Anthropic Дарио Амодеи отверг обвинения в попытке запретить модели с открытыми весами ради защиты бизнеса Claude. Он признал пользу таких разработок, но предложил проверять наиболее мощные системы перед выпуском. Испытания должны затрагивать кибербезопасность, биологические угрозы и риск потери контроля …

OpenAI восстановила доступный объём использования ChatGPT Work и Codex для всех платных пользователей. Об этом 28 июля сообщил руководитель направления продуктов и платформы OpenAI Тибо Соттьо. Сброс касается оплачиваемых тарифов, но не превращает сервисы в безлимитные.

OpenAI устранила уязвимость AgentForger в конструкторе корпоративных агентов ChatGPT. Подготовленная ссылка могла запустить создание автономного агента от имени сотрудника, подключить ранее разрешённые рабочие сервисы и настроить регулярное получение команд через электронную почту. После первого перехода дальнейшие действия пользователя уже не …

Cursor запустил Router — систему автоматического выбора языковой модели для каждого запроса программного агента. Классификатор оценивает задачу, контекст проекта, сложность и предметную область, после чего направляет запрос подходящей модели.