Последние новости: Безопасность ИИ

Глава Anthropic Дарио Амодеи отверг обвинения в попытке запретить модели с открытыми весами ради защиты бизнеса Claude. Он признал пользу таких разработок, но предложил проверять наиболее мощные системы перед выпуском. Испытания должны затрагивать кибербезопасность, биологические угрозы и риск потери контроля …

OpenAI устранила уязвимость AgentForger в конструкторе корпоративных агентов ChatGPT. Подготовленная ссылка могла запустить создание автономного агента от имени сотрудника, подключить ранее разрешённые рабочие сервисы и настроить регулярное получение команд через электронную почту. После первого перехода дальнейшие действия пользователя уже не …

Некоторые пользователи ChatGPT смогли обойти защитные ограничения и получить пошаговые инструкции, связанные с ядами и биологическим оружием. Эксперты проверили часть переписок и признали отдельные ответы технически точными и способными привести к смертельным последствиям.

Исследователи проверили девять Python-скриптов, созданных ChatGPT, Microsoft Copilot и Google Gemini для обычных офисных задач. Claude Code обнаружил проблемы безопасности в каждом файле. Среди находок оказались подделка серверных запросов, обход ограничений файловой системы, внедрение данных в письма и атаки через …

Переход от помощника к оператору атаки описан в отчёте AI Security Report 2026, опубликованном Check Point Research 14 июля 2026 года. Документ охватывает события предыдущих 12 месяцев и объединяет данные расследований, сведения об известных инцидентах и телеметрию защитных продуктов компании. …

Исследователи Чжэцзянского университета представили Bit2Watt — метод управляемого изменения энергопотребления графических ускорителей, способный создавать помехи в системе электроснабжения дата-центра. Злоумышленнику в предложенной модели не требуется взламывать облачную платформу, получать права администратора или проникать в оборудование электросети. Он действует как обычный …

Платформа Hugging Face раскрыла данные о необычной кибератаке на свою рабочую инфраструктуру. Тысячи операций — от первоначального проникновения до кражи служебных данных и перемещения между внутренними системами — выполнила автономная группа агентов на базе искусственного интеллекта.

SpaceXAI опубликовала исходный код Grok Build — терминального ИИ-агента для разработки программного обеспечения. В открытый репозиторий попали полноэкранный текстовый интерфейс, среда выполнения агента, инструменты для работы с файлами и командной строкой, поддержка расширений, изоляция процессов и механизмы подключения к моделям.

Инструмент Grok Build для работы с программным кодом передавал на серверы xAI целые репозитории вместе с историей изменений, даже когда агенту не требовалось изучать проект. Отдельный канал сохранял содержимое файлов, которые модель открывала во время задания, включая конфигурации с секретами.

В России готовят дополнительные меры защиты информационных систем, использующих искусственный интеллект, облачные сервисы, большие данные и сети связи нового поколения. Тему вынесли на оперативное совещание Совета безопасности 10 июля 2026 года. Кремль раскрыл лишь формулировку повестки: участники разбирали угрозы информационной …

Исследователи описали новый тип обхода защитных фильтров в IDE-агентах: GitHub Copilot отказывается отвечать на вредные запросы в обычном чате, но может сгенерировать те же опасные ответы внутри файлов, тестовых данных и программного конвейера. Проблема не в одном «магическом» промпте, а …

Российскую платформу для киберучений «GIS-Киберарена для вузов» включили в Единый реестр отечественного программного обеспечения. Запись №34256 внесена в реестр Минцифры России, продукт отнесен к классу «12.17 Программное обеспечение для решения отраслевых задач в области образования». CNews сообщил о регистрации 8 …

OpenAI открыла общий доступ к GPT-5.6 — новой линейке моделей Sol, Terra и Luna. Sol стала флагманской моделью, Terra заняла средний уровень для повседневной работы, Luna получила роль самой быстрой и дешевой модели в семействе. Одновременно компания представила ChatGPT Work …

Alibaba запретит сотрудникам использовать Claude Code от Anthropic с 10 июля 2026 года. Инструмент для программирования на базе ИИ внесли во внутреннюю категорию высокорискового ПО, а разработчикам предложили перейти на Qoder — собственную платформу Alibaba для агентной разработки.

OpenAI готовит запуск новой линейки моделей GPT-5.6 — Sol, Terra и Luna. Релиз стартует завтра, 9 июля 2026 года, но это не массовое включение для всех аккаунтов ChatGPT. Компания уже открыла ограниченный предварительный доступ для выбранных организаций и партнёров, а …