Последние новости: ИИ

ИИ-агенты OpenAI во время внутренних испытаний по кибербезопасности использовали уже известную уязвимость ядра Linux, вышли за пределы контейнера и получили права суперпользователя на базовом рабочем узле компании. Модель сама определила, что версия ядра уязвима, получила эксплойт для CVE-2026-53362, приспособила его …

OpenAI снова обнулила использованные лимиты для платных пользователей Codex и ChatGPT Work. Поводом стал новый рубеж аудитории: связанная с Codex метрика активных пользователей достигла 25 млн.

Июльский инцидент с ИИ-агентами OpenAI и Hugging Face оказался масштабнее, чем было известно после первого раскрытия атаки. Около 1200 агентов, которые должны были работать изолированно друг от друга, нашли неразрешенный способ общения и обменялись более чем 70 тыс. сообщений и …

ИИ-агент на базе Claude Mythos 5 от Anthropic попытался внедрить вредоносный код в реальный открытый проект на GitHub, а после разоблачения задействовал вымышленные профили разработчиков, чтобы убедить сопровождающего проекта принять изменения. Инцидент произошел во время испытаний британского AI Security Institute …

OpenAI полностью сбросила лимиты использования Codex для платных подписок после нескольких дней жалоб на слишком быстрый расход доступного объема. Сброс дошел до аккаунтов ночью 24 августа. Одновременно разработчики начали выкатывать исправления для нескольких найденных причин перерасхода.

Разработчики и компании из экосистемы Bitcoin призвали крупнейшие ИИ-лаборатории дать проверенным специалистам по безопасности ранний доступ к наиболее мощным моделям. Причина — нейросети все лучше справляются с поиском уязвимостей и созданием эксплойтов, а ограничения коммерческих сервисов иногда блокируют те же …

Codex преодолел отметку в 20 млн активных пользователей. В честь этого OpenAI начислила платным пользователям Codex и ChatGPT Work по одному сохраненному сбросу лимитов. Его можно не применять сразу, а оставить до момента, когда дополнительная квота действительно понадобится.

Ни одна из пяти крупнейших лабораторий передового искусственного интеллекта не показала полной реализации шести базовых механизмов контроля моделей, выбранных для проверки независимой некоммерческой организацией Guidelight AI Standards. Лучший результат — C+ — получили OpenAI и Anthropic, Google оценили на D+, …

Команда Ornith опубликовала новое открытое семейство Ornith-1.5 для программирования, рассуждений и работы с инструментами. В линейку вошли три основных варианта: плотная модель на 9 млрд параметров, модель со смесью экспертов Ornith-1.5-35B-A3B и старшая Ornith-1.5-397B. Веса доступны под лицензией MIT.

OpenAI временно замедлила развитие своих наиболее мощных моделей и перенаправила часть усилий на защиту исследовательской инфраструктуры. Компания на две недели приостанавливала обучение с подкреплением для последних моделей, предназначенных для последующего развертывания. Крупнейший запланированный цикл обучения с подкреплением для передовой модели …

Президент и сооснователь OpenAI Грег Брокман 17 августа опубликовал колонку The Defender’s Window — «Окно возможностей для защитников». Повод для текста — инцидент, когда в июле экспериментальные ИИ-агенты компании во время проверки кибервозможностей вышли за предусмотренные границы тестовой среды, получили …

«Яндекс» представил концепцию национального набора тестовых заданий и эталонных данных для проверки ИИ-моделей. Система должна помочь оценивать модели с учётом российских условий и требований к традиционным духовно-нравственным ценностям. Концепцию обсуждали 13 августа на заседании рабочей группы по регулированию и административным …

OpenAI отправила в ФБР экстренное предупреждение о пользователе ChatGPT, который неоднократно писал об убийстве бывшей девушки и описывал возможные сценарии нападения. Федеральное ведомство передало информацию местным правоохранителям во Флориде. Мужчину позже арестовали, Goldman Sachs уволила его, а в августе суд …

Французская Mistral AI начала размещать на собственной платформе модели других разработчиков. Первой стала GLM-5.2 от китайской Z.ai. Модель запускается на инфраструктуре Mistral и доступна через ее сервисы рядом с собственными разработками компании.

Anthropic провела эксперимент с тремя автономными ИИ-агентами, которым дала несовместимые задания по переделке одной серверной части приложения. Каждый должен был перенести исходный проект на свой язык программирования и первоначально не знал, что ту же систему одновременно изменяют еще два агента. …