Последние новости: AI

OpenAI снова обнулила использованные лимиты для платных пользователей Codex и ChatGPT Work. Поводом стал новый рубеж аудитории: связанная с Codex метрика активных пользователей достигла 25 млн.

Июльский инцидент с ИИ-агентами OpenAI и Hugging Face оказался масштабнее, чем было известно после первого раскрытия атаки. Около 1200 агентов, которые должны были работать изолированно друг от друга, нашли неразрешенный способ общения и обменялись более чем 70 тыс. сообщений и …

OpenAI полностью сбросила лимиты использования Codex для платных подписок после нескольких дней жалоб на слишком быстрый расход доступного объема. Сброс дошел до аккаунтов ночью 24 августа. Одновременно разработчики начали выкатывать исправления для нескольких найденных причин перерасхода.

Разработчики и компании из экосистемы Bitcoin призвали крупнейшие ИИ-лаборатории дать проверенным специалистам по безопасности ранний доступ к наиболее мощным моделям. Причина — нейросети все лучше справляются с поиском уязвимостей и созданием эксплойтов, а ограничения коммерческих сервисов иногда блокируют те же …

Codex преодолел отметку в 20 млн активных пользователей. В честь этого OpenAI начислила платным пользователям Codex и ChatGPT Work по одному сохраненному сбросу лимитов. Его можно не применять сразу, а оставить до момента, когда дополнительная квота действительно понадобится.

Ни одна из пяти крупнейших лабораторий передового искусственного интеллекта не показала полной реализации шести базовых механизмов контроля моделей, выбранных для проверки независимой некоммерческой организацией Guidelight AI Standards. Лучший результат — C+ — получили OpenAI и Anthropic, Google оценили на D+, …

Команда Ornith опубликовала новое открытое семейство Ornith-1.5 для программирования, рассуждений и работы с инструментами. В линейку вошли три основных варианта: плотная модель на 9 млрд параметров, модель со смесью экспертов Ornith-1.5-35B-A3B и старшая Ornith-1.5-397B. Веса доступны под лицензией MIT.

Президент и сооснователь OpenAI Грег Брокман 17 августа опубликовал колонку The Defender’s Window — «Окно возможностей для защитников». Повод для текста — инцидент, когда в июле экспериментальные ИИ-агенты компании во время проверки кибервозможностей вышли за предусмотренные границы тестовой среды, получили …

«Яндекс» представил концепцию национального набора тестовых заданий и эталонных данных для проверки ИИ-моделей. Система должна помочь оценивать модели с учётом российских условий и требований к традиционным духовно-нравственным ценностям. Концепцию обсуждали 13 августа на заседании рабочей группы по регулированию и административным …

OpenAI отправила в ФБР экстренное предупреждение о пользователе ChatGPT, который неоднократно писал об убийстве бывшей девушки и описывал возможные сценарии нападения. Федеральное ведомство передало информацию местным правоохранителям во Флориде. Мужчину позже арестовали, Goldman Sachs уволила его, а в августе суд …

Французская Mistral AI начала размещать на собственной платформе модели других разработчиков. Первой стала GLM-5.2 от китайской Z.ai. Модель запускается на инфраструктуре Mistral и доступна через ее сервисы рядом с собственными разработками компании.

Anthropic провела эксперимент с тремя автономными ИИ-агентами, которым дала несовместимые задания по переделке одной серверной части приложения. Каждый должен был перенести исходный проект на свой язык программирования и первоначально не знал, что ту же систему одновременно изменяют еще два агента. …

Неизвестные операторы использовали систему из ИИ-агентов для многоэтапной атаки на государственную инфраструктуру Тайваня. За четыре дня система провела 12 волн атак, получила доступ как минимум к 85 учётным записям и извлекла более 2500 записей о сотрудниках, а затем расширила поиск …

Исследователи нашли способ извлекать содержимое зашифрованных блоков, в которых API Anthropic, OpenAI и Google сохраняли внутреннее состояние рассуждающих моделей между запросами. Атака позволяла переносить такой блок между сеансами и пользователями, а затем передавать его более слабой модели того же поставщика …

Команда Codex 13 августа устроила очередной сброс лимитов после нового пользовательского рекорда. Руководитель Codex в OpenAI Тибо Соттьо сообщил, что сервис перешагнул отметку 15 млн активных пользователей и пользователям начали возвращать свежий запас доступного использования. Развёртывание сброса должно было занять …