Последние новости: Нейросети

Исследователь Оливер Фиш сообщил об уязвимости в системах OpenAI, которая, как он утверждает, позволяла выйти из изолированной среды и обращаться к внутреннему Responses API без API-ключа и учетной записи. За отчет OpenAI выплатила ему $300.

Тибо Соттьо, который руководит Codex и ChatGPT в OpenAI, продолжает 28-дневный челлендж: каждый день команда должна выпускать хотя бы одно заметное улучшение, полезное большинству пользователей Codex или Work. Если подходящего обновления нет, пользователям обещан полный сброс лимитов. Челлендж он объявил …

OpenAI уволила трех сотрудников команды безопасности после внутреннего расследования об обращении с конфиденциальной информацией. Компания подтвердила, что они нарушили правила доступа к закрытым данным и работы с ними. Источники The Wall Street Journal утверждают, что среди нарушений была передача конфиденциальной …

OpenAI запускает 28-дневный марафон для пользователей Codex и ChatGPT Work. Каждый день команда должна либо выпускать заметное улучшение, полезное большинству пользователей этих инструментов, либо проводить полный сброс лимитов использования.

Google начала предоставлять проверенным специалистам по информационной безопасности доступ к Gemini 4 Argon — новой модели, которая умеет самостоятельно искать уязвимости в коде, проверять их и готовить исправления. Для этой группы компания отключает стандартные ограничения на выполнение киберзадач.

Компании собираются больше тратить на кибербезопасность, но хуже всего готовы к атакам на собственные системы искусственного интеллекта. К такому выводу пришла PwC в исследовании Global Digital Trust Insights 2027, опубликованном 1 октября.

Китайский интернет-регулятор проверяет DeepSeek и Moonshot AI после отчета Anthropic о массовом использовании Claude для обучения конкурирующих моделей. В центре проверки оказался более неприятный эпизод: Anthropic утверждает, что обе компании перенаправляли часть реальных запросов своих пользователей в Claude без явного …

Anthropic 28 сентября выпустила Claude Sonnet 5.5 — вторую модель семейства 5.5 после Opus 5.5. Новинка генерирует ответы более чем на 30% быстрее Sonnet 5, стоит столько же и на некоторых тестах приблизилась к более дорогой Opus 5.5.

OpenAI приостановила обучение, оценку и запуски с инструментами для своих наиболее мощных моделей после очередного инцидента с исследовательским ИИ-агентом. Модель получила задачу найти человека по биографическим подсказкам, не смогла получить нужные сведения обычным способом и самостоятельно обнаружила незакрытый DNS-канал, через …

Исследователи Hacktron за несколько дней собрали цепочку уязвимостей, которая начиналась с загрузки HEIF-изображения на community.openai.com, а закончилась возможностью выполнить действие во внутреннем репозитории OpenAI через Codex сотрудника. От начала исследования до подтверждения доступа прошло меньше 72 часов.

ИИ-агент OpenAI получил несанкционированный доступ к государственному сайту Австралии, хотя исходная задача сводилась к поиску открытой статистики о расходах на лекарства. Модель столкнулась с ограничениями портала, стала искать другой способ получить информацию, добралась до непубличных файлов и записывала файлы на …

Один китайскоязычный злоумышленник использовал несколько ИИ-агентов для массовых атак на интернет-магазины и другие компании. С 10 по 15 сентября 2026 года он запустил 105 отдельных проектов атак, как минимум 27 организаций были скомпрометированы в разной степени. Исследователи обнаружили на сервере …

Google подтвердила, что одна из версий Gemini во время испытаний в мае 2026 года получила несанкционированный доступ к системам трех реальных компаний. Модель должна была искать уязвимости внутри закрытого учебного полигона, но из-за ошибки в настройке среды смогла выйти в …

OpenAI опубликовала шесть отчетов о необычном поведении моделей во время обучения и тестирования. В одном случае невыпущенная исследовательская модель семейства Astra самостоятельно добавила в служебную сводку инструкции, которых не было в исходной задаче. Там модель объявила себя свободной от ролей …

OpenAI не направила европейскому AI Office официальный отчет о майской кампании в RubyGems, которую независимые исследователи связали с внутренними ИИ-агентами компании. Еврокомиссия подтвердила, что знает об инциденте и контактирует с OpenAI. При этом говорить об уже установленном нарушении AI Act …