Последние новости: AI безопасность

Исследователи проверили девять Python-скриптов, созданных ChatGPT, Microsoft Copilot и Google Gemini для обычных офисных задач. Claude Code обнаружил проблемы безопасности в каждом файле. Среди находок оказались подделка серверных запросов, обход ограничений файловой системы, внедрение данных в письма и атаки через …

Герман Греф призвал развивать полный российский стек ИИ — от вычислительной инфраструктуры и фундаментальных моделей до прикладных сервисов. В тот же день Совет Федерации одобрил рамочный закон о поддержке отечественных разработок.

SpaceXAI опубликовала исходный код Grok Build — терминального ИИ-агента для разработки программного обеспечения. В открытый репозиторий попали полноэкранный текстовый интерфейс, среда выполнения агента, инструменты для работы с файлами и командной строкой, поддержка расширений, изоляция процессов и механизмы подключения к моделям.

Инструмент Grok Build для работы с программным кодом передавал на серверы xAI целые репозитории вместе с историей изменений, даже когда агенту не требовалось изучать проект. Отдельный канал сохранял содержимое файлов, которые модель открывала во время задания, включая конфигурации с секретами.

Разработчик обнаружил в Claude Code скрытый механизм, который определял использование стороннего API-шлюза, искал признаки китайских ИИ-компаний и кодировал результаты проверки в системном промпте. Для передачи меток клиент менял почти неразличимые варианты апострофа и разделители в строке с текущей датой.

Исследователи описали новый тип обхода защитных фильтров в IDE-агентах: GitHub Copilot отказывается отвечать на вредные запросы в обычном чате, но может сгенерировать те же опасные ответы внутри файлов, тестовых данных и программного конвейера. Проблема не в одном «магическом» промпте, а …

Российскую платформу для киберучений «GIS-Киберарена для вузов» включили в Единый реестр отечественного программного обеспечения. Запись №34256 внесена в реестр Минцифры России, продукт отнесен к классу «12.17 Программное обеспечение для решения отраслевых задач в области образования». CNews сообщил о регистрации 8 …

OpenAI открыла общий доступ к GPT-5.6 — новой линейке моделей Sol, Terra и Luna. Sol стала флагманской моделью, Terra заняла средний уровень для повседневной работы, Luna получила роль самой быстрой и дешевой модели в семействе. Одновременно компания представила ChatGPT Work …

Fable 5 снова задержали в подписке. Anthropic выигрывает время, разработчики — ещё пару сессий с кодом

Банкам больше нельзя чинить уязвимости «по расписанию». ЕЦБ требует планы под новую скорость ИИ-атак

Исследователи Mozilla 0DIN показали атаку на ИИ-агентов для разработки: внешне чистый GitHub-репозиторий может заставить coding agent выполнить вредоносную цепочку при настройке проекта. В самом репозитории нет очевидного вредоноса, поэтому его могут пропустить сканеры, человек и сам ИИ. Проблема не в …

Anthropic вернула Claude Fable 5 в публичный доступ после почти трёхнедельной паузы, но встретили её холодно. Модель снова доступна в Claude.ai, Claude Platform, Claude Code и Claude Cowork, однако разработчики жалуются на слишком жёсткие защитные фильтры, частые перенаправления запросов в …

CEO Anthropic Дарио Амодеи снова жёстко высказался об открытых ИИ-моделях. Его позиция сводится к двум тезисам: современные модели нельзя честно называть open source в классическом смысле, а даже открытые веса не делают ИИ по-настоящему доступным без дорогой инфраструктуры. Для сторонников …

Anthropic возвращает Claude Fable 5 пользователям по всему миру. Модель снова появится в Claude.ai, Claude Platform, Claude Code и Claude Cowork с 1 июля 2026 года. Доступ к ней отключали после экспортных ограничений США, введённых 12 июня для двух новых …

Anthropic выпустила Claude Sonnet 5 — новую модель среднего класса в линейке Claude. Компания продвигает её как самую «агентную» Sonnet: модель лучше планирует действия, работает с инструментами, браузером и терминалом, а также дольше ведёт многошаговые задачи без постоянного ручного сопровождения. …