Искусственный интеллект и угрозы безопасности

OpenAI добавила Lockdown Mode в ChatGPT: что он отключает и кого это защитит

В сети обсуждают идентификатор claude-oceanus-v1-p, который мог появиться в ограниченных тестовых каналах Anthropic. Официального релиза нет, но история уже показывает риски утечек доступа, API-прокси и перепродажи закрытых моделей.

NVIDIA опубликовала Nemotron 3 Ultra — старшую модель семейства Nemotron 3 с открытыми весами. Модель получила 550 млрд параметров, 55 млрд активных параметров, архитектуру Mamba-Transformer MoE, контекст до 1 млн токенов и ориентацию на агентные сценарии, программирование, исследовательские задачи и …

Российские операторы связи обсуждают с властями возможность вернуть прямой доступ к ChatGPT, Claude, Gemini и другим сервисам, которые не блокировал Роскомнадзор, но которые сами ограничили работу в России. Разбираем, что известно, как это может работать и какие риски остаются для …

Anthropic предупреждает: следующий шаг — ИИ, который ускоряет собственную разработку

Исследователь Permiso Security описал ChatGPhish — технику, при которой вредоносная веб-страница через Markdown и непрямую prompt injection может заставить ChatGPT показать фишинговые ссылки, QR-коды и ложные предупреждения внутри привычного интерфейса.

Claude Mythos Preview выходит к новым партнерам: Anthropic усиливает AI-защиту критического ПО. Anthropic масштабирует Project Glasswing на 15+ стран

Anthropic устранила сбой Claude: проблемы затронули модель Opus 4.6

Мошенники обошли восстановление Instagram* через AI-бота поддержки Meta*. Meta* закрыла уязвимость в AI-поддержке после угонов популярных Instagram-аккаунтов

Claude Opus 4.8 вышла с упором на код, агентные задачи и снижение числа ошибок

Исследователи описали группу, которая применяла генеративный ИИ для фишинга, создания фальшивых сайтов, вредоносных загрузчиков и скриптов после заражения

Claude теперь виден SOC: Anthropic добавила 28 интеграций с security- и compliance-платформами

Claude Code получил плагин, который ловит опасные паттерны до записи файлов. Claude теперь можно запускать ближе к периметру компании

ИИ-аудит на стероидах: Anthropic показала, как ИИ меняет поиск багов. 23 тысячи находок и очередь на проверку

Anthropic Mythos Preview стал одним из первых AI-инструментов, который публично обсуждают уже не как помощника для поиска подозрительного кода, а как систему, способную собирать рабочие proof-of-concept-эксплойты. Cloudflare тестировала модель на более чем 50 внутренних репозиториях в рамках закрытой программы Project …