Искусственный интеллект и угрозы безопасности

Безопасность в эпоху нейросетей. Раздел посвящен тому, как искусственный интеллект меняет правила игры: дипфейки, использование ChatGPT хакерами, уязвимости в LLM-моделях и новые методы защиты с помощью машинного обучения.

Codex Security и Patch the Planet: OpenAI расширила инициативу Daybreak

OpenAI расширила инициативу Daybreak и делает ставку на автоматизацию исправления уязвимостей. Компания признаёт: ИИ уже ускорил поиск багов, но рынок безопасности упёрся в новый узкий участок — исправления. Уязвимость сама по себе никого не защищает. Пользователей защищает патч, который прошёл …

Читать далее

Макрон призвал США не закрывать союзникам доступ к сильным ИИ-моделям

На саммите G7 во Франции президент Эмманюэль Макрон заявил, что развитым демократиям нужно вместе регулировать передовые ИИ-системы, а не превращать доступ к ним в национальный рубильник. Поводом стала блокировка новых моделей Anthropic — Fable 5 и Mythos 5.

Читать далее

Треть ИБ-специалистов уже использует ИИ в работе, но полностью ему не доверяет никто

Опрос «СерчИнформ» среди 170 российских ИБ-специалистов показал: 34% респондентов уже активно используют ИИ в работе, ещё 39% планируют внедрение. При этом ни один участник опроса не готов полностью доверять результатам нейросетей. Главный риск остается прежним — сотрудники могут отправлять в …

Читать далее

OpenAI и Anthropic просят США закрутить гайки для ИИ

Крупнейшие разработчики искусственного интеллекта сами попросили власти США жестче регулировать ИИ. Речь о конкурирующих OpenAI, Anthropic, Google DeepMind, Microsoft AI и Meta поддержали обязательную проверку заказов синтетических ДНК и РНК.

Читать далее

Anthropic выпустила Claude Fable 5: публичную версию модели Mythos, доступ к которой ограничивали из-за киберрисков

Anthropic открыла доступ к Claude Fable 5 — новой модели класса Mythos. Компания называет её самой мощной моделью Claude из тех, что уже доступны широкой аудитории. Главная интрига релиза в происхождении модели: Fable 5 построена на том же уровне технологий, …

Читать далее

Claude Oceanus-v1-p всплыл в закрытых каналах: вокруг тестовой модели Anthropic уже появились прокси-продавцы

В сети обсуждают идентификатор claude-oceanus-v1-p, который мог появиться в ограниченных тестовых каналах Anthropic. Официального релиза нет, но история уже показывает риски утечек доступа, API-прокси и перепродажи закрытых моделей.

Читать далее

NVIDIA выпустила Nemotron 3 Ultra: 550 млрд параметров, контекст на миллион токенов и ставка на ИИ-агентов

NVIDIA опубликовала Nemotron 3 Ultra — старшую модель семейства Nemotron 3 с открытыми весами. Модель получила 550 млрд параметров, 55 млрд активных параметров, архитектуру Mamba-Transformer MoE, контекст до 1 млн токенов и ориентацию на агентные сценарии, программирование, исследовательские задачи и …

Читать далее

Операторы ищут способ вернуть россиянам доступ к ChatGPT, Claude и Gemini без привычного VPN

Российские операторы связи обсуждают с властями возможность вернуть прямой доступ к ChatGPT, Claude, Gemini и другим сервисам, которые не блокировал Роскомнадзор, но которые сами ограничили работу в России. Разбираем, что известно, как это может работать и какие риски остаются для …

Читать далее