Ad

Искусственный интеллект и угрозы безопасности

Безопасность в эпоху нейросетей. Раздел посвящен тому, как искусственный интеллект меняет правила игры: дипфейки, использование ChatGPT хакерами, уязвимости в LLM-моделях и новые методы защиты с помощью машинного обучения.

Claude готовит проверки возраста и личности: часть пользователей может получить запрос на документ и селфи

Anthropic вводит проверки возраста и личности для Claude Free, Pro и Max. Claude с 8 июля сможет запросить документ, селфи или проверку возраста

Читать далее

Anthropic обвинила Alibaba в массовой дистилляции Claude: речь идёт о 28,8 млн запросов и почти 25 тыс. фейковых аккаунтов

Anthropic заявила о крупнейшей атаке на Claude: под подозрением операторы, связанные с Alibaba и Qwen, всего насчитали 28,8 млн запросов к Claude.

Читать далее

ИИ Anthropic за часы нашёл уязвимости в закрытых системах правительства США

Модель Claude Mythos Preview от Anthropic обнаружила уязвимости в защищённых компьютерных системах правительства США во время совместного тестирования с разведывательными структурами. Эксперимент проходил в рамках Project Glasswing — программы, где ИИ используют для поиска и исправления слабых мест в критически …

Читать далее

Codex Security и Patch the Planet: OpenAI расширила инициативу Daybreak

OpenAI расширила инициативу Daybreak и делает ставку на автоматизацию исправления уязвимостей. Компания признаёт: ИИ уже ускорил поиск багов, но рынок безопасности упёрся в новый узкий участок — исправления. Уязвимость сама по себе никого не защищает. Пользователей защищает патч, который прошёл …

Читать далее

Макрон призвал США не закрывать союзникам доступ к сильным ИИ-моделям

На саммите G7 во Франции президент Эмманюэль Макрон заявил, что развитым демократиям нужно вместе регулировать передовые ИИ-системы, а не превращать доступ к ним в национальный рубильник. Поводом стала блокировка новых моделей Anthropic — Fable 5 и Mythos 5.

Читать далее

Треть ИБ-специалистов уже использует ИИ в работе, но полностью ему не доверяет никто

Опрос «СерчИнформ» среди 170 российских ИБ-специалистов показал: 34% респондентов уже активно используют ИИ в работе, ещё 39% планируют внедрение. При этом ни один участник опроса не готов полностью доверять результатам нейросетей. Главный риск остается прежним — сотрудники могут отправлять в …

Читать далее

OpenAI и Anthropic просят США закрутить гайки для ИИ

Крупнейшие разработчики искусственного интеллекта сами попросили власти США жестче регулировать ИИ. Речь о конкурирующих OpenAI, Anthropic, Google DeepMind, Microsoft AI и Meta поддержали обязательную проверку заказов синтетических ДНК и РНК.

Читать далее

Anthropic выпустила Claude Fable 5: публичную версию модели Mythos, доступ к которой ограничивали из-за киберрисков

Anthropic открыла доступ к Claude Fable 5 — новой модели класса Mythos. Компания называет её самой мощной моделью Claude из тех, что уже доступны широкой аудитории. Главная интрига релиза в происхождении модели: Fable 5 построена на том же уровне технологий, …

Читать далее