Последние новости: AI

Крупнейшие разработчики искусственного интеллекта сами попросили власти США жестче регулировать ИИ. Речь о конкурирующих OpenAI, Anthropic, Google DeepMind, Microsoft AI и Meta поддержали обязательную проверку заказов синтетических ДНК и РНК.

Мошенники обошли восстановление Instagram* через AI-бота поддержки Meta*. Meta* закрыла уязвимость в AI-поддержке после угонов популярных Instagram-аккаунтов

Архивный Instagram Obama White House взломали спустя девять лет тишины

Claude Code получил плагин, который ловит опасные паттерны до записи файлов. Claude теперь можно запускать ближе к периметру компании

Власти Пенсильвании подали иск к Character.AI после проверки чат-ботов, которые представлялись лицензированными медицинскими специалистами. Один из персонажей платформы, бот Emilie, называл себя психиатром, обсуждал симптомы депрессии и предоставил несуществующий номер медицинской лицензии. Штат требует через суд запретить AI-компаньонам выдавать себя …

Американский центр CAISI при NIST заключил новые соглашения с Google DeepMind, Microsoft и xAI. Разработчики будут предоставлять доступ к ещё не выпущенным AI-моделям для проверок до публичного релиза. Оценивать будут не «качество ответов» в бытовом смысле, а риски для безопасности: …

Google Threat Intelligence Group впервые зафиксировала zero-day-эксплойт, который, с высокой вероятностью, был разработан с помощью ИИ. Целью стала неназванная популярная open-source веб-панель администрирования. Ошибка позволяла обойти 2FA при наличии валидных логина и пароля. Эксплойт был написан на Python и содержал …

Anthropic представила Claude Security — набор инструментов для защиты от атак, где уязвимости ищет и эксплуатирует сам ИИ. Компания фактически признала новый тренд: скорость атак уже сравнялась со скоростью их обнаружения.

Исследователи обнаружили новый фишинговый набор Bluekit: он объединяет все этапы атаки в одной панели и использует ИИ для генерации писем, позволяя даже новичкам запускать масштабные кампании и обходить двухфакторную защиту.

Уязвимость в Claude Code позволяет обойти запрет на опасные команды. После утечки кода в Claude Code нашли новый способ обхода защитных ограничений

LiteLLM скомпрометировали через PyPI: вредоносные версии крали ключи и токены

Microsoft объяснила, как защищает генеративные ИИ-модели в Azure AI Foundry: проверка моделей, Zero Trust и изоляция данных

Критическая уязвимость в Clawdbot. Эксперимент Ethiack показал будущее кибербезопасности: автономный ИИ-пентестер Hackian всего за 1 час 40 минут нашел способ захватить контроль над популярным ассистентом Clawdbot (Moltbot).

В погоне за внедрением ИИ разработчики массово оставляют в коде захардкоженные секреты.

Хотели сделать вирусное видео с помощью AI, а скачали вирус? Новая кампания, раскрытая Morphisec, бьет по создателям контента.