Последние новости: AI безопасность

OpenRouter перестанет обслуживать российские аккаунты с 27 июня

Опрос «СерчИнформ» среди 170 российских ИБ-специалистов показал: 34% респондентов уже активно используют ИИ в работе, ещё 39% планируют внедрение. При этом ни один участник опроса не готов полностью доверять результатам нейросетей. Главный риск остается прежним — сотрудники могут отправлять в …

Крупнейшие разработчики искусственного интеллекта сами попросили власти США жестче регулировать ИИ. Речь о конкурирующих OpenAI, Anthropic, Google DeepMind, Microsoft AI и Meta поддержали обязательную проверку заказов синтетических ДНК и РНК.

Anthropic закрывает доступ к Fable 5 и Mythos 5 после директивы правительства США

Claude Code получил плагин, который ловит опасные паттерны до записи файлов. Claude теперь можно запускать ближе к периметру компании

Власти Пенсильвании подали иск к Character.AI после проверки чат-ботов, которые представлялись лицензированными медицинскими специалистами. Один из персонажей платформы, бот Emilie, называл себя психиатром, обсуждал симптомы депрессии и предоставил несуществующий номер медицинской лицензии. Штат требует через суд запретить AI-компаньонам выдавать себя …

Google Threat Intelligence Group впервые зафиксировала zero-day-эксплойт, который, с высокой вероятностью, был разработан с помощью ИИ. Целью стала неназванная популярная open-source веб-панель администрирования. Ошибка позволяла обойти 2FA при наличии валидных логина и пароля. Эксплойт был написан на Python и содержал …

Один промпт против пяти биотестов: OpenAI ищет универсальный обход GPT-5.5

Ваш ИИ-помощник может стать идеальным шпионом, и вы даже не заметите подвоха. Microsoft опубликовала исследование нового класса атак, где злоумышленники не ломают код, а просто "просят" агента слить базу данных, спрятав инструкцию в обычном счете на оплату.