Искусственный интеллект и угрозы безопасности

Линус Торвальдс заявил, что приватная рассылка Linux Security List стала почти неуправляемой из-за потока баг-репортов, найденных AI-инструментами. Главная претензия не к самим моделям, а к людям, которые отправляют сырые, повторяющиеся и плохо проверенные отчёты без патча, анализа и понимания проблемы. …

Американский центр CAISI при NIST заключил новые соглашения с Google DeepMind, Microsoft и xAI. Разработчики будут предоставлять доступ к ещё не выпущенным AI-моделям для проверок до публичного релиза. Оценивать будут не «качество ответов» в бытовом смысле, а риски для безопасности: …

OWASP опубликовала Autonomous Penetration Testing Standard — APTS, первый профильный стандарт управления автономными платформами для пентестов. Задача документа: описать, как такие системы должны соблюдать ограничения, когда останавливаться при возникновении рисков и передавать решения человеку, как вести журнал действий и чем …

Microsoft раскрыла и уже устранила три критические уязвимости раскрытия информации в Microsoft 365 Copilot и Copilot Chat внутри Edge. Все три CVE опубликованы 7 мая 2026 года, относятся к облачным сервисам и не требуют действий от пользователей или администраторов: исправления …

Пользователи из России начали жаловаться на блокировки аккаунтов Claude. Под ограничения, судя по сообщениям в русскоязычных медиа и Telegram-каналах, попали обычные пользователи, разработчики и предприниматели, которые использовали сервис через VPN, иностранные номера, посредников и купленные подписки. Официально Claude в России …

Пользователи Chrome начали находить на своих компьютерах скрытую загрузку крупной ИИ-модели Gemini Nano размером около 4 ГБ. Компонент нужен для локальных функций браузера — от проверки мошеннических сайтов до работы встроенного ИИ — и может устанавливаться автоматически без отдельного понятного …

ChatGPT вводит «жёсткий режим» безопасности: пароли отключают, восстановление усложняют

ChatGPT и Gemini заходят в секретные сети США: Пентагон расширяет GenAI[.]mil

Anthropic представила Claude Security — набор инструментов для защиты от атак, где уязвимости ищет и эксплуатирует сам ИИ. Компания фактически признала новый тренд: скорость атак уже сравнялась со скоростью их обнаружения.

Cisco открыла исходный код инструмента, который позволяет отслеживать происхождение ИИ-моделей и их компонентов — он показывает, из каких данных, зависимостей и сторонних моделей собран конкретный AI-сервис и помогает выявлять риски ещё до запуска в продакшене.

Проблема быстро стала вирусной: пользователи заметили «гоблинский стиль» в ответах, особенно в Codex и GPT-5.5.

AI-агент сам запускает вредоносный код: в Cursor нашли критическую уязвимость через Git hooks

Один заголовок Authorization — и база AI-шлюза раскрыта: в LiteLLM нашли критическую SQL-инъекцию

«Помощник» с правами DevOps: Cursor-агент с Claude стёр базу PocketOS и резервные копии через API Railway

ИИ-контент стал нормой для новых сайтов: учёные проверили архивы веба с 2022 года