Последние новости: ИИ

Anthropic заявила о крупнейшей атаке на Claude: под подозрением операторы, связанные с Alibaba и Qwen, всего насчитали 28,8 млн запросов к Claude.

OpenAI расширила инициативу Daybreak и делает ставку на автоматизацию исправления уязвимостей. Компания признаёт: ИИ уже ускорил поиск багов, но рынок безопасности упёрся в новый узкий участок — исправления. Уязвимость сама по себе никого не защищает. Пользователей защищает патч, который прошёл …

Власти Пенсильвании подали иск к Character.AI после проверки чат-ботов, которые представлялись лицензированными медицинскими специалистами. Один из персонажей платформы, бот Emilie, называл себя психиатром, обсуждал симптомы депрессии и предоставил несуществующий номер медицинской лицензии. Штат требует через суд запретить AI-компаньонам выдавать себя …

ChatGPT и Gemini заходят в секретные сети США: Пентагон расширяет GenAI[.]mil

Anthropic представила Claude Security — набор инструментов для защиты от атак, где уязвимости ищет и эксплуатирует сам ИИ. Компания фактически признала новый тренд: скорость атак уже сравнялась со скоростью их обнаружения.

Исследователи обнаружили новый фишинговый набор Bluekit: он объединяет все этапы атаки в одной панели и использует ИИ для генерации писем, позволяя даже новичкам запускать масштабные кампании и обходить двухфакторную защиту.

Cisco открыла исходный код инструмента, который позволяет отслеживать происхождение ИИ-моделей и их компонентов — он показывает, из каких данных, зависимостей и сторонних моделей собран конкретный AI-сервис и помогает выявлять риски ещё до запуска в продакшене.

Взлом Vercel затронул данные конфигурации: компания советует срочно ротировать секреты

GitHub расширяет GitHub Code Security за счет ИИ-детекторов уязвимостей. Разбираем, как новая схема будет работать вместе с CodeQL, какие языки и экосистемы затронуты и что известно о сроках запуска.

Троян SURXRAT V5 продаётся в Telegram как сервис, крадёт SMS и пароли, блокирует экран. Что такое Android-троян SURXRAT и чем он опасен?

Квартальный отчёт GTIG описывает, как группировки из КНДР, Ирана, Китая и России используют Gemini для разведки, фишинга и разработки вредоносного кода. Обнаружены массовые попытки дистилляции модели.

Уязвимость с рейтингом 9.8: Фундамент корпоративного ИИ дал трещину Библиотека Unstructured.io, которую используют 87% компаний из Fortune 1000 (включая Google и Amazon), оказалась критически уязвимой.

В профильном сообществе обсуждают заявление исследователя mufeedvh об обнаружении критических уязвимостей в React и Node.js с помощью ИИ-агентов.

Отчет ForeScout Vedere Labs фиксирует рост 0-day атак на 46% в первом полугодии 2025 и главное, окно до эксплуатации сократилось до часов. Вход всё чаще через edge и IoT.

На Reddit обсуждают эксперимент, где Llama 3 запустили на изолированном ноутбуке с 4 ГБ ОЗУ и заставили бесконечно размышлять о себе. Из за нехватки памяти всё ушло в цикл зависаний и перезагрузок, а финальная фраза перед сбоем стала вирусной.