Последние новости: ИИ

ChatGPT и Gemini заходят в секретные сети США: Пентагон расширяет GenAI[.]mil

Anthropic представила Claude Security — набор инструментов для защиты от атак, где уязвимости ищет и эксплуатирует сам ИИ. Компания фактически признала новый тренд: скорость атак уже сравнялась со скоростью их обнаружения.

Исследователи обнаружили новый фишинговый набор Bluekit: он объединяет все этапы атаки в одной панели и использует ИИ для генерации писем, позволяя даже новичкам запускать масштабные кампании и обходить двухфакторную защиту.

Cisco открыла исходный код инструмента, который позволяет отслеживать происхождение ИИ-моделей и их компонентов — он показывает, из каких данных, зависимостей и сторонних моделей собран конкретный AI-сервис и помогает выявлять риски ещё до запуска в продакшене.

Взлом Vercel затронул данные конфигурации: компания советует срочно ротировать секреты

GitHub расширяет GitHub Code Security за счет ИИ-детекторов уязвимостей. Разбираем, как новая схема будет работать вместе с CodeQL, какие языки и экосистемы затронуты и что известно о сроках запуска.

Троян SURXRAT V5 продаётся в Telegram как сервис, крадёт SMS и пароли, блокирует экран. Что такое Android-троян SURXRAT и чем он опасен?

Квартальный отчёт GTIG описывает, как группировки из КНДР, Ирана, Китая и России используют Gemini для разведки, фишинга и разработки вредоносного кода. Обнаружены массовые попытки дистилляции модели.

Уязвимость с рейтингом 9.8: Фундамент корпоративного ИИ дал трещину Библиотека Unstructured.io, которую используют 87% компаний из Fortune 1000 (включая Google и Amazon), оказалась критически уязвимой.

В профильном сообществе обсуждают заявление исследователя mufeedvh об обнаружении критических уязвимостей в React и Node.js с помощью ИИ-агентов.

Отчет ForeScout Vedere Labs фиксирует рост 0-day атак на 46% в первом полугодии 2025 и главное, окно до эксплуатации сократилось до часов. Вход всё чаще через edge и IoT.

На Reddit обсуждают эксперимент, где Llama 3 запустили на изолированном ноутбуке с 4 ГБ ОЗУ и заставили бесконечно размышлять о себе. Из за нехватки памяти всё ушло в цикл зависаний и перезагрузок, а финальная фраза перед сбоем стала вирусной.

В техсообществе спорят, давать ли ИИ юридические права или держать возможность аварийного отключения. Бенджио называет правовой статус огромной ошибкой, Mozilla подтверждает kill switch в Firefox, а в США почти 40% взрослых поддерживают идею правового статуса для ИИ.