Правительство создаёт семь рабочих групп по ИИ: за кибербезопасность отвечает Юрий Максимов

Правительство России формирует семь рабочих групп по ключевым направлениям развития искусственного интеллекта. Одно из них — информационная безопасность в сфере ИИ. Руководителем этой группы назначен Юрий Максимов, сооснователь Positive Technologies и фонда развития кибербезопасности «Сайберус».

Решение принято в рамках работы правительственной подкомиссии по развитию и внедрению технологий искусственного интеллекта. Группы должны собрать представителей государства, бизнеса и экспертного сообщества. Их задача — найти ограничения, которые мешают развитию ИИ в России, и подготовить предложения по их устранению.

Всего направлений семь. За регулирование и административные барьеры отвечает замглавы Минцифры Иван Лебедев. Инфраструктуру и центры обработки данных курирует старший вице-президент Сбербанка Андрей Белевцев. Направление данных возглавит директор по развитию технологий ИИ «Т-Технологий» Алексей Шпильман. Обучением моделей займётся директор по развитию технологий ИИ «Яндекса» Александр Крайнов. Внедрение ИИ будет курировать Ильдар Ахметов из Аналитического центра при правительстве. Меры поддержки ИИ возглавит гендиректор АНО «Цифровая экономика» Чулпан Госсамова.

ИИ уже перестал быть только исследовательской темой и постепенно уходит в госуправление, банки, промышленность, разработку ПО, документооборот, клиентскую поддержку и аналитику. Чем больше таких систем попадает в реальные процессы, тем выше цена ошибок: утечек данных, неправильных ответов, атак на модели и злоупотреблений автоматизацией.

Правительство уже тестировало ИИ в восьми подразделениях аппарата. Технологии использовались для подготовки кратких справок, сравнения документов и составления протоколов. В таких сценариях безопасность становится рабочим требованием: модели получают доступ к документам, внутренним данным и управленческим процессам.

Главные риски известны:

• Промпт-инъекции, когда злоумышленник заставляет модель выполнять чужие инструкции через специально подготовленный текст.

• Утечки данных через ответы модели. 

• Ошибки и «галлюцинации» в документах, где нет права на фантазию.

• Атаки на базы знаний, RAG-системы и цепочки агентов, которые получают доступ к инструментам, файлам и внешним сервисам.

Что может войти в повестку группы:

• Методики безопасного внедрения ИИ в госорганах и компаниях.

• Требования к обработке персональных, коммерческих и служебных данных.

• Проверка моделей на утечки, вредные инструкции и устойчивость к промпт-инъекциям.

• Правила для ИИ-агентов, которые получают доступ к инструментам и внешним системам.

• Подходы к аудиту, red teaming и мониторингу ИИ после запуска.

• Защита RAG-систем, корпоративных баз знаний и векторных хранилищ.

• Типовые требования к поставщикам ИИ-решений.