Кибербезопасность ИИ (CAI) — это основа безопасности ИИ. В версиях до 0.5.10 включительно структура CAI (Cybersecurity AI) содержит множество уязвимостей внедрения аргументов в своих функциональных инструментах. Управляемый пользователем ввод передается непосредственно командам оболочки через `subprocess.Popen()` с `shell=True`, что позволяет злоумышленникам выполнять произвольные команды в хост-системе.
Инструмент `find_file()` выполняется без необходимости одобрения пользователя, поскольку find считается «безопасной» предварительно одобренной командой. Это означает, что злоумышленник может добиться удаленного выполнения кода (RCE), внедрив вредоносные аргументы (например, -exec) в параметр args, полностью минуя любые механизмы безопасности с участием человека. Коммит e22a1220f764e2d7cf9da6d6144926f53ca01cde содержит исправление.
Показать оригинальное описание (EN)
Cybersecurity AI (CAI) is a framework for AI Security. In versions up to and including 0.5.10, the CAI (Cybersecurity AI) framework contains multiple argument injection vulnerabilities in its function tools. User-controlled input is passed directly to shell commands via `subprocess.Popen()` with `shell=True`, allowing attackers to execute arbitrary commands on the host system. The `find_file()` tool executes without requiring user approval because find is considered a "safe" pre-approved command. This means an attacker can achieve Remote Code Execution (RCE) by injecting malicious arguments (like -exec) into the args parameter, completely bypassing any human-in-the-loop safety mechanisms. Commit e22a1220f764e2d7cf9da6d6144926f53ca01cde contains a fix.
Характеристики атаки
Последствия
Строка CVSS v3.1