LMDeploy десериализует одноранговые сообщения с дезагрегированным обслуживанием с помощью Pickle. Сопрограмма handle_zmq_recv в lmdeploy/pytorch/disagg/conn/engine_conn.py считывает одноранговые запросы без кэша с помощью Recv_pyobj(), который десериализует полученные байты с помощью Pickle.loads(), а проверка isinstance по DistServeCacheFreeRequest запускается только после завершения десериализации. Узел, предоставляющий эти байты, контролируется вызывающим абонентом: p2p_connect передает Remote_engine_endpoint_info.zmq_address из тела запроса в метод Connect() на сокете ZMQ PULL, а конечные точки POST /distserve/p2p_initialize и /disterve/p2p_connect в lmdeploy/serve/openai/api_server.py не применяют аутентификацию, если сервер не запущен с api_keys, для которого по умолчанию установлено значение «Нет».
Удаленный злоумышленник может заставить механизм получить доступ к конечной точке ZMQ, находящейся под его контролем, и выполнить произвольный код в процессе механизма. Развертывания, которые не поддерживают дезагрегированное обслуживание, не затрагиваются, поскольку цикл получения запускается только после того, как серверная часть миграции принимает соединение.
Показать оригинальное описание (EN)
LMDeploy deserializes disaggregated-serving peer messages with pickle. The handle_zmq_recv coroutine in lmdeploy/pytorch/disagg/conn/engine_conn.py reads peer-to-peer cache-free requests with recv_pyobj(), which deserializes the received bytes with pickle.loads(), and the isinstance check against DistServeCacheFreeRequest runs only after deserialization has already completed. The peer that supplies those bytes is caller-controlled: p2p_connect passes remote_engine_endpoint_info.zmq_address from the request body to connect() on the ZMQ PULL socket, and the POST /distserve/p2p_initialize and /distserve/p2p_connect endpoints in lmdeploy/serve/openai/api_server.py apply no authentication unless the server is started with api_keys, which defaults to None. A remote attacker can direct an engine to pull from a ZMQ endpoint under their control and execute arbitrary code in the engine process. Deployments that do not enable disaggregated serving are not affected, because the receive loop is only started once the migration backend accepts the connection.
Характеристики атаки
Последствия
Строка CVSS v4.0