В ядре Linux устранена следующая уязвимость:
bpf: исправлена тупиковая ситуация повторного входа NMI/точки трассировки на блокировках lru. Программы NMI и Tracepoint BPF могут повторно войти в режим отдельного процессора или глобально. LRU блокирует то, что bpf_lru_pop_free()/push_free() уже удерживается на
тот же процессор, блокировка AA.
Lockdep сообщает о «непоследовательных
{INITIAL USE} -> {IN-NMI}" на &l->lock (syzbot c69a0a2c816716f1e0d5)
и «обнаружена возможная рекурсивная блокировка» в &loc_l->lock (syzbot
18b26edb69b2e19f3b33). Предыдущие исправления на основе trylock и rqspinlock (см. ссылки) были удалены.
потому что компромисс по надежности. Этот патч преобразует каждый сайт блокировки LRU в rqspinlock_t и добавляет
путь восстановления для некоторых окон сбоев, чтобы избежать утечек узлов.
Восстановление после сбоя:
- *_pop_free верхнего уровня: вернуть NULL; prealloc_lru_pop() уже
рассматривает это как несвободный элемент (-ENOMEM).
- Кросс-процессорная кража: пропустить заблокированный loc_l жертвы, попробовать следующий процессор.
- Сбой локальной блокировки после кражи: опубликуйте украденный узел без блокировки.
free_llist для каждого процессора; следующий поп на этом процессоре подхватит его.
- Ошибка push_free: отметить узел pending_free=1. __local_list_flush(),
__local_list_pop_pending() извлекает узел из pending_list.
__bpf_lru_list_shrink_inactive() возвращает узел из неактивного состояния
список. Узлы из активного списка освобождаются с помощью __bpf_lru_list_shrink().
или после того, как __bpf_lru_list_rotate_active() понизит его до неактивного.
Показать оригинальное описание (EN)
In the Linux kernel, the following vulnerability has been resolved: bpf: Fix NMI/tracepoint re-entry deadlock on lru locks NMI and tracepoint BPF programs can re-enter the per-CPU or global LRU lock that bpf_lru_pop_free()/push_free() already hold on the same CPU, AA-deadlocking. Lockdep reports "inconsistent {INITIAL USE} -> {IN-NMI}" on &l->lock (syzbot c69a0a2c816716f1e0d5) and "possible recursive locking detected" on &loc_l->lock (syzbot 18b26edb69b2e19f3b33). Prior trylock and rqspinlock based fixes (see links) were nacked because compromised on reliability. This patch converts every LRU lock site to rqspinlock_t and adds a recovery path for some failure windows to avoid node leaks. Failure recovery: - *_pop_free top-level: return NULL; prealloc_lru_pop() already treats that as no-free-element (-ENOMEM). - Cross-CPU steal: skip the victim's locked loc_l, try next CPU. - Post-steal local lock fail: publish stolen node to lockless per-CPU free_llist; next pop on this CPU picks it up. - push_free fail: mark node pending_free=1. __local_list_flush(), __local_list_pop_pending() reclaim the node from pending_list. __bpf_lru_list_shrink_inactive() reclaims the node from inactive list. Nodes from active list are reclaimed by __bpf_lru_list_shrink() or after __bpf_lru_list_rotate_active() demotes it to the inactive.