知名安全團隊 Trail of Bits 近日披露了一項潛在風險，揭露了 “LeftoverLocals” 漏洞，它存在于多款主流消費級 GPU 產品如 NVIDIA、Apple、AMD 及 Qualcomm 的產品中。

此漏洞不限于消費者應用程序，更嚴重的是，它能通過破壞大型語言模型（LLM）及機器學習（ML）方案所依賴的 GPU 以獲取關鍵數據。由于模型訓練涉及敏感數據，故此時捕獲數據的風險極大。

目前，來自卡內基梅隆大學的研究團隊正在關注此問題，據悉，這則消息已被受影響的生產商，如 NVIDIA、Apple、AMD、ARM、Intel、Qualcomm 以及 Imagination 等公司所知曉并共享。

據研究顯示，當在 AMD‘s Radeon RX 7900 XT 和 llama.cpp 上運行模型時，若因 “LeftoverLocals” 漏洞發生操作數據請求，大約會泄露 5.5MB 和 181MB 的數據，這些數據量足以精準還原大型語言模型的輸出結果。

“LeftoverLocals” 漏洞主要設計的是 GPU 內存中的獨立機制，相較 CPU 架構，它可利用編程接口實現訪問權的獲取，從而非法篡取內存數據。這無疑對 GPU 架構的安全性造成重大威脅。

對大多數消費者而言，“LeftoverLocals” 漏洞似乎并無大礙，然而對于從事云計算或推理事業的人而言，這將給他們在 LLM 和 ML 框架的安全性方面帶來嚴重的疑慮。