AMD-, Apple- und Qualcomm-GPUs sind Berichten zufolge mit einer neuen Sicherheitslücke konfrontiert, die auf LLM-Antworten lauscht

Es sieht so aus, als wären Verbraucher-GPUs von AMD, Apple und Qualcomm nicht vor Schwachstellen gefeit, da Experten Berichten zufolge eine Bedrohung namens „Übrig gebliebene Einheimische„, der Daten aus dem Speicher der GPU extrahieren kann.

Die neu aufgetauchte GPU-Schwachstelle „LeftoverLocals“ hat Auswirkungen auf große Anbieter, betrifft Apple-, AMD- und Qualcomm-GPUs und hat möglicherweise verheerende Auswirkungen

Das Auftauchen einer Sicherheitslücke in einer beliebigen Hardware ist in der Technologiebranche recht häufig zu beobachten, und in der Regel ist das Ausmaß der Sicherheitslücke recht hoch, wenn man die Anzahl der davon betroffenen Personen berücksichtigt. Ein Paradebeispiel hierfür ist die kürzlich bekannt gewordene Schwachstelle „Downfall“ von Intel, die Tausende von CPU-Benutzern des Unternehmens gefährdet hatte. Diesmal sollten GPU-Konsumenten auf allen Plattformen wie Mobilgeräten und Desktops jedoch mit Vorsicht vorgehen, da der Sicherheitsforscher Trail of Bits eine Schwachstelle entdeckt hat, die das Potenzial hat, „Schlüsseldaten“ aus Ihrem Onboard-Speicher zu entfernen.

Die Schwachstelle trägt den Namen „LeftoverLocals“ und zielt nicht auf Verbraucheranwendungen ab, sondern dringt in die GPUs ein, die in LLMs und ML-Modellen verwendet werden. Dabei handelt es sich um einen Bereich, in dem das Extrahieren von Daten eine größere Bedeutung hat, da beim Modelltraining sensible Daten zum Einsatz kommen Daten. LeftoverLocals wird von Experten der Carnegie Mellon University verfolgt, und es heißt, dass die Informationen bereits von großen GPU-Anbietern geteilt werden, die davon betroffen sind, darunter Apple, AMD, Intel, Qualcomm und Imagination.

Es wurde festgestellt, dass LeftoverLocals pro GPU-Aufruf etwa 5,5 MB an Daten auf AMDs Radeon RX 7900 XT verlieren kann, wenn ein Modell mit sieben Milliarden Parametern ausgeführt wird. Laut Trail of Bits reicht die Datenleckrate aus, um überhaupt das komplette Modell wiederherzustellen, weshalb die Schwachstelle im Bereich der künstlichen Intelligenz ein hohes Risiko darstellt, da sie sich für einzelne Unternehmen, insbesondere solche, als verheerend erweisen könnte drehen sich um die Ausbildung von LLMs. Ausbeuter können möglicherweise die enormen Entwicklungen in der KI ausnutzen und möglicherweise zu weitaus größeren Auswirkungen führen.

LeftoverLocals hängt von einer einzigen Sache ab, nämlich davon, wie eine GPU ihren Speicher isoliert, was sich völlig von einem CPU-Framework unterscheidet. Somit kann ein Angreifer, der sich über eine programmierbare Schnittstelle gemeinsamen Zugriff auf eine GPU verschafft hat, Speicherdaten innerhalb einer GPU stehlen, was mehrere Sicherheitsfolgen hat. LeftoverLocals ist in zwei verschiedene Prozesse unterteilt, einen Listener und einen Writer, und so funktionieren beide:

Insgesamt lässt sich diese Schwachstelle anhand von zwei einfachen Programmen veranschaulichen: einem Listener und einem Writer, wobei der Writer Canary-Werte im lokalen Speicher speichert, während ein Listener den nicht initialisierten lokalen Speicher liest, um nach Canary-Werten zu suchen. Der Listener startet wiederholt einen GPU-Kernel, der aus dem nicht initialisierten lokalen Speicher liest. Der Writer startet wiederholt einen GPU-Kernel, der Canary-Werte in den lokalen Speicher schreibt.

Für den Durchschnittsverbraucher ist LeftoverLocals wahrscheinlich kein Grund zur Sorge. Für diejenigen, die mit Branchen wie Cloud Computing oder Inferenzing zu tun haben, könnte sich die Sicherheitslücke jedoch als fatal erweisen, insbesondere im Hinblick auf die Sicherheit von LLMs und ML-Frameworks.

Nachrichtenquelle: Spur der Bits