AMD Peano Open-Source-LLVM-Compiler für Ryzen-KI-Prozessoren vorgestellt

Fortschrittliche KI mit AMD Ryzen Prozessoren

Mit der AMD Ryzen 7000 Serie, die intern den Codenamen Phoenix trägt, wurde die Xilinx AI Accelerator Unit (XDNA) erstmals auf dem Verbrauchermarkt eingeführt, die eine KI-Leistung von bis zu 10 TOPS bietet. Die Ryzen 8000er Serie, bekannt als Hawk Point, baute auf dieser Grundlage auf und steigerte diese Leistung auf 16 TOPS. Die neueste Innovation, die Ryzen AI 300-Serie mit dem Codenamen Strix Point, steigert die KI-Leistung mit der XDNA2-Architektur weiter und erreicht bis zu 50 TOPS.

Bedeutung der eingebauten NPUs

Die Integration von Neural Processing Units (NPUs) in Prozessoren wird für moderne KI-Aufgaben immer wichtiger. AMD bemüht sich ebenso wie Konkurrenten wie Intel und Qualcomm darum, die schnellsten KI-Beschleunigungsfunktionen nativ in ihre Geräte zu integrieren. Diese dedizierten Einheiten sind für kommende Windows-Technologien und Tools von Drittanbietern unverzichtbar, einschließlich lokal ausgeführter Large Language Model (LLM).

Peano Compiler: Ein Schritt vorwärts in der KI-Entwicklung

Stephen Neuendorffer von AMD/Xilinx kündigte das Open-Sourcing eines LLVM-Backends für AMD/Xilinx AI Engine Prozessoren an. Dieses Backend konzentriert sich auf die AIE2-Architektur, die in den XDNA-Beschleunigern der Phoenix- und Hawk Point-Geräte zu finden ist. Derzeit werden nur einzelne Prozessor-Arrays unterstützt, aber eine breitere Unterstützung ist durch Open-Source-Tools auf Basis von MLIR möglich.

Es wird erwartet, dass das Peano-Projekt die Entwicklung von AMD NPU-nativen Anwendungen fördern wird, damit Software die verbesserten Recheneinheiten für komplexe KI-Aufgaben nutzen kann. AMD hat das Potenzial von Ryzen- und Radeon-Systemen mit Hilfe von Tools wie LM Studio gezeigt, das derzeit nur GPUs, aber keine NPUs nutzt, und damit zukünftige Möglichkeiten für Entwickler aufgezeigt.

Intels Wettbewerbsvorteil

Intel hat in diesem Bereich proaktiv gehandelt: Der Meteor Lake NPU Linux-Kernel wurde bereits als Upstream veröffentlicht und ein NPU-Plugin für die OpenVINO-Plattform zur Verfügung gestellt. Dies ermöglicht herstellerübergreifende Lösungen, so dass Entwickler verschiedene Architekturen problemlos integrieren und nutzen können.

Im Vergleich dazu waren die Entwicklungen von Qualcomms Snapdragon X-Serie in diesem Bereich weniger sichtbar, was auf einen möglichen Rückstand im Wettlauf um die KI-Beschleunigung hindeutet.

Die Einführung des Peano-Compilers ist ein Zeichen für AMDs Engagement, die KI-Fähigkeiten von Verbrauchergeräten zu verbessern. Da der Wettbewerb immer härter wird, könnte AMDs Open-Source-Ansatz Innovationen und eine breitere Akzeptanz von KI-Technologien im Alltag fördern. Weitere Informationen zu Peano und AMDs neuesten Entwicklungen findest du in der offiziellen Ankündigung von AMD.