Entscheidende Verbesserungen der KI-Leistung wurden in aktuellen Benchmarks gezeigt, bei denen die Strix Halo APU die diskrete NVIDIA GeForce RTX 5080 (Test) in Szenarien, die viel VRAM benötigen, übertraf. Anders als die GeForce RTX 5080, die auf 16 GB dedizierten VRAM beschränkt ist und sogar die größere GeForce RTX 5090 (Test) mit 32 GB kann der Ryzen AI MAX+ 395 bis zu 128 GB Unified Memory nutzen. Außerdem können bis zu 96 GB dieses Speichers über den variablen Grafikspeicher in VRAM umgewandelt werden, was bei LLM-Modellen mit mehr als 16 GB VRAM einen deutlichen Leistungsschub von bis zu 3,05x ermöglicht.

AMD Ryzen AI MAX+ 395 LLM Benchmarks Tokens Per SecondAMD Ryzen AI MAX+ 395 LLM Benchmarks Tokens Per Second (Bild © AMD)

Die Leistungskennzahlen der APU bei KI-Aufgaben sind beeindruckend: Sie liefert einen bis zu 2,2x besseren Token-Durchsatz im Vergleich zum Intel Arc 140V, eine bis zu 4x schnellere Time-to-First-Token für kleinere Modelle wie Llama 3.2 3B Instruct und eine bis zu 9,1x bzw. 12,2x schnellere Verarbeitung für Modelle mit 7-8B bzw. 14B Parametern im Vergleich zum Intel Core Ultra 258V. Nebenbei zeigt er bei Bildverarbeitungsmodellen Verbesserungen von bis zu 7x schneller in IBM Granite Vision 3.2 3B, bis zu 4,6x schneller in Google Gemma 3 4B und bis zu 6x schneller in Google Gemma 3 12B Szenarien.

AMD Strix Halo Ryzen AI MAX+ 395 APU LeistungAMD Strix Halo Ryzen AI MAX+ 395 APU Leistung (Bild © AMD)

Die Strix Halo APU wurde für Consumer-KI-Workloads wie llama.cpp-basierte Anwendungen und LM Studio entwickelt und bietet eine starke integrierte Lösung, die sich in Szenarien auszeichnet, in denen eine große Speicherkapazität entscheidend ist. Obwohl diskrete GPUs wie die RTX 5080 in der Regel eine bessere Leistung für Modelle mit begrenztem VRAM bieten, hat die Ryzen AI MAX+ 395 APU durch ihre Fähigkeit, bis zu 128 GB Speicher zu nutzen, einen erheblichen Vorteil für fortgeschrittene KI-Anwendungen und profitiert gleichzeitig von einem geringeren Stromverbrauch im Vergleich zu diskreten Optionen, die 360 W bis 575 W benötigen.

AMD Strix Halo Ryzen AI MAX+ 395 APUAMD Strix Halo Ryzen AI MAX+ 395 APU (Bild © AMD)

Diese Fortschritte machen die Strix Halo APU zu einer leistungsstarken und effizienten Option für Nutzer, die robuste KI-Inferenzen auf einer Single-Chip-Lösung benötigen, und schließen die Lücke zwischen Leistung und Energieeffizienz in Verbrauchergeräten.