Computer Forum
Instinct MI300X: Was steckt dahinter?
Die AMD Instinct MI300X Beschleuniger sind mit der neuesten AMD CDNA 3 Architektur und "Zen 4" CPUs ausgestattet. Sie bieten eine beeindruckende Speicherbandbreite und sind ideal für das Training und Inferencing großer Sprachmodelle (LLMs). Insbesondere der MI300X verfügt über eine hohe Speicherkapazität von 192 GB und eine Spitzen-Speicherbandbreite von 5,3 TB/s und ist damit für anspruchsvolle KI-Aufgaben geeignet.
AMD zeigt Instinct MI300X und MI300A KI-/ML-Beschleuniger und ROCm 6 (Bild © AMD)
Instinct MI300A Beschleuniger
Die AMD Instinct MI300A APUs hingegen sind einzigartig, da sie GPU- und CPU-Kerne mit fortschrittlicher Speichertechnologie kombinieren. Sie sind auf Effizienz und Leistung ausgelegt und verwenden 3D-Packaging und die AMD Infinity Architecture der 4. Dieses Design ermöglicht eine ~1,9-fach bessere Leistung pro Watt im Vergleich zu den Vorgängermodellen.
AMD zeigt Instinct MI300X und MI300A KI-/ML-Beschleuniger und ROCm 6 (Bild © AMD)
Es wird erwartet, dass diese neuen Produkte den Cloud- und Unternehmenseinsatz erheblich beeinflussen werden. Microsoft Azure zum Beispiel integriert die AMD Instinct MI300X Beschleuniger in seine neue Azure ND MI300x v5 Virtual Machine Serie. Der El Capitan Supercomputer, der von AMD Instinct MI300A APUs angetrieben wird, soll eine Leistung von über zwei Exaflops erreichen.
AMD zeigt Instinct MI300X und MI300A KI-/ML-Beschleuniger und ROCm 6 (Bild © AMD)
Große OEMs wie Dell, HPE, Lenovo und Supermicro stellten Computersysteme vor, die mit diesen neuen AMD-Technologien ausgestattet sind. Dell stellte den PowerEdge XE9680 Server mit acht AMD Instinct MI300 Series Beschleunigern vor, während HPE den HPE Cray Supercomputing EX255a ankündigte, den ersten Supercomputing-Beschleuniger-Blade mit AMD Instinct MI300A APUs.
AMD zeigt Instinct MI300X und MI300A KI-/ML-Beschleuniger und ROCm 6 (Bild © AMD)
ROCm 6 bringt bessere Integration
Die Fortschritte von AMD erstrecken sich auch auf die Software und die Einführung der offenen Softwareplattform ROCm 6. ROCm 6 bietet eine erhebliche Steigerung der KI-Beschleunigungsleistung und unterstützt wichtige Funktionen für generative KI. Es ist Teil des Engagements von AMD für die Entwicklung von Open-Source-KI-Software, mit dem Ziel, den Einsatz von KI-Lösungen zu vereinfachen und generative KI-Funktionen zu verbessern.
