AMD gab auf der Computex 2024 einen Ausblick auf seine EPYC-Prozessoren mit Zen-5-Architektur. Der Hersteller wollte seine neuen Prozessoren auch mit dem Intel-Prozessor Xeon Platinum 8592+ vergleichen. Einige von AMD veröffentlichte Diagramme lassen vermuten, dass die Prozessoren von AMD besser abschneiden.
AMD-Chefin Lisa Su stellte auf der diesjährigen Computex ihre neuen EPYC-Prozessoren vor, die mit einer Zen-5-Architektur ausgestattet sind. Sie verglich die Prozessoren mit dem Xeon Platinum 8592+ von Intel und veröffentlichte einige Diagramme. Die Prozessoren von AMD sollen um 2,5 bis 5,4 besser als die Konkurrenz von Intel sein.
Sind Benchmarks direkt vom Hersteller fair?
Bei einem solchen Vergleich kommt die Frage auf, welchen Wert ein Benchmark hat, das direkt vom Hersteller kommt, und wie fair es ist. Mitunter stellen die Hersteller faire Vergleiche auf, doch sollte ein Blick auf die Fußnoten nicht vergessen werden. Eine wichtige Rolle spielt im Datacenter-Segment die verwendete Software.
Häufig wird bei HPC/AI-Beschleunigern und Prozessoren ein optimierter Software-Stack verwendet. Bei der Nutzung von Hardware von AMD wird auch die dafür optimierte Software eingesetzt. Nicht anders sieht es bei Produkten von Intel aus, für die ebenfalls die optimierte Software verwendet wird.
Bereits Benchmark-Korrektur von Nvidia erfolgt
Intel kontert gegen das Benchmark von AMD und behauptet unter anderem, dass AMD nicht die richtige Software verwendet hat. Bereits im vergangenen Jahr wurde ein Benchmark von AMD korrigiert, jedoch durch Nvidia. Damals ging es um den Instinct-MI300X-Beschleuniger von AMD im Benchmark mit dem H100-Beschleuniger von Nvidia. AMD sah sich weit vor Nvidia. Nvidia wies im vergangenen Dezember darauf hin, dass AMD nicht das optimierte TensorRT-LLM-Framework für den Test genutzt hat. Mit diesem Framework würde AMD hinter Nvidia liegen.
Kritik von Intel aufgrund der verwendeten Software
Intel ist der Meinung, dass AMD den Xeon Platinum 8592+, der zur Emerald Rapids Reihe gehört, zu schlecht dargestellt hat. Es geht auch hier um die LLM-Testreihe, in der AMD mit dem EPYC-Prozessor besser abschneidet als Intel. Auch Intel wirft AMD vor, dass nicht der optimierte Software-Stack verwendet wurde. Aus der Darstellung geht nicht klar hervor, welche Software AMD genutzt hat.
Mit Intel Extension for PyTorch (IPEX) ist eine PyTorch-Optimierung für Intels Xeon-Prozessoren verfügbar. Mit ihr ergibt sich bei zwei Xeon Platinum 8592+ ein Durchsatz von 686 Anfragen. Ohne diese PyTorch-Optimierung sind nur 125 Anfragen möglich. Im Test verfügen die beiden Xeon Platinum Prozessoren für das Inferencing in INT4 über insgesamt 128 Kerne. Die vorgegebenen Latenzen in einer auf Llama2 7B basierenden Chatbot-Anwendung liegen bei 50 ms.
AMD gibt für seine unter dem Namen Turin bekannten Prozessoren, von denen zwei zum Einsatz kommen, insgesamt 256 Kerne an. Dabei ergibt sich ein Wert von 671 Anfragen. Mit deaktivierter SNC wäre laut Intel sogar ein Durchsatz von 740 möglich gewesen.
Intel widerspricht dem Konkurrenten
Intel widerspricht AMD konkret für einen Benchmark. Laut Intel fallen alle anderen Anwendungsbereiche mit der optimierten Software deutlich besser aus. Dazu gehören Übersetzungen in der LLM-Token-Erzeugung und Textzusammenfassungen. Die Leistung des Intel-Prozessors könnte um 2,3 bzw. 1,2 steigen, ist aber nicht so gut wie beim Turin-Prozessor von AMD. Die aktuelle EPYC-Plattform von AMD verfügt über zwölf Speicherkanäle. Bei Emerald Rapids von Intel sind nur acht Speicherkanäle vorhanden.
Wahrscheinlich nicht die letzte Auseinandersetzung
Intel und AMD haben wahrscheinlich noch nicht die letzte Auseinandersetzung aufgrund eines Benchmarks oder Vergleichs geführt. Die EPYC-Generation von AMD, die auch unter dem Namen Turin geführt wird, könnte sich auch mit den Xeon-6-Modellen von Intel vergleichen, die gerade erst vorgestellt wurden. Im ersten Schritt werden diese Modelle nur in der kleinen E-Kern-Version angeboten. Erst im dritten Quartal 2024 kommen große Granit Rapids auf den Markt, die über bis zu 128 P-Kerne verfügen. Die Plattform von Intel hat dann auch zwölf Speicherkanäle.
Vergleich der Ryzen-Prozessoren ebenfalls fragwürdig
AMD stellte auf der Computex noch weitere Produkte vor und zeigte Leistungsvergleiche. Grund zur Kritik könnte auch der Vergleich der Ryzen-Prozessoren bieten. AMD stellte die beiden Prozessoren für den Sockel AM4, Ryzen 7 5800XT und Ryzen 9 5900XT, vor und lieferte Benchmarks. In den Spielen sah sich AMD gleichauf mit Intels Core i7-13700K und Core i5-13600KF.
Ein Blick auf die Fußnoten macht deutlich, dass sich AMD mit der verwendeten Grafikkarte Radeon RX 6600 wahrscheinlich im Limit der GPUs bewegt. Die Intel-Prozessoren arbeiten mit einem DDR4-Speicher, der jedoch kaum noch gefragt ist. Beim Leistungsvergleich dürfte die leistungsschwache Grafikkarte einen wichtigen Einfluss gehabt haben. AMD hat wahrscheinlich die Radeon RX 6600 verwendet, um seine Leistungswerte gut darzustellen.
Quellen: AMD, Intel, Nvidia, Hardware LUXX, Computer Base