Intels neueste Arc Alchemist-Treiber bieten eine 2,7-fache Leistungssteigerung beim KI-Bildgenerator Stable Diffusion. Obwohl ein Teil dieses Anstiegs auf die gute alte Optimierung zurückzuführen ist, für die das Intel-Treiberteam bekannt ist, ist der größte Teil des Anstiegs Microsoft Olive zu verdanken. Microsofts Optimierungs-Toolchain für maschinelles Lernen verdoppelte die Arc-GPU-Leistung in Stable Diffusion von alleine, und das ist nicht einmal das erste Mal, dass wir so etwas in GPU-Treibern sehen.
Microsoft Olive ist eine Software, die im Grunde ein KI- oder maschinelles Lernmodell nimmt und dann alle Möglichkeiten findet, wie unterschiedliche Hardware es beschleunigen kann. Auch wenn dies ohne Olive nicht unmöglich ist, so macht es die auf KI fokussierte Toolchain doch sehr viel einfacher. Es gibt eine große Anzahl von KI-Hardware auf dem Markt, die von verschiedenen Unternehmen hergestellt wird, und die Möglichkeit, einen großen Schritt im Optimierungsprozess zu überspringen, ist wirklich praktisch.
Die Intel Arc Alchemist GPUs sind mit Xe Matrix Extensions (oder XMX) Kernen ausgestattet, die im Wesentlichen Intels Version der Tensor-Kerne von Nvidia sind. Diese Kerne können KI-Workloads wie Stable Diffusion beschleunigen. Frühere Treiber nutzten die XMX-Kerne jedoch nicht vollständig aus, und Olive allein steigerte die Leistung um das Zweifache, wenn es auf Intels bestehende Software angewendet wurde.
Die verbleibende Leistungssteigerung wurde durch die Optimierung des von Microsoft Olive erstellten Modells erreicht, und das Endergebnis war eine 2,7-fache Steigerung der stabilen Diffusion.
Dies ist nicht das erste Mal, dass wir einen so großen Leistungszuwachs in einer KI-Anwendung gesehen haben, und nicht einmal das erste Mal, dass dies speziell mit einem Grafikprozessor und Microsoft Olive passiert ist. Nvidia hat genau dieselbe Toolchain verwendet, um seine Treiber für Stable Diffusion zu optimieren, und dabei ebenfalls die doppelte Leistung erzielt.
AMD hat keine dedizierte KI-Hardware in seinen GPUs, aber die neueren RDNA 3-Grafikkarten sind bei Dingen wie Stable Diffusion deutlich besser als RDNA 2-GPUs. Obwohl AMD, soweit wir wissen, Microsoft Olive nicht zur Optimierung seiner Treiber verwendet hat, liefert das Unternehmen optimiertere Treiber für KI-Workloads. Vielleicht sollte AMD Olive als nächstes in Betracht ziehen, um zu sehen, ob es etwas für die Karten der RX 7000-Serie tun kann.
