In China gibt es anscheinend eine Menge ungenutzter KI- und HPC-GPUs von Nvidia.
01.AI, ein in China ansässiges Startup-Unternehmen für künstliche Intelligenz, hat sich auf eine Einkaufstour begeben und genügend KI-GPUs von Nvidia beschafft, um 18 Monate lang weiter zu wachsen, so sein Gründer Kai-Fu Lee in einem kurzen Interview mit Bloomberg. Dies war ein kluger Schachzug, da die USA gerade den Export dieser GPUs nach China eingeschränkt haben.
„Wir haben eine Menge Nvidia-Chips gehortet“, sagte Lee.
Chinesische KI-Firma hat vor dem Exportverbot 18 Monate lang Nvidia-GPUs gelagert
Um ehrlich zu sein, ist nicht ganz klar, was „18 Monate Nvidia“-GPU bedeutet. Wenn Unternehmen größere Modelle entwickeln, brauchen sie mehr Rechen-GPUs, um sie zu trainieren, und noch mehr GPUs, um sie zu nutzen. Vielleicht meinte Kai-Fu Lee, der früher bei Apple, Microsoft und Google gearbeitet hat, dass das Unternehmen eine Roadmap mit größeren Modellen und GPU-Anforderungen hat und dass das Unternehmen über genügend GPUs verfügt, um die Roadmap für etwa 1,5 Jahre umzusetzen. Andererseits ist nicht bekannt, wie komplex diese Modelle sind und wie viele GPUs sie benötigen.
https://t.co/ylJtTsF7S6 is a bold but long-awaited endeavor for my pursuit of AI over 4 decades. Proud to introduce the world’s top open-source model Yi-34B as our first release to the developers‘ community encouraging fantastic LLM projects with a moderate-size, high-performing… https://t.co/jfjUcIpCiT
— Kai-Fu Lee (@kaifulee) November 6, 2023
In jedem Fall verlässt sich 01.AI vorerst auf die Hardware und das CUDA-Software-Framework von Nvidia. Kai-Fu Lee ist skeptisch, ob China in der Lage ist, in den nächsten anderthalb Jahren eigene KI-Prozessoren und die zugrundeliegende Software zu entwickeln, die mit Nvidias KI- und HPC-GPUs konkurrieren können, denn dann wird der Vorrat an Nvidia-Chips bei 01.AI aufgebraucht sein.
„Es bleibt abzuwarten, ob China in 1,5 Jahren gleichwertige oder annähernd gleich gute Chips herstellen kann“, so Lee.
Lee bedauert dies aufgrund der anhaltenden Spannungen zwischen China und den USA. Die Technologiewelt wird weitgehend geteilt sein, da China sich auf seine eigenen Modelle und vielleicht auch Standards verlassen wird, während die USA und der Rest der Welt ihre eigene Technologie entwickeln werden.
„Wir werden zwei Paralleluniversen haben“, sagte Lee. „Die Amerikaner werden ihre Produkte und Technologien in die USA und andere Länder liefern, und die chinesischen Unternehmen werden für China und alle, die chinesische Produkte verwenden, bauen. Die Realität ist, dass sie auf demselben Markt kaum miteinander konkurrieren werden.“
01.AI hat sein eigenes großes Sprachmodell namens Yi-34B entwickelt, das Lllama 2 in einigen Bereichen übertrifft. Das Unternehmen plant, mit dem Verkauf spezialisierter Versionen von Yi-34B und Anwendungen an Kunden Geld zu verdienen.
