Obwohl das Jahr 2024 noch nicht mal ganze vier Monate auf dem Buckel hat, gibt es schon jetzt wieder für die künstliche Intelligenz 50 neue Basismodelle. 2023 gab es 149 neue Modelle. Insgesamt zählt man in den USA schon über 109 KI-Modelle, zu denen unter anderem GPT-4 von OpenAI fällt. Wie ausgeprägt der Hype rund um KI-Modelle wirklich ist, hat sich die Stanford University genauer angesehen.
Der KI-Hype nimmt kein Ende, das beweist die Neuauflage des sogenannten AI Index Reports. Vor allem die Unsummen, die laut dem Instituts für Human-Centered Artificial Intelligence in die Entwicklung investiert werden, sind überraschend. Es gibt ein Wettrennen um die Vorherrschaft im KI-Markt. So ist auch recht schnell klar, dass es nur ein paar Organisationen und Länder sind, die hier ernsthaft mitwirken können.
109 neue KI-Modelle in 2023 allein aus Amerika
Im Jahr 2023 gab es aus den USA ganze 109 neue KI-Modelle. Aber auch andere Länder konnten zumindest etwas beitragen:
- 109: USA
- 20: China
- 8: Großbritannien
- 4: Vereinigte Arabische Emirate
- 3: Kanada
- Jeweils 2: Singapur, Israel, Deutschland, Finnland
- Jeweils 1: Taiwan, Schweiz, Schweden, Spanien, Frankreich
Dass Amerika in der Hinsicht führend ist, liegt laut Nestor Maslej von Stanford daran, dass es im Land viele KI-Forschungsinstitute gibt und dass in Amerika ein sogenanntes Wagniskapital verbreitet ist.
Wie viel investieren die Firmen in Trainingsdaten?
Damit neue KI-Modelle entstehen können, benötigen sie ein Training. Die Daten müssen dafür irgendwo her kommen. Firmen machen in der Regel ein Geheimnis daraus, wie viel Geld sie für die Trainingsdaten ihrer AI-Modelle ausgeben. Die Kosten wurden mithilfe öffentlicher Informationen von Epoch AI geschätzt:
- Transformer: 930 US-Dollar im Jahr 2017
- BERT-Large: 3.288 US-Dollar im Jahr 2018
- RoBERTa Large: 160.018 US-Dollar im Jahr 2019
- GPT-3 175B: 4.324.883 US-Dollar im Jahr 2020
- Megatron-Turing NLG 530B: 6.405.653 US-Dollar im Jahr 2021
- LaMDA: 1.319.586 US-Dollar im Jahr 2022
- PaLM 540B: 12.389.056 US-Dollar im Jahr 2022
- GPT-4: 78.352.034 US-Dollar im Jahr 2023
- Llama 2 70B: 3.931.897 US-Dollar im Jahr 2023
- Gemini Ultra: 191.400.000 US-Dollar im Jahr 2023
Zu den Trainingskosten zählten zum Beispiel die verwendete Hardware, aber auch die Cloud-Rechenleistung. Es gibt wohl auch datensparsame Modelle, aber zukünftig dürften die Trainingskosten dennoch weiter explodieren. Dario Amodei, Chef der KI-Firma Anthropic rechnet damit, dass die Trainingskosten künftig eine Milliarde US-Dollar erreichen könnten.
Welche Konzerne dominieren den KI-Markt?
Bei diesen gigantischen Summen ist es nicht weiter verwunderlich, dass vor allem große Firmen und Konzerne den Markt dominieren. Im Jahr 2023 kamen von Google ganze 18 neue KI-Modelle. Auch hier eine Übersicht:
- 18 Basismodelle: Google
- 11 Basismodelle: Meta
- 9 Basismodelle: Microsoft
- 7 Basismodelle: OpenAi
- 5 Basismodelle: Together
- Jeweils 4 Basismodelle: AI2, Anthropic und Hugging Face
- Jeweils 3 Basismodelle: Adobe, Cerebras, Shanghai AI Laboratory, Stability AI und UC Berkeley
- Jeweils 2 Basismodelle: DeepMind und Stanford University
Einen akademischen Ursprung haben tatsächlich nur weniger als 20 Prozent dieser neuen Modelle. Das liegt natürlich vor allem daran, dass sich keine Universität diese Trainingsdaten leisten könnte. Die Institute fokussieren sich bei ihren Modellen daher eher darauf, weitere Evaluierungsmethoden oder neue Modellarchitekturen zu erschaffen.
Anzahl an Patenten steigt rasant
An sich lassen sich KI-Modelle recht schwer schützen. Es gibt aber spezielle Patente für Architekturen beispielsweise oder andere Features. Generell ist ein extremer Anstieg an Patenten verzeichnet worden. 2022 lag dieser Wert von neuen KI-Patenten 63 Prozent höher als im Vorjahr. Dabei führen vor allem Länder wie Südkorea, aber auch Luxemburg die Liste der KI-Patentanmeldungen an.
Da die Länder allesamt unterschiedlich groß sind und daher auch eine Varianz in der Einwohnerzahl besteht, lassen sich derartige Zahlen nur schlecht vergleichen. Deswegen wurde die Zahl der erteilten KI-Patente je 100.000 Einwohner nach Ländern unterteilt, damit eine Vergleichbarkeit entsteht:
- Südkorea: 10,26
- Luxemburg: 8,73
- USA: 4,23
- Japan: 2,53
- China: 2,51
- Singapur: 2,06
- Australien: 1,91
- Kanada: 1,25
- Deutschland: 0,66
- Dänemark und Finnland: jeweils 0,56
- Großbritannien: 0,42
- Neuseeland und Frankreich: jeweils 0,33
- Litauen: 0,28
Firmen sind sehr interessiert am Thema
Durch den Standford AI Index wird auch thematisiert, wie interessiert Firmen weltweit am Thema KI sind. Dabei hat man sich exemplarisch mit den 500 umsatzstärksten Firmen von Amerika beschäftigt (den Fortune 500). Bei durchschnittlich vier von fünf dieser Unternehmen (also 80 Prozent) ist in Analystenkonferenzen KI ein Thema.
Witzig ist aber, dass in einer anderen Analyse herausgefunden wurde, dass zwar in Telefonkonferenzen generell zu 40 Prozent über KI gesprochen wird, die künstliche Intelligenz aber nur in 16 Prozent der Unterlagen erwähnt wird. Was bedeutet das? Es wird viel geredet, aber noch wenig festgesetzt?
Wir sind auf die Zukunft gespannt und darauf, wenn derartige Studien erneut aktualisiert werden. Wird es 2024 wieder drastische Anstiege geben? Davon ist zumindest auszugehen.
Quellen: Stanford University, Institut für Human-Centered Artificial Intelligence, Epoch AI, New York Times, Alphasense
