Die KI-Branche steht vor einem bedeutenden Wendepunkt: Führende Unternehmen ändern ihre Entwicklungsstrategie und verlagern den Fokus von immer größeren Sprachmodellen auf die Verbesserung der Denkfähigkeit der Modelle. Dieser Wandel wird die Entwicklung der gesamten KI-Branche neu gestalten.
Laut Reuters stehen die wichtigsten KI-Labore vor Herausforderungen. Die Entwicklung großer Sprachmodelle erfordert nicht nur Investitionen in Millionenhöhe, sondern führt auch häufig zu Systemabstürzen und anderen technischen Problemen. Die Bewertung der Leistung eines Modells kann Monate dauern.
Dieser Entwicklungsstau betrifft bereits Branchenriesen. Berichten zufolge bietet das neue Orion-Modell von OpenAI nur begrenzte Verbesserungen gegenüber GPT-4, und Googles Gemini 2.0 steht vor ähnlichen Problemen. Bei Anthropic erklärt CEO Dario Amodei eine Neuplanung der Entwicklung von Opus 3.5.
Bildquelle: Das Bild wurde mit KI generiert, Bildrechte liegen bei Midjourney.
Ilya Sutskever, ehemaliger Mitbegründer von OpenAI und aktueller Leiter von Safe Superintelligence (SSI), stellt fest: „Die 2010er Jahre waren das Jahrzehnt des Skalierens, jetzt sind wir in einer Phase der Exploration und Entdeckung.“ Diese Aussage ist besonders bemerkenswert, da Sutskever einst ein Verfechter des „Je größer, desto besser“-Prinzips war.
Die neue Richtung der Branche zielt auf „Berechnung zur Laufzeit“ ab, d. h. KI-Modellen wird mehr Zeit gegeben, um schrittweise über Probleme nachzudenken und diese zu lösen. Diese Methode konzentriert sich auf die Förderung der Schlussfolgerungsfähigkeit von KI-Systemen, so dass sie mehrere Lösungen generieren und bewerten können, anstatt einfach schnell zu antworten.
Dieser Wandel könnte sich auch auf die Marktlandschaft im Hardware-Bereich auswirken. Obwohl Nvidia im Bereich der traditionellen KI-Trainingshardware führend ist, bietet das neue Berechnungsmodell Chancen für andere Chiphersteller wie Groq. Es wird jedoch erwartet, dass in Zukunft sowohl traditionelle als auch neue Methoden eingesetzt werden, um optimale Kosten-Nutzen-Verhältnisse zu erzielen.
Mehrere Branchenexperten sind der Ansicht, dass die Entwicklung traditioneller Sprachmodelle zwar weitergehen wird, der Schwerpunkt der Branche sich jedoch verlagert hat. Dies markiert den Eintritt der KI-Entwicklung in eine neue Phase, die stärker auf Qualität und Denkfähigkeit ausgerichtet ist.