Vor kurzem enthüllte Ethan Mollick, Professor an der Wharton School, Informationen über das Unternehmen Anthropic. Er berichtete, dass die PR-Abteilung von Anthropic klarstellte, dass die Trainingskosten des Flaggschiff-KI-Modells Claude 3.7 Sonnet „mehrere zehn Millionen Dollar“ betrugen und die verwendete Rechenleistung unter 10^26 FLOP lag. Er erwähnte auch, dass Anthropic ihm mitteilte, dass Sonnet 3.7 nicht als 10^26 FLOP-Modell betrachtet werde, zukünftige Modelle jedoch deutlich größer sein würden. TechCrunch hat zwar Anthropic zur Bestätigung kontaktiert, bis Redaktionsschluss jedoch keine Antwort erhalten.
Zuvor hatte Dario Amodei, CEO von Anthropic, bekannt gegeben, dass die Trainingskosten von Claude 3.5 (dem Vorgänger von Sonnet) bei der Veröffentlichung im Herbst 2024 ebenfalls mehrere zehn Millionen Dollar betrugen. Im Vergleich zu den Top-Modellen von 2023 ist dies ein recht günstiger Preis. Beispielsweise kostete die Entwicklung von GPT-4 von OpenAI über 100 Millionen Dollar, und eine Studie der Stanford University schätzt die Kosten für das Training des Gemini Ultra-Modells von Google auf fast 200 Millionen Dollar.
Amodei prognostiziert jedoch, dass zukünftige KI-Modelle Milliarden von Dollar kosten werden, und das noch ohne die Kosten für Sicherheitstests und Grundlagenforschung. Gleichzeitig könnten die Rechenkosten für den Betrieb von Modellen weiter steigen, da die KI-Branche „Inferenz“-Modelle einsetzt, die Probleme über einen längeren Zeitraum lösen können.
