Das Team um Professor Zhai Jidong vom Institut für Hochleistungsrechnen der Tsinghua-Universität und das Tsinghua-Spin-off Qingcheng Extreme Intelligence haben kürzlich eine aufregende Neuigkeit bekannt gegeben: die Open-Source-Inferenz-Engine „赤兔 Chitu“. Diese innovative Technologie markiert einen weiteren wichtigen Durchbruch Chinas im Bereich der KI, insbesondere in der Entwicklung von Inferenz-Engines.
Das Kernmerkmal der „赤兔 Chitu“-Engine ist ihre Fähigkeit, FP8-Präzisionsmodelle nativ auf GPUs ohne Nvidia Hopper-Architektur und verschiedenen inländischen Chips auszuführen. Dies bedeutet, dass Entwickler unabhängig davon, ob sie auf importierte oder inländische Chips angewiesen sind, diese Inferenz-Engine für eine effiziente KI-Modellinferenz nutzen können. Dieser Fortschritt fördert nicht nur die breite Anwendung inländischer KI-Chips, sondern bietet auch eine starke technologische Unterstützung für den Aufbau des chinesischen KI-Ökosystems.
Bildquelle: Das Bild wurde mit KI generiert und ist durch Midjourney lizenziert.
Tang Xiongchao, CEO von Qingcheng Extreme Intelligence, erklärte auf der Pressekonferenz, dass China im Bereich der Inferenz-Engines, einem zentralen Bestandteil, immer noch an produktionsreifen Open-Source-Produkten mangelt. Die Open-Source-Veröffentlichung von „赤兔 Chitu“ zielt darauf ab, diesen Engpass zu beseitigen und den Aufbau des chinesischen KI-Ökosystems zu unterstützen. Durch den offenen Quellcode können Entwickler und Forscher die Inferenz-Engine frei nutzen, modifizieren und optimieren, wodurch die Iteration und Innovation der chinesischen KI-Technologie beschleunigt werden.
Vor dem Hintergrund des zunehmenden globalen Wettbewerbs im Bereich der KI-Technologie bietet die Initiative des Tsinghua-Teams chinesischen Unternehmen neue Möglichkeiten in der KI-Entwicklung. Mit der „赤兔 Chitu“-Inferenz-Engine können Unternehmen schneller KI-Produkte entwickeln, die den Marktanforderungen entsprechen, und ihre Wettbewerbsfähigkeit steigern. Darüber hinaus wird die Open-Source-Methode weitere Entwickler für die KI-Forschung gewinnen und den technologischen Fortschritt gemeinsam vorantreiben.
Die Veröffentlichung von „赤兔 Chitu“ ist nicht nur eine technologische Innovation, sondern auch ein Schritt zur Vervollständigung der chinesischen KI-Wertschöpfungskette. Zukünftig wird erwartet, dass immer mehr Unternehmen und Entwickler dieses Tool nutzen, um im Meer der KI erfolgreich zu sein und eine neue Ära der chinesischen KI einzuleiten.