Kürzlich haben Transsion Holdings und Alibaba Cloud eine Partnerschaft geschlossen, um das Tongyi Qianwen-Large Language Model (LLM) in das von Transsions Technologiemarke TECNO herausgebrachte KI-Handy PHANTOM V Fold2 zu integrieren und so eine tiefgehend lokalisierte „praktische KI“ zu schaffen.
Über eine spezielle KI-Taste können Benutzer das modellseitige LLM mit einem einzigen Tastendruck aufrufen und auch offline flüssige mehrstufige KI-Dialoge führen sowie Funktionen wie Dokument- und Anrufzusammenfassungen nutzen. Transsion und Alibaba Cloud haben bei diesem Handy in Zusammenarbeit mit MediaTek-Chips zahlreiche technische Innovationen umgesetzt, darunter Modell-Verkleinerung, Werkzeugkettenoptimierung, Inferenzoptimierung und Speichereffizienz.
Dank der effizienten GPU-Beschleunigung des von Alibaba Taobao Technology kürzlich Open-Source veröffentlichten MNN-LLM-Inferenz-Engines für Large Language Models konnte das LLM tatsächlich „in“ das Handy integriert werden. Im März dieses Jahres hat MediaTek, der weltweit größte Hersteller von Smartphone-Chips, das Tongyi Qianwen-LLM erfolgreich auf Flaggschiff-Chips wie dem Dimensity 9300 implementiert.
Transsion beschleunigt in den letzten Jahren die Entwicklung von modellseitiger KI-Technologie und erforscht Large Language Models und Interkonnektivitätstechnologien, Bild-AIGC-Technologien und KI-Sprachtechnologien für Minderheitensprachen. Transsion möchte die spezifischen Eigenschaften von Endgerät-KI-Funktionen noch gründlicher und detaillierter gestalten, um die tiefe Integration von KI und lokalen Lebensanwendungen voranzutreiben. Zukünftig wird Alibaba Cloud mit Transsion die Implementierung von Large Language Models auf Endgeräten weiter erforschen und weitere Modelle im Alibaba Cloud-Netzwerk bereitstellen, um Nutzern weltweit personalisierte und intelligente Erlebnisse zu bieten.