Apple hat kürzlich zwei Forschungsarbeiten veröffentlicht, die bedeutende Fortschritte im Bereich der künstlichen Intelligenz (KI) zeigen. Eine neue Technologie ermöglicht es, komplexe KI-Systeme auch auf Geräten mit begrenztem Arbeitsspeicher wie iPhones und iPads flüssig auszuführen.
Apples Ingenieure haben durch verschiedene Methoden den Datentransfer vom Flash-Speicher in den Arbeitsspeicher minimiert. Dies führte zu einer 4- bis 5-fachen Verbesserung der Inferenzgeschwindigkeit und einer 20- bis 25-fachen Beschleunigung auf der GPU. Dieser Durchbruch ist besonders wichtig für den Einsatz fortschrittlicher Sprachmodelle in ressourcenbeschränkten Umgebungen und verbessert deren Anwendbarkeit und Zugänglichkeit erheblich.
Für Apple-Nutzer könnten diese Optimierungen bald ermöglichen, dass komplexe KI-Assistenten und Chatbots auf iPhones, iPads und anderen mobilen Geräten flüssig funktionieren.
