A Apple recentemente publicou dois artigos científicos que demonstram avanços significativos em sua pesquisa de inteligência artificial. Uma nova tecnologia promete permitir que sistemas de IA complexos funcionem suavemente em dispositivos com memória limitada, como iPhones e iPads.
Os engenheiros da Apple, através de uma série de métodos, minimizaram a transferência de dados da memória flash para a memória RAM, melhorando a latência de inferência em 4 a 5 vezes e acelerando a GPU em 20 a 25 vezes. Essa descoberta é particularmente importante para a implantação de modelos de linguagem avançados em ambientes com recursos limitados, aumentando significativamente a praticidade e acessibilidade.
Para os usuários da Apple, essas otimizações podem em breve permitir que assistentes de IA complexos e chatbots funcionem sem problemas em iPhones, iPads e outros dispositivos móveis.
