アップル社は最近、人工知能研究における大きな進歩を示す2つの論文を発表しました。その中の1つの新技術は、複雑なAIシステムをiPhoneやiPadなどのメモリ容量の少ないデバイスでスムーズに動作させる可能性を秘めています。
アップルの技術者たちは、フラッシュメモリからメモリへのデータ転送を最小限に抑えるための様々な手法を用いることで、推論の遅延を4～5倍向上させ、GPUでの処理速度を20～25倍高速化することに成功しました。
この画期的な技術は、リソースの限られた環境で高度な言語モデルを展開する上で特に重要であり、適用性とアクセシビリティを大幅に向上させます。アップルのユーザーにとって、これらの最適化により、複雑な人工知能アシスタントやチャットボットが、iPhone、iPad、その他のモバイルデバイスでまもなくスムーズに動作するようになるでしょう。
