最近、MetaのチーフAI科学者であるYann LeCun氏は、自律型機械知能(AMI)が人々の日常生活を真に助けることができると述べています。MetaはLlamaモデルの推論能力向上に努めており、GPT-4oなどの最先端モデルに匹敵することを目指しています。
Metaの副社長であるManohar Paluri氏は、Llamaモデルが単に「計画」するだけでなく、意思決定をリアルタイムで評価し、状況の変化に応じて調整できるようにすることを模索していると述べています。「思考連鎖」技術を組み合わせたこの反復的なアプローチは、知覚、推論、計画を効果的に統合できる自律型機械知能の実現を目指しています。
さらに、Paluri氏は、「検証不可能な領域」におけるAI推論では、モデルが複雑なタスクを管理可能なステップに分解して動的に適応する必要があると強調しています。例えば、旅行の計画では、航空券の予約だけでなく、リアルタイムの天候の変化に対応し、ルートの再計画が必要になる可能性があります。Metaは最近、人間の認知過程における速い直感と遅い熟考の間を動的に切り替えることができるDualformerモデルを発表し、複雑なタスクを効果的に解決しています。
Llamaモデルのトレーニングについて、Metaは自己教師あり学習(SSL)を使用して、モデルが複数の領域で広範なデータ表現を学習し、柔軟性を高めるようにしています。同時に、強化学習と人間のフィードバック(RLHF)により、モデルの特定のタスクにおけるパフォーマンスが向上します。これら2つの組み合わせにより、Llamaモデルは、特に言語の特徴が不足している地域において、高品質の合成データ生成において優れたパフォーマンスを発揮します。
Llama4のリリースについて、MetaのCEOであるマーク・ザッカーバーグ氏はインタビューで、チームがLlama4の事前トレーニングを開始したことを明らかにしました。また、MetaはLlama4のための計算クラスターとデータインフラストラクチャを構築しており、大きな進歩になると述べています。Paluri氏はユーモラスに、ザッカーバーグ氏にリリース時期を尋ねると「今日」と言うかもしれないと述べ、同社のAI開発の急速な進歩を強調しました。
Metaは今後数ヶ月以内に新しいLlamaバージョンのリリースを続け、AI能力の向上を目指しています。頻繁なアップデートにより、開発者は毎回のリリースで大幅なアップグレードを期待できます。
要点:
- 🤖 MetaのチーフAI科学者は、自律型機械知能が日常生活の改善に役立つと考えています。
- 🚀 Llamaモデルは、自己教師あり学習と強化学習を組み合わせることで、複数の領域における推論能力を向上させます。
- 📅 Llama4の事前トレーニングは開始されており、2025年前後にリリースされる予定です。