MetaのFAIRチームは最近、Dualformerという新しいTransformerモデルを発表しました。このモデルは人間の二重認知システムを模倣し、高速推論と低速推論のモードをシームレスに統合することで、推論能力と計算効率において顕著な進歩を遂げています。人間の思考過程は一般的に、2つのシステムによって制御されていると考えられています。システム1は高速で直感的であり、システム2はより低速ですが論理的です。従来のTransformerモデルは、通常システム1またはシステム2のどちらか一方のみを模倣していました。

これは、専門家でなくても使用できるように設計されたインタラクティブな可視化ツールです。このツールを使用すると、ブラウザ上で直接GPT-2モデルを実行し、モデルがどのように段階的にテキストを読み取り、次の単語を予測していくかをリアルタイムで観察できます。