研究によると、大規模言語モデルは米国証券取引委員会（SEC）の提出書類を分析する際に、しばしば正しくない回答を生成することが分かりました。AIモデルは架空の数字や事実を生み出したり、質問に回答することを拒否したりすることがあります。金融など規制の厳しい業界の大企業で実用化するには、より高い性能が求められます。AIモデルを実製品に適用する際の課題の一つに、非決定性があり、毎回同じ出力が保証されない点が挙げられます。