ChatGPTが最近リリースした4oモデルの画像生成機能が、セキュリティ上の懸念を引き起こしています。特に、リアルなテキストを生成する能力の向上が、詐欺師にとって新たなツールとなりうるからです。ソーシャルメディアでは、この機能を利用して本物そっくりの偽のレストランレシートを作成するユーザーが複数確認されています。
ベンチャーキャピタリストのDeedy Das氏は、Xプラットフォームで4oを使って生成されたサンフランシスコのステーキハウスの偽レシートを公開し、「現実世界では、多くの検証プロセスが『本物の画像』を証拠として依存しています。しかし、その時代は終わりました。」と強調しました。他のユーザーも同様の結果を再現しており、中にはリアルさを増すために食べ物の汚れを追加したユーザーもいます。
テストの結果、AI生成のレシートにはまだ明らかな欠陥（例えば、小数点の代わりにカンマを使用したり、計算ミスなど）がありますが、簡単な写真編集やより正確な指示で簡単に修正できます。この技術により、偽のレシートを作成するプロセスが簡素化され、「経費精算」での虚偽請求などの詐欺行為の可能性が高まっています。
これに対し、OpenAIの広報担当者Taya Christianson氏は、ChatGPTで生成されたすべての画像には、AIによる生成であることを示すメタデータが含まれており、利用規約に違反する行為には「対応する」と述べています。偽のレシートの生成を許可する理由について質問されたChristianson氏は、OpenAIの「目標は、ユーザーに可能な限り多くの創作の自由を与えること」であり、AIによるレシートは、金融教育、芸術創作、製品広告など、詐欺以外の場面でも使用できると説明しました。
