OpenAIが最近発表した画像生成モデル「4o」は、画像内のテキスト生成において驚くべき性能を示しており、特に偽造文書作成において一部ユーザーから「新しい寵児」として注目されています。偽の領収書、偽の処方箋、偽造パスポートなど、様々な問題が続出しており、懸念が高まっています。
ソーシャルメディアでは、Menlo Venturesの投資家であるDeedy Das氏が、サンフランシスコの有名ステーキハウスでの豪華な食事の偽の領収書の写真を投稿しました。Das氏はツイートで「4oを使って偽の領収書を作ることができます」と述べ、多くの現実世界の検証プロセスが「本物の画像」に依存している現状において、大きな変化をもたらすとして注目を集めています。
この偽の領収書は一見すると非常に本物らしく、詳細な複数コースのメニュー、正確な小計とチップ計算が含まれています。さらに、ユーザーは生成された画像にリアルなフィルターや食べこぼしの加工を加え、経費不正に完璧なツールを提供しています。
技術の進歩に伴い、OpenAIの画像生成能力は著しく向上しました。以前のモデルでは文字の再現にしばしば文字化けや面白いフレーズが発生していましたが、4oではこれらの問題はほとんど解消されています。ユーザーは豪華なディナーの偽の領収書だけでなく、ゾロフトなどの規制薬物の偽の処方箋さえ作成できるようになりました。
この現象は、AIによる偽造文書作成に対する広範な懸念を引き起こしています。偽造文書作成能力は、偽造税金申告書、銀行小切手、身分証明書、出生証明書など、様々な違法行為を容易にします。この流れに対して、既存の文書検出手段が効果的に対応できるかどうかは依然として不明です。一部のAI企業は、生成された画像を識別するために追加のメタデータや透かしを使用する試みを開始していますが、これらの対策では不正行為を完全に阻止することは難しいようです。
2015年の調査によると、回答者の85％がより多くの経費精算を得るために嘘をついたことがあると認めています。これらの不正行為は、内部統制の欠如や不備のある買掛金処理プロセスによって、しばしば発見が遅れる傾向があります。言い換えれば、現代においては、インターネットで見かける情報の真偽を判断することが非常に困難になっています。
要点：
📄 OpenAIの新しい画像生成モデル「4o」は、容易に偽の領収書や処方箋を作成でき、懸念されています。
💻 以前の画像生成モデルは文字の生成が困難でしたが、「4o」の能力は著しく向上しています。
🛡️ 偽造文書作成能力は、既存の検出手段の有効性に対する疑問を投げかけています。
