新たな研究で、嘘を見抜くことを容易にする新しいAIツールが開発されましたが、その使用には賛否両論があります。
従来のポリグラフ（嘘発見器）は、呼吸数、脈拍、血圧、発汗量を測定することで嘘を判断すると言われてきましたが、この85年の歴史を持つ技術は、科学者によって既に不正確であることが証明されています。基本的に、偽陽性の可能性と結果解釈の主観性によって、ポリグラフの実用性は大きく損なわれています。特筆すべきは、その結果はアメリカの法廷では通常認められないということです。
画像出典：AI生成画像、画像ライセンス提供元Midjourney
2024年現在、研究者たちは人工知能がこの問題解決に役立つのかどうかを問いかけています。科学雑誌『iScience』に掲載された新たな研究で、ヴュルツブルク大学経済学者のAlicia von Schenk氏率いる研究チームは、AIツールが役立つ可能性があることを発見しました。しかし、『MITテクノロジーレビュー』が報じているように、このツールは実験参加者による告発の増加をもたらしており、これはアルゴリズムによる人間の直感の代替という遠大なリスクに関する新たな警告となります。
研究者たちは参加者に週末の予定に関する声明を書かせました。嘘をつき、それがばれなければ、少額の報酬が与えられました。その後、収集された声明を用いて、Googleの大規模言語モデルBERTに基づくアルゴリズムが訓練されました。科学者たちは、このアルゴリズムが、特定の声明が嘘かどうかを67％の成功率で判別できることを発見しました。これは、正解率が50％程度の人間を大幅に上回るものです。
Von Schenk氏と彼女の同僚は、その後、別のボランティアグループに、このアルゴリズムを使って嘘を見抜くか、自身の直感に頼るかを選択させました。参加者の3分の1だけがこのツールを使用することに同意しましたが、彼らは強力なユーザーとなりました。
ツールを使用しなかった人々は、声明の平均19％を嘘だと判断しました。しかし、ツールを使用した人々は、声明の58％を嘘だと判断し、告発率が大幅に上昇しました。「この発見は真実デフォルト理論を支持し、嘘発見に関する文献で一般的に観察される一般的な発見を再現しています。それは、人々は通常、他人を嘘つきだと非難しないことを示しています」と論文には書かれています。「その潜在的な理由は、単にそれが苦手であり、自分自身と非難された者への誤った告発のコストを支払うリスクを減らしたいと考えていることです。この見解を支持する証拠として、私たちの研究では、人々は真実の声明と虚偽の声明をうまく識別することができませんでした。」
技術的な欠陥があるにもかかわらず、AIの使用によって加速しているインターネット上の虚偽情報の蔓延を考慮すると、このようなツールは重要な役割を果たす可能性があります。AIシステム自体も嘘をつき、人を欺く能力が向上しており、これはディストピア的な傾向であり、防御体制の構築を促すべきです。
要点：
- 📌研究者たちは、嘘を見抜くことを容易にする新しいAIツールを開発しました。
- 📌このツールの使用により、実験参加者による告発が全体的に増加し、アルゴリズムによる人間の直感の代替という遠大なリスクに関する新たな警告となっています。
- 📌技術的な欠陥があるにもかかわらず、インターネット上の虚偽情報の蔓延を考慮すると、このようなツールは重要な役割を果たす可能性があります。
