先日、アメリカ連邦通信委員会（FCC）は、民主党の選挙戦略家であるスティーブ・クレイマー氏に600万ドルもの高額な罰金を科しました。
画像出典：AI生成画像、画像ライセンス提供元Midjourney
この事件の発端は、ニューハンプシャー州の予備選挙中に発信された一連の電話です。この電話では、AIで生成されたバイデン大統領の声を使用し、有権者に対し投票に行かないよう、11月まで投票を待つよう説得するという内容でした。この行為は、国民の強い関心を集めただけでなく、クレイマー氏は候補者になりすまし、贈賄、脅迫などの複数の重罪で連邦大陪審による起訴に直面することになりました。
クレイマー氏は今年2月、このロボット電話作戦の立案を認めています。彼はかつてミネソタ州の議員であり大統領候補でもあったディーン・フィリップスの顧問を務めており、これらの電話は政治活動におけるAIの潜在的な危険性を明らかにするためのものであったと主張しています。
しかし、FCCはこの主張を受け入れず、FCC執行局長のロイヤン・エガル氏は、この生成AI技術と電話偽装の悪用は、選挙を深刻に妨害し、民主主義の根幹を脅かすと述べています。
クレイマー氏は、Voice Broadcasting Corp.という会社に電話の配信を委託し、同社はテキサス州のLife Corp.を通じてこれらの電話を中継していました。FCCは、これらの電話は最高レベルの着信表示認証が付けられており、他の通信事業者がこれらの電話を偽の通信として識別する可能性を低くしていたと指摘しています。
同時に、FCCはLingo Telecomにも200万ドルの罰金を科しました。これは、同社が電話詐欺において十分な「顧客を知る」措置を講じなかった可能性があり、着信表示データの信頼性に疑問が生じたためです。
注目すべきは、従来の迷惑電話やロボット電話は通常人間が管理していましたが、現在のAIシステムはこれらのタスクを自動化できるようになり、AIツールの音声と音声生成能力を活用することで、新たな課題をもたらしていることです。
要点：
1. 💰 FCCは、AIを使ってバイデン大統領の声を偽造し、有権者の投票を妨害したとして、民主党の選挙戦略家クレイマー氏に600万ドルの罰金を科しました。
2. 📞 クレイマー氏はこれらの電話の作成を認め、政治活動におけるAIのリスクを警告するためだったと主張しました。
3. ⚖️ FCCは、電話の配信に関与したLingo Telecomにも、着信者の身元を有効に検証できなかったとして、200万ドルの罰金を科しました。
