最近、「ロボット弁護士」企業DoNotPayが、アメリカ連邦取引委員会（FTC）と合意し、19万3000ドルの罰金を支払うことになりました。これは、FTCがAIサービスを利用して消費者を欺く企業に対する「AIコンプライアンス行動」の一環です。
画像出典：AI生成画像、画像ライセンス提供元Midjourney
FTCの声明によると、DoNotPayはAIで2000億ドル規模の法律業界を代替すると主張し、「ロボット弁護士」が法律文書を作成でき、人間の弁護士の専門知識を完全に代替できるとまで述べていました。しかし、FTCは、DoNotPayがこれらの主張をする際に、それを裏付けるテストが全く行われていなかったと指摘しています。
訴状には、DoNotPayのサービス技術が、包括的で最新の連邦法および州法、規制、司法判決に基づいて訓練されておらず、これらの法律が具体的な事実にどのように適用されるかについてもテストが行われていなかったと記載されています。さらに重要なのは、DoNotPayの従業員が、法律関連機能によって生成された法律文書やアドバイスの質と正確性をテストしていなかったことです。また、DoNotPayは弁護士を雇用したり、関連する法律専門知識を持つ弁護士に相談してサービスの質と正確性を検証したりしていませんでした。
訴状には、DoNotPayが消費者に、人間の弁護士を雇わずにAIサービスを通じて権利侵害を訴訟できると伝え、そのサービスは消費者のメールアドレスだけで中小企業のウェブサイトに法的違反がないかチェックできると述べていたことも記載されています。同社は、このサービスを利用することで企業は最大12万5000ドルの法律費用を節約できると主張していましたが、FTCは、そのサービスは効果がないと述べています。
和解の一環として、DoNotPayは19万3000ドルの罰金を支払うことに同意し、2021年から2023年にかけて、消費者に同社の法律関連製品の限界について警告する通知を行います。さらに、DoNotPayは、証拠がない状態で、いかなる専門サービスも代替できると主張することをやめました。
DoNotPayへの罰則に加えて、FTCは、AIサービスを利用して顧客を誤解させる他の企業に対しても行動を起こしています。これには、AIライティングアシスタントサービスのRytrが含まれ、FTCは同社がユーザーにAI生成の偽レビューを作成するツールを提供していたと述べています。これに対して、FTCは最近、AI生成のレビューを含むすべての偽レビューの作成や販売を禁止する最終規則を発表しました。
最後に、FTCはAscend Ecomを訴訟し、同社が消費者を少なくとも2500万ドル詐取したと主張し、AIツールを通じてAmazonなどのECプラットフォームでネットショップを開設し、高額な月収を得られると約束していたと訴えています。
要点：
- 🤖 DoNotPay社は、ロボット弁護士サービスの有効性の証拠を提供できなかったため、19万3000ドルの罰金を支払うことに合意。
- ⚖️ FTCは、AIを利用して消費者を欺く企業に対する規制を強化し、Rytrなどの他の企業も罰則を受けています。
- 💰 Ascend Ecomは、AIツールを通じて高額な収入を得られると約束し、消費者を2500万ドル詐取したとして訴えられています。
