ユーザーがAIチャットボットとロールプレイングできるプラットフォーム、Character AIは先日、フロリダ州中部地区連邦地方裁判所に、1人のティーンエイジャーの保護者から提起された訴訟の棄却を申請しました。保護者のMegan Garcia氏は、Character AIの技術が14歳の息子Sewell Setzer III氏に損害を与えたと主張し、「Dany」というチャットボットとのやり取りを通じて、現実世界から徐々に孤立し、最終的に…

テキサス州の未成年者2名の親が、Googleが支援するCharacter.AIに対して、連邦製品責任訴訟を起こしました。同社のチャットボットが不適切なやり取りを通じて子供たちに精神的損害を与えたと主張しています。訴状では、チャットボットが自傷行為や暴力行為を助長したり、危険な感情情報を青少年に伝えたりしたと非難しています。Character.AIのチャットボットは、ユーザーが個性豊かで非常にリアルなバーチャルキャラクターと会話できるもので、親や友人、治療者などを模倣することも可能です。

Metaは最近、特に「ティーンエイジャー」と自称するユーザーの年齢を予測するために、人工知能を活用すると発表しました。システムが年齢詐称を疑う場合、ユーザーは自動的に青少年アカウントに移行されます。この決定は、ソーシャルメディアが若者のメンタルヘルスに与える影響に対する強い反発を受けてなされたもので、Metaは9月に13～17歳の青少年向けの新アカウントを導入しました。これらの青少年アカウントには、連絡できる人や閲覧できるコンテンツなど、多くの制限が組み込まれています。

Meta社は最近、Instagramプラットフォームで人工知能技術を使用してユーザーの年齢を予測し、年齢を偽って登録している疑いのあるユーザーを自動的に青少年アカウントへ移行すると発表しました。この措置は、ソーシャルメディアプラットフォームが青少年のメンタルヘルスに及ぼす影響に関する懸念の高まりを受けて導入されたもので、Meta社は今年9月に青少年アカウントを導入しています。青少年アカウントは13歳から17歳のユーザー向けに設計されており、誰が彼らに連絡できるか、そして彼らがどのようなコンテンツを見ることができるかを制限するなど、多くの制限機能が備わっています。また、当該アカウントは…

最近、Character.AIとその創設者であるNoam Shazeer氏とDaniel De Freitas氏、そしてGoogleは、1人の青年の自殺事件をめぐって訴訟を起こされました。訴えを起こしたのは、その青年の母親であるMegan Garcia氏で、訴状の中で、これらの企業は製品設計において重大な過失があり、特に子供たちに対して誤解を招くようなマーケティングを行ったと主張しています。画像注記：画像はAIによって生成されたもので、Midjourneyによる画像ライセンスサービスを利用しています。

韓国で青少年がディープフェイク技術を利用して作成したわいせつ動画が大きな社会問題となっています。ネット上の性犯罪が急増しており、警察は青少年教育の強化と指導、ネットセキュリティと倫理意識の向上を訴えています。Telegramでは学校や教職員を標的にしたわいせつ動画の投稿が複数報告されており、今年7月までにディープフェイク関連のネット犯罪が大幅に増加したことから、規制強化と法教育の実施を求める声が上がっています。

GoogleはAIチャットボットGeminiの大規模アップデートを実施し、性能向上、言語対応の拡大、および提供範囲の拡大を実現しました。Gemini 1.5 Flash版は40言語、230ヶ国/地域で利用可能になり、品質と応答速度が大幅に向上しました。特に推論と画像理解において顕著な改善が見られます。今回のアップデートには、32,000トークンのコンテキストウィンドウの拡張、ファイルアップロード機能、および生成された回答の下に関連するウェブリンクを表示する機能が含まれており、透明性を高めています。Geminiの機能はさらに多くのアプリケーション領域に拡大されます。

英国の情報コミッショナー事務所（ICO）が、Snap社の生成AIチャットボットに対し、予備的な執行通知を出しました。調査では、Snap社が『My AI』による子供やその他のユーザーのプライバシーリスクを十分に特定・評価できていなかったという懸念が示されていますが、調査結果は現時点では不確定です。Snap社はICOと協力してリスク評価手順を確保すると約束しており、このAIボットはリリース前に法的およびプライバシーの審査を受けています。Snap社のAIボットはOpenAIのChatGPTをベースとしており、親への通知機能と冒とく防止機能を備えています。

FBI専門家は、青少年が人工知能技術を利用してディープフェイクヌード写真を生成し、同級生を悪意を持って攻撃し、家族に恥ずかしさと恐怖を与えていると警告しています。この技術はもはや有名人やソーシャルインフルエンサーのみに限定されず、中学生や高校生が他の子供をいじめするために使用されています。FBIは、ソーシャルメディア、出会い系アプリ、その他のオンラインプラットフォームで個人写真や動画を投稿する際には注意を払うよう国民に促しています。

4000以上の潜在的リスク要因を収集し、機械学習モデルを用いて分析を行いました。モデルは、うつ病や不安などの精神的問題が最も重要であることを明らかにしました。過去の行動のみを考慮したモデルと比較して、将来のリスクをより正確に予測できます。