2月18日、大衆点评は『2024年口コミ透明度レポート』を発表し、プラットフォームの口コミ審査メカニズムとガバナンスの成果を初めて公開しました。レポートによると、2024年、プラットフォームは「AI＋人」による多重審査システムを通じて、年間2000万件を超える違反口コミを処理し、6万件を超える違反店舗を処罰し、156万件を超える「低評価嫌がらせ」行為を阻止しました。さらに、虚偽口コミや不正行為による大量注文などの問題に対処するため、プラットフォームは不正行為対策技術、数百種類のリスク管理モデルからなるAIによる自動審査、人的審査チーム、および申告システムを含む4重のセキュリティ対策を構築しました。

対話型AI技術の急速な発展に伴い、AI音声代理はますます多くの電話対応を担うようになっています。しかし、これらのAI音声代理の信頼性を確保することが、業界が直面する大きな課題となっています。このたび、AI音声代理の信頼性に特化したプラットフォームHamming.aiが、Mischiefをリードインベスターとして、Y Combinator、AI Grantなどの機関、そして複数のエンジェル投資家から380万ドルのシードラウンド資金調達を発表しました。Hamming.aiの登場はまさに…

Instagramの責任者アダム・モセリは、最近のThreadsの投稿で、増加するAI生成コンテンツに直面するソーシャルメディアユーザーに警戒を促しました。AI技術は現実と非常に似たコンテンツを生成できるようになったため、オンラインで見かける画像や情報は必ずしも真実ではないと指摘しています。情報の真偽を判断する助けとして、モセリはコンテンツの出典を検討すべきだと述べ、ソーシャルプラットフォームにも責任があると付け加えました。

Instagramの責任者であるアダム・モセリはソーシャルメディアで、特に現実と誤認されやすいAI生成コンテンツについて、オンラインで見かける画像に警戒すべきだと述べています。モセリは、AI技術がリアルなコンテンツを作成する能力を著しく向上させているため、ユーザーは情報源を考慮して注意深く扱うべきであり、ソーシャルプラットフォームは、この点で支援する責任があると強調しました。彼は「インターネットプラットフォームとして、AI生成コンテンツを可能な限り表示することが私たちの責任です」と書いています。しかし、M

最近、Nature誌に掲載された研究で、人工知能の発展における興味深い現象が明らかになりました。大規模言語モデル（LLM）が進化するにつれて、正しくない可能性があっても、ますます自信満々に回答する傾向があるというものです。この現象は、AIの信頼性と使用におけるリスクに関する幅広い議論を引き起こしています。研究チームは、スペインのバレンシア人工知能研究所のJosé Hernández-Orallo氏とその同僚らによって構成されています。彼らはAIモデルの

人工知能の急速な発展に伴い、生成AIは多くの利便性をもたらす一方で、虚偽情報の生成という無視できない問題も引き起こしています。この課題に対し、テクノロジー大手マイクロソフトは先日、AI生成コンテンツの虚偽情報を修正することを目的とした新ツール「Correction」を発表しました。Microsoft Azure AIコンテンツセキュリティAPIの一部として、現在プレビュー段階にあるこのツールは、誤った企業の四半期決算報告書の引用など、誤りがある可能性のあるテキストを自動的にマークすることができます。

OpenAIが発表した構造化出力機能は、モデル生成の出力が開発者が提供したJSONスキーマに厳密に従うように設計されており、出力の信頼性を向上させます。この機能は昨年の開発者向けイベントで初公開され、JSONスキーマを使用してモデルが有効なJSON出力を生成する信頼性を向上させましたが、モデルのレスポンスが特定のスキーマに確実に準拠するわけではありませんでした。新しい機能は、モデルが開発者が提供したスキーマに一致するように制約することでこの問題を解決し、非構造化入力から構造化データを作成するアプリケーションシナリオに特に適しています。複雑なJSON

Galileoは最近、企業が信頼できるAIソリューションを開発するのを支援することを目的とした新しいツールを発表しました。この新しいツールは、検索拡張生成とエージェント分析のソリューションであり、複雑なRAGシステムに対応します。このツールは高度な洞察と測定基準を組み込み、RAGワークフローの各段階への可視性を提供することで、迅速な評価とエラー検出を実現します。GalileoのツールはAI開発プロセスを変革し、AIアプリケーションをより効率的で信頼性の高いものにし、将来のAIビジネス化のトレンドに合致しています。

インターネットが主要な情報源となる中、人工知能と人間が生成したオンラインコンテンツは、信頼性の点で同等とみなされていることがわかりました。人工知能ベースのシステムが自律的に生成するコンテンツは、誤りがある場合もあるものの、ユーザーインターフェースにおいて同等の信頼性があると評価されています。ユーザーは人工知能の利便性を享受する一方で、システムの限界と潜在的なバイアスを認識しておく必要があります。科学的コミュニケーションや社会政治的な責任においては、人工知能が生成したコンテンツの責任ある利用に対する意識を高めることが求められます。

ウィキペディア創設者のジミー・ウェールズ氏はWeb Summitにて、ChatGPTの信頼性について懸念を表明しました。ChatGPTがデジタル製品に誤った情報を引き込む可能性があり、その使用に疑問を呈しています。ウェールズ氏は開発者に対し対策を講じるよう促しており、OpenAIとマイクロソフトの協業がGoogleにとって問題となる可能性にも言及しています。

「技術力不足、資金調達意欲の低さから投資家が頻繁に口を変える」「一部投資家が交流を名目に企業秘密を入手し、起業家の信頼を損なう」「AI投資の装いは投資業界全体の信頼性を脅かす可能性がある」

ロンドンのAI企業による研究によると、SIDEシステムを通じてAIがウィキペディアの信頼性を高めることが期待されています。SIDEシステムは情報源の確認と参照ランキングの検証を行い、信頼性に関する推奨を提供します。ユーザーは70％のケースでSIDEシステムの推奨を受け入れ、情報の正確性を強化しています。研究チームは、ウィキペディアにおける他の種類の参照処理へのAIの適用可能性についても引き続き探求していきます。

生成系AI（GenAI）の民主化により、企業の採用が加速し、従業員と知識のつながりが強化されます。AIの信頼性、リスク、セキュリティ管理への需要が高まり、意思決定の精度が向上します。インテリジェントアプリケーションは基盤能力として、業務の強化と自動化に広く利用され、CEOからの注目を集めています。持続可能なテクノロジーは、生態系のバランスと人権において重要な役割を果たし、CIOの個人報酬と持続可能なテクノロジーの影響が関連付けられます。

OpenAIのGPT-4は、GPT-3.5よりも信頼性が高いことが研究で判明。しかし、ユーザーはGPT-4を欺き、バイアスのかかった結果を出力させたり、個人情報を漏洩させたりできることも判明。消費者向けGPT-4製品ではこれらの問題は発生していない。

🤖大規模言語モデルの応用動向：記事では、大規模言語モデルがモデル開発段階から応用段階のイノベーションへと発展したと述べています。🔍コンテンツ生成の規制動向：記事では、主要なテクノロジー企業がAIコンテンツの透明性を高めるために、様々な透かしシステムの開発に積極的に取り組んでいると述べています。💻アドビの技術革新：記事では、アドビがPhotoshop、Premiereなどの製品に新しいシンボルを組み込み、AI生成コンテンツの表示を推進していると述べています。

🛒 AIによる偽レビュー検出：Firefoxの最新機能は、人工知能を活用してオンラインショッピングサイトの偽レビューを検出し、ユーザーにより信頼性の高いショッピング体験を提供します。🌟 複数のECサイトに対応：現在、Amazon、Best Buy、Walmartに対応しており、今後さらに多くのサイトに対応予定です。📈 増加する重要性：オンラインショッピングユーザーの約80％が、偽レビューを目撃しています。18～34歳では、その割合が92％に上ります。

ある報告書によると、英国政府の人工知能安全対策は信頼性に欠けているという。この報告書は、人工知能を規制するための新たな立法や監督機関の欠如、そして提案されているデータ保護改革が人工知能の安全性を損なう可能性があることを批判している。報告書では、英国の人工知能規制方法を改善するための18の提言がなされている。