近年、人工知能（AI）の急速な発展は企業に多くの機会をもたらしましたが、同時に潜在的な脅威も増加しています。最新の2024年版『次世代リスクレポート』によると、調査対象企業のなんと80％が、生成AIのリスクに対する具体的な対策計画を策定していないことが明らかになりました。これには、AI駆動型のネット詐欺などのセキュリティリスクも含まれています。この調査はリスク管理ソフトウェア企業のRiskconnectが実施し、グローバルなリスクコンプライアンスとレジリエンスの専門家218名が回答しました。

Highwire社がAI安全リスク管理ツールを発表しました。自動化された文書審査とリスク特定により、請負業者に詳細な洞察を提供し、従来の人手による審査で必要だった数千時間分の作業を削減します。このツールは、より正確な請負業者評価を提供し、管理者が作業開始前に軽減策を実施するのに役立ちます。安全手順を一般、詳細、包括的なレベルに分類することで、単純な合格／不合格分析を超え、より賢明な意思決定を支援します。ハーバード大学で開発されたこのAI技術は、成熟した安全計画を持つ大企業と小規模請負業者双方を対象としており、安全性の向上を目指しています。

EUのAI法案が2024年8月1日に正式施行され、AI規制の新時代が幕を開けました。この法案はEU域内のAIアプリケーションに対して明確な基準とコンプライアンス要件を設定しており、リスク管理に基づいたガバナンス戦略を反映しています。法案施行後、AI開発者とアプリケーションはリスクレベルに基づいて分類され、異なる期間のコンプライアンス要件を受けます。公共の場で執行機関が遠隔生物認証を使用するなど、特定の状況下でのAI技術の使用は禁止されます。高リスクAIアプリケーションは厳格な評価と規制監査を受ける必要があり、最低リスクアプリケーションは…

シティグループのチーフ・アナリティクス・テクノロジー＆イノベーション担当者が、生成AIが銀行にもたらす影響について論じる。シティグループは、生成AIを活用して顧客サービス、業務の自動化、内部検索を支援している。一方で、外部向けチャットボットのリスクを懸念し、導入は見送っており、慎重な姿勢を強調している。生成AIはシティグループ内部の変革を推進する一方で、責任ある実行を重視している。

アントニオ・グテーレス国連事務総長は、水曜日にスイス・ダボスで開催された世界経済フォーラムにおいて、政治および経済界のリーダーに対し、人工知能と気候変動危機への対処のための世界的戦略の優先順位付けを呼びかけました。グテーレス事務総長は、人工知能の急速な発展が「深刻な予期せぬ結果」をもたらす可能性があると警告しました。国際通貨基金（IMF）は、人工知能の台頭により世界の約40％の雇用が影響を受け、多くの場合、全体的な不平等が激化する可能性があると警告しています。

世界AIサイバーセキュリティ協定が、英国ブレッチリーパークで調印されました。これは、新興人工知能ツールのサイバーセキュリティリスクを管理することを目的としています。米国、英国、中国、EUを含む28カ国が、AI技術の最先端における潜在的なリスクに対処するため、「ブレッチリー宣言」に署名しました。協定はサイバーセキュリティとプライバシー保護の問題を強調し、世界的な責任あるAIイノベーションのための堅固な基盤を提供します。この取り組みは、サイバーセキュリティ専門家から賞賛されており、AIの安全性とイノベーションの共同努力を示しています。今回の調印は、世界のリーダーが安全なAIの開発に積極的に取り組んでいることを反映しており、その安全性を確保することを目指しています。

Patronus AIは、AIモデルのセキュリティとガバナンスに特化した、米国に本社を置くスタートアップ企業です。同社は最近、光速中国がリードインベスターを務めるシリーズAラウンドで300万ドルの資金調達を完了しました。Patronus AIは、主に企業顧客向けに、AIモデルのセキュリティ評価、監視、強化プラットフォームを提供しています。同社は、敵対的生成ネットワークを利用して、企業顧客にAIモデルのセキュリティ評価サービスを提供しています。Patronus AIは、今回の資金調達を活用して製品開発を加速し、研究開発チームを拡大する予定です。

生成AIが、2023年第2四半期における企業リスク管理担当者の重要な関心事項として特定されました。レポートは、生成AIが知的財産権、データプライバシー、サイバーセキュリティなどのリスクにつながる可能性があると指摘しています。経済状況の悪化による第三者生存能力への影響も強調されています。