この度、米国に拠点を置くAIモデルの安全とガバナンスを専門とするスタートアップ企業、Patronus AIは、光速中国がリードインベスターとなり、シリーズAで300万ドルの資金調達を発表しました。
Patronus AIは主に企業顧客を対象とし、AIモデルの安全評価、監視、強化のためのプラットフォームサービスを提供することに注力しています。同社は敵対的生成ネットワーク（GAN）の手法を用いて、企業顧客が社内AIモデルの安全性と信頼性を評価し、モデルに潜む潜在的なリスクを発見することで、モデル全体の説明可能性と予測可能性を高める支援をしています。
同社は、今回の資金調達を製品開発と研究開発チームの拡大に充当するとしています。企業におけるAIの広範な活用に伴い、モデルの安全性はますます重視されています。Patronus AIは独自の技術ソリューションを通じて、企業がAI活用における様々なリスクをより適切に管理し、モデルの制御可能で信頼できる活用を実現することを目指しています。
先日、世界的な人工知能に関するトップレベルの学術会議であるAAAI 2025において、アリババデジタルテクノロジー、浙江大学、リバプール大学、華東師範大学の合同チームが、革新的なクロスドメイン微調整（オフサイトチューニング）フレームワークであるScaleOTを発表しました。このフレームワークは、モデルの性能を損なうことなく、プライバシー保護効果を50％向上させ、知識蒸留技術と比較して、計算コストを90％削減します。これは、数十億パラメーターを持つモデルのクロスドメイン微調整に、効率的で軽量なソリューションを提供するものであり、その革新性からAAAIの口頭発表に選出されました。
最近、Pensieve（ペンシブ、冥想盆）というオープンソースソフトウェアがGitHubトレンドで大きな注目を集めています。このソフトウェアは『ハリー・ポッター』シリーズに登場する記憶を抽出・追憶する魔法の道具から着想を得ており、ユーザーのパソコン上でのあらゆる活動を自動的に記録し、過去に見た情報をいつでも思い出せるようにします。ユーザーは関連キーワードを入力するだけで、Pensieveは関連する記録を迅速に見つけ出し、日常生活や業務を大幅に便利にします。Pensieveの開発者は、このソフトウェアが—
フランスのプライバシー保護を重視した検索エンジンQwantと、ドイツの非営利検索エンジンEcosiaが提携し、欧州独自の検索インデックスを共同開発すると発表しました。この取り組みは、特に生成系AI（GenAI）において、両社の検索エンジンのイノベーションを促進し、マイクロソフト（Bing）やGoogleなどのテクノロジー大手への検索インデックス依存を減らすことを目的としています。画像注記：画像はAIによって生成され、画像ライセンス提供サービスMidjourneyを通じて提供されています。現在、EcosiaとQwantはBingの検索に依存しています。
