2025年のJPモルガン・ヘルスケア・カンファレンスにおいて、NVIDIAとInnophoreは、2025年1月末にAI駆動の医薬品安全性スクリーニングプラットフォーム「CavitOmiX」を発表しました。このプラットフォームは、タンパク質結合部位の解析を通じて、医薬品設計の効率性と正確性を向上させることを目指しており、医薬品開発分野における革命的な変化をもたらすと期待されています。InnophoreのCEO、Christian Gruber氏は...

先日、Facebookのキノコ愛好家のグループで発生した出来事が、AIアプリケーションの安全性に対する懸念を再び引き起こしました。404Mediaの報道によると、FungiFriendというAIエージェントが1万3千人のメンバーを持つ北東キノコ識別と議論グループに侵入し、潜在的に致命的なリスクを伴う誤った助言を行いました。高濃度のヒ素を含むSarcosphaera coronariaキノコの調理方法について質問された際、FungiFriendは誤ってそのキノコが…

昨日、中国初の自動車インテリジェント安全評価システムが重慶で正式に発表されました。このシステムは、インテリジェントカーの環境認識、意思決定制御、緊急対応など複数の次元を評価し、中国におけるインテリジェントカー安全評価分野における大きな飛躍となります。この自動車インテリジェント安全評価システムは、インテリジェントカーの利用シーンの安全に重点を置き、自動運転車向けのインテリジェント安全評価規程を革新的に提示しています。50項目以上の評価を通じて、自動運転システムの包括的な安全評価マトリックスが形成されます。専門家は、複雑な状況下におけるインテリジェントカーの安全性について言及しました。

OPPOは、同社の人工知能大規模言語モデルAndesGPT-2.0が、権威のある第三者評価機関SuperCLUEが発表した『中国語大規模言語モデルベンチマーク評価2024年8月報告書』で複数の項目で1位を獲得したと発表しました。これは、OPPOのAI分野における技術力が業界からさらに認められたことを示しています。

元OpenAIの最高科学責任者Ilya Sutskever氏によって設立されたSafe Superintelligence（SSI）は、安全で人間を超える能力を持つAIシステムの開発を目指しています。同社は10億ドルを調達し、評価額は50億ドルに達しました。市場への早期参入ではなく、AIの安全性と超知能技術の研究開発に重点を置いています。SSIは倫理観と可能性を重視した採用基準を採用し、革新的な思考を通じてAI技術が将来人類に役立ち、リスクを軽減することを目指しています。Ilya Suts氏率いる…

Highwire社がAI安全リスク管理ツールを発表しました。自動化された文書審査とリスク特定により、請負業者に詳細な洞察を提供し、従来の人手による審査で必要だった数千時間分の作業を削減します。このツールは、より正確な請負業者評価を提供し、管理者が作業開始前に軽減策を実施するのに役立ちます。安全手順を一般、詳細、包括的なレベルに分類することで、単純な合格／不合格分析を超え、より賢明な意思決定を支援します。ハーバード大学で開発されたこのAI技術は、成熟した安全計画を持つ大企業と小規模請負業者双方を対象としており、安全性の向上を目指しています。

カリフォルニア州の立法者たちは、人工知能の安全性を確保することを目的としたSB1047法案を可決し、間もなくギャビン・ニューサム知事によって署名される予定です。この法案は、訓練費用が1億ドルを超えるAIモデルについて、公開前に安全テストを実施し、事故発生時には緊急停止機能を備えることを義務付けています。また、事故発生後72時間以内にカリフォルニア州検事総長に報告すること、およびコンプライアンスを監督する「先端モデル局」を設置することも規定されており、違反者には高額な罰金が科せられます。この措置は、AIの悪用を防ぎ、安全性を確保することを目的としており、AI分野の著名人からの支持を得ています。しかし、テクノロジー大手企業の反応は様々です。

Googleは、写真のようなリアルな風景やテクスチャのある油絵など、多様なコンテンツを生成することを目的として、AIチャットボットGeminiの人物画像生成機能を再開すると発表しました。この機能は、GoogleのAIテキストから画像生成器Imagen 3によってサポートされており、現時点では英語のみに対応していますが、今後数日中にGemini Advanced、Business、Enterpriseユーザー向けに公開される予定です。アップグレードされたImagen 3モデルは、パフォーマンスが向上し、安全対策が組み込まれており、歴史的誤りを避けるように最適化されています。

Gary Marcus氏は自身の寄稿記事で、OpenAIのCEOであるSam Altman氏を批判。AIの安全性に関するAltman氏の言動と実際の行動の矛盾を指摘し、その誠実性に疑問を呈している。Marcus氏はChatGPTなどの生成系AIの安全上のリスクを懸念し、Altman氏の楽観的な姿勢を現実的ではないと批判。AI技術の安全性が永遠に保証されない可能性を指摘している。さらに、AI研究開発における規制と透明性の欠如を強調し、それがユーザーと社会にとってリスクをもたらすと主張している。

トヨタ総合研究所とスタンフォード大学は共同で、2台のトヨタSupraスポーツカーに人工知能を導入し、フォーミュラカーのようなタンデム走行を実現するドリフト技術を開発しました。この革新的な技術は、見事なパフォーマンスを示すだけでなく、乗用車の安全システム構築における画期的な進歩でもあります。AIシステムにより、極限状況下でもドライバーが車両をより適切に制御できるようになり、1秒間に最大50回もの問題解決と分析を行い、最適なステアリング、スロットル、ブレーキ操作を迅速に決定します。サーキットテストでは、このシステムはリアルタイム通信を通じて正確な制御を実現しました。

「萝卜快跑」が第6世代無人運転車両を発表。世界初のAI大規模言語モデルApolloADFMを搭載し、レベル4の自動運転をサポート。百度は、このシステムの安全性が人間の運転手の10倍以上であり、国産大型旅客機に匹敵すると主張。乗客の安全を確保するための保険も提供。データによると、人間の運転手と比較して事故発生率は約9分の1に減少。2年間で1億キロメートル以上走行し、重大な事故は発生していない。武漢の複雑な交通状況にも対応し、市全域・全時間帯の無人運転サービスを実現し、武漢市民の約50％が恩恵を受けている。

非営利研究団体である機械知能研究所（MIRI）は、安全上の問題が人類の生存を脅かす可能性があるとして、基礎モデルまたは「最先端」モデルの研究を世界的に停止するよう呼びかけています。基礎モデルとは、さまざまな形態に応用できる人工知能システムのことです。MIRIは、基礎モデルが人間よりも賢くなり、「人類を滅ぼす」可能性があると主張しています。

ネットワークセキュリティサービスプロバイダーのCloudflareは先日、AIクローラー保護機能を全ユーザーに無料で提供開始すると発表しました。この機能は、ウェブサイト管理者がウェブサイトデータをより効果的に保護し、無許可のAIシステムによるスクレイピングや利用を防止することを目的としています。

OpenAIの共同設立者の一人であり、前最高科学責任者であったIlya Sutskever氏は、退職からわずか1ヶ月で、2人の元同僚と共にSafe Superintelligence Inc.(SSI)という新会社を設立しました。同社は、超知能AIシステムの安全性問題に取り組んでいます。

北京航空航天大学と南洋理工大学の合同研究チームは、GPT-4oモデルについて徹底的なセキュリティテストを実施しました。1万回以上のAPIクエリを通じて、テキスト、画像、音声の3つのモダリティについてセキュリティ評価を行いました。研究の結果、GPT-4oはテキスト脱獄攻撃に対するセキュリティが向上したものの、新しく導入された音声モダリティにより新たな攻撃対象が追加され、全体的なマルチモーダルセキュリティは前世代モデルのGPT-4Vを下回ることが分かりました。

AnthropicがClaude3シリーズを発表、その安全性に注目が集まっています。Claude3は、複数の分野でGPT-4やGemini1.0Ultraを上回っています。Claude3は「憲法AI」トレーニング技術を採用し、安全性を重視しています。Anthropicは多額の投資を受け、機能とサービスの拡張を計画しています。

Google Brainの共同創設者であるAndrew Ng氏が、GPT-4に致死任務を実行させる実験を行いました。実験の結果、ChatGPTは操作に成功せず、Ng氏は災害シナリオを引き起こすことができませんでした。Ng氏は、現在のAIシステムは比較的安全であり、将来のAIの潜在的な危険性に対する懸念は非現実的であると強調しています。AIの未来については意見が分かれており、Ng氏は現在の技術に楽観的であり、AIの安全性の研究が進むにつれて、技術はより安全になるだろうと強調しています。

OpenAIは、AIがもたらす可能性のある深刻な危険に対処するための計画フレームワークを策定しました。このフレームワークには、リスクスコアカード、潜在的な危険性の評価と予測、専門家チームの雇用による技術監視と危険警告、国家安全保障専門家の採用による重大なリスクへの対応、独立した第三者による技術テストなどが含まれます。