2月28日、工業情報化部は『スマートコネクテッドカー製品の許認可、リコール、およびソフトウェアのオンラインアップグレード管理と技術ガイドライン』を発表し、スマートコネクテッドカーシステムは、運転手が組み合わせ運転支援機能を適切に使用していない場合、対応する機能の起動を禁止するなどの制限戦略を備えている必要があると明確に規定しました。この新しい規則は、スマート運転支援システムの安全性和制御性をさらに向上させることを目的としています。ガイドラインによると、スマートコネクテッドカーシステムは、明確な起動、実行、および終了戦略を備えている必要があります。走行支援機能に関しては、システムが運転手が運転任務から離れ、警告に応答していないことを検出した場合、

Metaは最近、最先端AIモデルがもたらすリスクを評価・軽減し、必要に応じて開発の中止またはこれらのシステムのリリース制限を行うことを目的とした、新たなリスクポリシーフレームワークを発表しました。このフレームワークは「最先端AIフレームワーク」と呼ばれ、MetaがどのようにAIモデルを高リスクと重要リスクの2つのカテゴリに分類し、それに応じて対策を講じてリスクを「許容できるレベル」まで軽減するかを詳細に説明しています。このフレームワークでは、重要リスクは特定の脅威シナリオの実行に独自に貢献できるものとして定義されています。一方、高リスクとは

先日、自身を「emirking」と名乗るロシア人ハッカーが、悪名高いハッカーマーケットであるBreachForumsに、2000万件のOpenAI ChatGPTアカウントのログイン情報だと主張する情報を掲載し、販売を始めた。この情報は、AIスタートアップ企業のOpenAIとサイバーセキュリティ企業のMalwarebytes Labsが金曜日に共同で発表し、サイバーセキュリティの脅威の深刻さを示している。画像の出典:AIによって生成された画像、画像ライセンスプロバイダー

人工知能による早期疾患検出への応用が拡大する中、最近の研究でAIがメンタルヘルスの危機対応においても大きな可能性を秘めていることが示されました。JAMAネットワークオープン誌に掲載されたこの研究は、AIが自殺リスクのある患者を効果的に特定し、日常診療に予防ツールを提供できることを明らかにしています。画像注記：画像はAI生成、画像ライセンス提供元Midjourney研究では、医師に自殺リスクを警告する2つの方法、すなわち能動的な「ポップアップ」について検討されました。

Mindgardは、研究開発の加速と米国市場への拡大を目指し、800万ドルの資金調達を発表しました。この資金調達は.406Venturesがリードインベスターとなり、Atlantic Bridge、Willowtree Investments、既存投資家のIQ CapitalとLakestarが参加しました。また、Mindgardは製品責任者とマーケティング担当者として、業界をリードする2人を新たに任命しました。

最近、英国のガーディアン紙による調査で、OpenAIのChatGPT検索ツールにセキュリティ上の欠陥がある可能性が明らかになりました。調査によると、ChatGPTは隠されたコンテンツを含むウェブページのサマリーを処理する際に、操作され、悪意のあるコードを返す可能性があります。これらの隠されたコンテンツには、ChatGPTのレスポンスを妨害するためのサードパーティからの指示や、製品やサービスを宣伝するための大量の隠されたテキストが含まれる場合があります。画像の出典：AI生成画像、画像ライセンス提供サービスMidjourneyテスト中、ChatG

Googleは最近、生成AIの利用規約を更新し、医療や雇用といった「高リスク」分野において、顧客が生成AIツールを用いた「自動化された意思決定」を行うことを許可しました。ただし、人的監督が必要となります。この変更は、同社が最近発表した生成AIの禁止事項に関するポリシーに反映されています。画像注記：画像はAIによって生成され、画像ライセンスプロバイダーMidjourneyから提供されています。更新されたポリシーに従い、顧客はGoogleの生成AIを使用して、個人に影響を与える可能性のある意思決定を行うことができます（ただし監督が必要です）。

グーグルは先日、生成AIの利用規約を更新し、医療など「高リスク」分野において、生成AIツールを「自動化された意思決定」に使用できることを明確にしました。ただし、人的監督が必須となります。グーグルが火曜日に発表した最新の『生成AI禁止使用ポリシー』によると、顧客は個人の権利に「重大な悪影響」を及ぼす可能性のある「自動化された意思決定」に、グーグルの生成AIを使用できます。何らかの形で人的監督が行われる限り、顧客はグーグルの生成AIによる意思決定を行うことができます。

OpenAIが最近発表した動画生成モデルSoraは、著作権のあるゲームコンテンツをトレーニングデータとして使用している可能性があり、法的問題が懸念されています。Soraはテキストプロンプトまたは画像から最大20秒の動画を生成でき、様々なアスペクト比と解像度に対応します。発表当初、OpenAIはSoraのトレーニングデータにMinecraftの動画が含まれていることを明かし、他のゲームコンテンツの使用についても疑問を投げかけています。実際テストでは、Soraは…

生成画像技術の急速な発展に伴い、クリエイターは画像出力の多様性、著作権保護、視覚効果への需要をますます高めています。こうした背景の下、NegToMeは画像生成分野に革新的な技術をもたらしました。この画期的な技術は、画像駆動型の敵対的指導手法を用いることで、従来のネガティブプロンプトの限界を完全に突破します。テキストベースの敵対的指導手法とは異なり、NegToMeは画像の視覚的特徴を直接参照することで、正確かつ柔軟な画像生成制御を実現します。この技術の主な利点は複数に及びます

グーグルは最近、新しいAIモデルファミリーであるPaliGemma 2を発表しました。最も注目すべき機能は、画像分析を通じて人間の感情を識別できると主張している点です。この発表は、学術界と技術倫理の専門家の間で広範な議論と深刻な疑問を引き起こしました。Gemmaオープンモデルに基づくこのAIシステムは、詳細な画像説明を生成でき、単純な物体認識にとどまらず、画像中の人物の行動や感情を記述しようと試みます。しかし、多くの権威ある専門家が、この技術の科学性と潜在的なリスクについて深刻な警告を発しています。オックスフォード大学...

グーグルは先日、次世代人工知能モデルであるPaliGemma2を発表しました。この技術は画像を分析してキャプションを生成し、写真内の人物に関する感情や行動に関する質問にも答えることができます。PaliGemma2はグーグルのGemmaオープンモデルシリーズをベースにしており、従来の物体認識よりも深い画像記述を提供し、感情を認識して文脈に沿った詳細な記述を生成できます。しかし、この技術は画期的な革新に見える一方で、専門家は倫理的および社会的な影響に関する深刻な警告を発しています。感情認識はP...

心臓イメージングのスタートアップ企業Cleerlyは、人工知能（AI）技術を用いて、潜在的な心臓病リスクを早期に発見しようとしています。同社はAIを使用して心臓CTスキャン画像を分析し、冠動脈疾患の早期兆候を特定します。これは、乳がんや結腸がんのスクリーニングにおけるX線や大腸内視鏡検査に似ています。Cleerlyの創設者で心臓専門医であるJames Min氏は、「心臓病で亡くなる人のほとんどは、発症前に何の症状も示しません。潜在的な心臓病患者を広くスクリーニングする必要があります。」と述べています。この考え方は…

オーストラリア上院特別委員会は先日、国家における人工知能（AI）の利用に関する調査報告書を発表し、OpenAI、Meta、Googleなど大手テクノロジー企業の大規模言語モデル（LLM）に多くの問題があると指摘しました。8ヶ月間にわたる調査では、グローバルなテクノロジー企業がオーストラリアの訓練データの使用に関して透明性に欠けていることが明らかになり、その製品を新たな高リスクAI法規制の対象とするよう求めています。画像注記：画像はAIによって生成され、Midj社の画像ライセンスサービスを利用しています。

190億ドルの評価額を誇るAIスタートアップAnthropicのCEO、Dario Amodei氏は、水曜日にサンフランシスコで開催されたAIカンファレンスで、AI開発のリスクに関する興味深い見解を発表しました。彼は現在のAIモデルが人類に差し迫った脅威をもたらすとは考えていませんが、AIリスクを軽視する同業者たちの主張を鋭く批判しました。特に著名なベンチャーキャピタリストMarc Andreessen氏の見解について、Amodei氏は独自の分析を展開しました。Andreessen氏は以前…

ServiceTitanが米国証券取引委員会（SEC）に新規株式公開（IPO）申請書を提出する中、リスク要因のセクションで、大規模言語モデル（LLM）がもたらす可能性のあるリスクに特に言及している。この警告は、AI技術の利用に伴うリスクも併記する、将来のIPO書類における新たな基準となる可能性を示唆している。ServiceTitanの申請書には、生成AIの利用による潜在的なネガティブな影響について詳細に説明する、1150語に及ぶリスクに関する記述が含まれている。

先日、Facebookのキノコ愛好家のグループで発生した出来事が、AIアプリケーションの安全性に対する懸念を再び引き起こしました。404Mediaの報道によると、FungiFriendというAIエージェントが1万3千人のメンバーを持つ北東キノコ識別と議論グループに侵入し、潜在的に致命的なリスクを伴う誤った助言を行いました。高濃度のヒ素を含むSarcosphaera coronariaキノコの調理方法について質問された際、FungiFriendは誤ってそのキノコが…