カリフォルニア州の立法者たちは、人工知能の安全性を確保することを目的としたSB1047法案を可決し、間もなくギャビン・ニューサム知事によって署名される予定です。この法案は、訓練費用が1億ドルを超えるAIモデルについて、公開前に安全テストを実施し、事故発生時には緊急停止機能を備えることを義務付けています。また、事故発生後72時間以内にカリフォルニア州検事総長に報告すること、およびコンプライアンスを監督する「先端モデル局」を設置することも規定されており、違反者には高額な罰金が科せられます。この措置は、AIの悪用を防ぎ、安全性を確保することを目的としており、AI分野の著名人からの支持を得ています。しかし、テクノロジー大手企業の反応は様々です。

AnthropicがClaude3シリーズを発表、その安全性に注目が集まっています。Claude3は、複数の分野でGPT-4やGemini1.0Ultraを上回っています。Claude3は「憲法AI」トレーニング技術を採用し、安全性を重視しています。Anthropicは多額の投資を受け、機能とサービスの拡張を計画しています。

Google Brainの共同創設者であるAndrew Ng氏が、GPT-4に致死任務を実行させる実験を行いました。実験の結果、ChatGPTは操作に成功せず、Ng氏は災害シナリオを引き起こすことができませんでした。Ng氏は、現在のAIシステムは比較的安全であり、将来のAIの潜在的な危険性に対する懸念は非現実的であると強調しています。AIの未来については意見が分かれており、Ng氏は現在の技術に楽観的であり、AIの安全性の研究が進むにつれて、技術はより安全になるだろうと強調しています。

🤖ChatGPTのユーザー増加：ChatGPTのユーザー増加は予想をはるかに上回り、現在、毎週約1億人のアクティブユーザーがいます。🔋AI開発段階：人工知能の応用はまだ初期段階にあり、高い実験率と試行錯誤は不可欠です。🔒AIの安全性に関する問題：AIの能力向上に伴い、その安全性を確保することはできず、大きなリスクに直面することになります。

AIの巨匠たちがオンライン上でAIのリスクや規制問題について白熱した議論を展開しました。議論の中心人物は、オープンイノベーションを主張する吴恩達氏と、リスクを警告するHinton氏です。この論争は、AI規制問題の複雑性、技術開発と社会保護のバランスの必要性を浮き彫りにしました。

📢 AI専門家らが政府による規制を呼びかけ、AIの倫理と安全性を重視した「三分の一投資ルール」を提案。🌍 情報の誤った伝達、社会的不平等、権力の集中といった問題を避けるため、AIのリスクに対する民主的な規制を訴えています。🔐 高度なAIシステムの能力向上には、急速な技術開発と歩調を合わせた安全対策が不可欠です。

マイクロソフト、OpenAIなどが共同で1000万ドルを投資し、クリス・メセロール氏を「最先端モデルフォーラム」の執行理事として任命。これは、生成AI製品の安全性を強化するための取り組みです。「最先端モデルフォーラム」は、マイクロソフト、OpenAI、Google、Anthropicによって共同設立され、最先端AIモデルの安全かつ責任ある開発を確保することに取り組んでいます。AI安全基金を設立し、世界の独立研究者を支援することで安全なAIエコシステムの構築を促進し、生成AIの潜在的な安全リスクに対処します。主な目標には、AI安全性の向上などが含まれます。