複数のメディアの報道によると、アメリカ国立標準技術研究所（NIST）は最大500人の従業員を削減する計画であり、この決定は新たに始まったアメリカ人工知能安全研究所（AISI）をさらに脅かしています。Axiosは、AISIと「アメリカのチップ計画」が試用期間中の従業員に対して「重大な」解雇を検討していると報じています。これらの従業員は通常、在職1年から2年の新入社員です。Bloombergは、一部の従業員が解雇されるとの口頭通知を受け取ったと報じています。最新の解雇情報の前に

英国政府は最近、元の名称「AI安全研究所」を「AI安全研究院」に変更すると発表しました。これは、政府のAI分野における戦略の大幅な転換を示しています。新しい名称は、機関の機能変化を反映しているだけでなく、英国政府がAI産業の発展を推進する上で揺るぎない決意を持っていることも示しています。画像注記：画像はAIによって生成され、画像ライセンスプロバイダーMidjourneyからのものです。この変更は、科学・産業・技術省によって発表され、新しいAI安全研究院はサイバーセキュリティに重点を置き、〜を目的としています。

米国人工知能安全研究所（U.S. AI Safety Institute）の所長エリザベス・ケリー（Elizabeth Kelly）氏が今週水曜日に辞任を発表しました。彼女はLinkedInにそのニュースを投稿しました。この決定により、トランプ大統領の下でのこの新設政府機関の将来の方向性がより不透明なものとなっています。画像注記：画像はAIによって生成され、画像ライセンスプロバイダーMidjourneyからのものです。ケリー氏は昨年就任以来、研究所の監督を担当していました。

OpenAIは、AIシステムが安全規則を処理する方法を変えることでセキュリティを向上させる新しいAI安全対策を発表しました。この新しいoシリーズモデルは、良い行動と悪い行動を例を通して学習するだけでなく、特定の安全ガイドラインを理解し、積極的に推論することができます。OpenAIの研究では、ユーザーが暗号化されたテキストを通じて違法行為の指示を得ようとした際、モデルが情報を復号化しながらもリクエストを拒否し、違反する安全規則を具体的に参照した例が示されています。この段階的な推論は...

先日、カリフォルニア州知事ギャビン・ニューサムが物議を醸したAI安全法案を拒否し、テクノロジー業界と政界で議論を巻き起こしています。これは、AI規制の将来の方向性に大きな影響を与える出来事となりました。民主党上院議員スコット・ウィナーによって提出されたこの法案は、急速に発展するAI技術に安全策を設けることを目的としていました。1億ドル以上の開発費がかかる、または特定の計算能力を必要とする高度なAIモデルに対して安全テストを実施し、開発者にオフスイッチの提供を求めるものでした。さらに、この法案は州レベルの機関の設立も計画していました。

先日、米国当局は11月にサンフランシスコで世界人工知能（AI）安全サミットを開催すると発表しました。人工知能技術の急速な発展に伴い、各国政府は変化に対応しようと努力しています。このサミットは、米国商務長官ジーナ・レモンド氏と国務長官アントニー・ブリンケン氏によって共同開催され、11月20日から21日にかけて開催される予定です。レモンド氏は声明の中で、「人工知能の急速な発展に伴い、私たちは全力を尽くしています。」と述べ、国際的な緊密な協力と熟慮された調整が非常に重要であると指摘しました。

OpenAIのCEO、サム・アルトマン氏は最近、同社内部の安全委員会を退任すると発表しました。この委員会は今年5月に設立され、OpenAIの人工知能モデルの開発と展開における重要な安全とセキュリティに関する意思決定の監督を目的としていました。アルトマン氏のこの決定は大きな注目を集めており、透明性、協力、安全性を高めるために、この役割を第三者専門家に委ねることを望んでいるとのことです。アルトマン氏の退任に伴い、この安全委員会は「独立した監督委員会」へと移行し、安全とセキュリティの問題に重点を置くことになります。

アメリカ、イギリス、EUが、法的拘束力を持つ最初の人工知能条約『人工知能フレームワーク条約』に共同署名しました。これは、人工知能の利用が人権、民主主義、法の支配の原則に沿うことを保証することを目的としています。条約は、署名国に対し、ユーザーデータの保護、法律の尊重、透明性のある運用などの原則を遵守し、立法、行政などの措置を通じて実施することを求めています。条約のコンプライアンスは主にモニタリングに依存しており、執行力は弱いかもしれませんが、各国がAI法を策定するための重要な青写真とみなされています。現在、アメリカ、EU、イギリス、その他いくつかの国が署名しており、条約は5…

元OpenAIの最高科学責任者Ilya Sutskever氏によって設立されたSafe Superintelligence（SSI）は、安全で人間を超える能力を持つAIシステムの開発を目指しています。同社は10億ドルを調達し、評価額は50億ドルに達しました。市場への早期参入ではなく、AIの安全性と超知能技術の研究開発に重点を置いています。SSIは倫理観と可能性を重視した採用基準を採用し、革新的な思考を通じてAI技術が将来人類に役立ち、リスクを軽減することを目指しています。Ilya Suts氏率いる…

米国商務省国立標準技術研究所（NIST）傘下の米国AI安全研究所は、人工知能分野をリードする企業であるAnthropicとOpenAIとの間で覚書を締結し、人工知能の安全に関する研究、テスト、評価において協力することで合意しました。同研究所は、新モデルのリリース前にアクセス権を得て、モデルの能力と安全上のリスクを評価し、リスク軽減策を研究します。この協定は、米国が人工知能の未来を管理するための重要な一歩であり、技術革新を促進する上で安全性が極めて重要であることを強調しています。

マスク氏はカリフォルニア州SB1047法案を公に支持。同法案は、大規模AIモデル開発企業に対し、潜在的な危険への対策を義務付けることを目指している。AIによる深刻な損害を防止するための戦略の記録が求められる。マスク氏はAI規制の必要性を強調しており、これは過去におけるAIリスクへの懸念と一致する。彼のAI企業xAIもSB1047法案の対象となる。対照的に、OpenAIはSB1047法案に反対し、別の代替案を支持している。この出来事は、AI規制が業界内で複雑で論争の的となっていることを浮き彫りにしている。

マスク氏はカリフォルニア州SB1047法案を支持。同法案は、大規模AIモデル開発企業に対し、モデルによる深刻な危害を防止するための安全対策を記録することを求めている。マスク氏は過去からAI規制を主張しており、リスクのある製品や技術と同様に規制されるべきだと考えていると強調。マスク氏の企業xAIもこの法案の対象となるが、彼はカリフォルニア州からの移転を計画している。対照的に、OpenAIはSB1047に公然と反対し、代替法案を支持。AdobeとMicrosoftは、AI生成コンテンツの表示を求めるカリフォルニア州の新たな法案AB3211を支持している。これらの動きは、テクノロジー業界における複雑な状況を浮き彫りにしている。

OpenAIと複数のテクノロジー企業が、人工知能の安全と透明性を確保することを目的としたカリフォルニア州の法案に反対している。この法案はAI技術の革新と発展を阻害し、業界の流出につながる可能性があると懸念されている。OpenAIは声明の中で、過度に厳格な規制は開発者や研究者の創造性を制限し、探求と実験を制限すると指摘。技術革新には柔軟性が必要であり、法律に縛られるべきではないと強調している。OpenAIは立法者との対話を通じて、業界の発展傾向に沿ったより合理的な法的枠組みを推進したいと考えている。法案が可決された場合、〜

OpenAIのCEO、サム・アルトマンは、OpenAIが米国AI安全研究所に、新たな生成AIモデルへの早期アクセス権を提供し、安全性のテストを実施すると発表しました。これは、AI技術の追求において安全性を軽視しているという批判への反論です。以前、OpenAIはAI制御対策の開発に携わっていたチームを解散したことで批判を受けていました。これに対する対応として、OpenAIは安全研究のための計算リソースを20％増やし、従業員の制限を解除すると約束しました。

アップルは、米政府のAI安全に関する自主的取り組みへの参加を発表しました。これは、AIにおける責任あるイノベーションを推進する重要な一歩と見なされています。ホワイトハウスが発表したこの取り組みには、AI機能の公開やAIコンテンツの識別などが含まれており、偽情報やAI技術の進歩に伴う安全上のリスクを軽減することを目的としています。連邦政府はすでにAIの安全性に関する取り組みを完了しており、リスク管理、人材導入、世界におけるAIリーダーシップの強化などを目標としています。アップルの新しいAI機能のリリースは遅延しており、当初は9月のシステムアップデートで提供される予定でしたが、少なくとも数週間延期される見込みです。開発者向けには、アップルの新しいA…

米上院議員がOpenAIのCEOサム・アルトマン宛てに書簡を送り、2024年8月13日までに同社の安全対策と労働条件の詳細を開示するよう求めています。これは、メディアが報じた潜在的な安全リスクと従業員の離職問題を背景としています。上院議員は、OpenAIが新しいモデルGPT-4のテストを加速化することで生じる安全上の懸念に注目し、特に、安全、コミットメントの実行、サイバーセキュリティポリシーなどにおける同社の能力に対する国民の信頼の必要性を強調しています。OpenAIはソーシャルメディアで声明を発表し、安全保障委員会の設置や規程の改定など、対応策を取ったことを発表しました。