グローバルAI製品の動向を検索

最近、人工知能企業Anthropicは、「責任ある展開」ポリシーの最新アップデートを発表し、追加の安全対策が必要なモデルを明確にしました。この取り組みは、新技術の導入前に潜在的なリスクを効果的に軽減することを目的としています。Anthropicのブログによると、AIモデルのストレステストにおいて、化学兵器や生物兵器の開発を支援する可能性が「リソースの限られた国家主体」によって発見された場合、Anthropicはその技術の正式な導入前に対応するということです。

ChatGPTの最新モデル4oで導入された画像生成機能が、セキュリティ上の懸念を引き起こしています。特に、リアルなテキストを生成する能力の向上は、詐欺師にとって新たなツールとなる可能性があります。既にソーシャルメディアでは、この機能を利用して偽のレストラン領収書を作成する複数の事例が報告されており、それらの領収書は本物と見分けがつかないほど精巧です。ベンチャーキャピタリストのDeedy Das氏はXプラットフォームで、4oを使用して生成されたサンフランシスコのステーキハウスの偽領収書を公開し、「現実世界では、多くの検証プロセスが真の画像を証拠として依存していました。その時代は終わりました。」と強調しました。その他、

複数のメディアの報道によると、アメリカ国立標準技術研究所（NIST）は最大500人の従業員を削減する計画であり、この決定は新たに始まったアメリカ人工知能安全研究所（AISI）をさらに脅かしています。Axiosは、AISIと「アメリカのチップ計画」が試用期間中の従業員に対して「重大な」解雇を検討していると報じています。これらの従業員は通常、在職1年から2年の新入社員です。Bloombergは、一部の従業員が解雇されるとの口頭通知を受け取ったと報じています。最新の解雇情報の前に

英国政府は最近、元の名称「AI安全研究所」を「AI安全研究院」に変更すると発表しました。これは、政府のAI分野における戦略の大幅な転換を示しています。新しい名称は、機関の機能変化を反映しているだけでなく、英国政府がAI産業の発展を推進する上で揺るぎない決意を持っていることも示しています。画像注記：画像はAIによって生成され、画像ライセンスプロバイダーMidjourneyからのものです。この変更は、科学・産業・技術省によって発表され、新しいAI安全研究院はサイバーセキュリティに重点を置き、〜を目的としています。

米国人工知能安全研究所（U.S. AI Safety Institute）の所長エリザベス・ケリー（Elizabeth Kelly）氏が今週水曜日に辞任を発表しました。彼女はLinkedInにそのニュースを投稿しました。この決定により、トランプ大統領の下でのこの新設政府機関の将来の方向性がより不透明なものとなっています。画像注記：画像はAIによって生成され、画像ライセンスプロバイダーMidjourneyからのものです。ケリー氏は昨年就任以来、研究所の監督を担当していました。

OpenAIは、AIシステムが安全規則を処理する方法を変えることでセキュリティを向上させる新しいAI安全対策を発表しました。この新しいoシリーズモデルは、良い行動と悪い行動を例を通して学習するだけでなく、特定の安全ガイドラインを理解し、積極的に推論することができます。OpenAIの研究では、ユーザーが暗号化されたテキストを通じて違法行為の指示を得ようとした際、モデルが情報を復号化しながらもリクエストを拒否し、違反する安全規則を具体的に参照した例が示されています。この段階的な推論は...

先日、カリフォルニア州知事ギャビン・ニューサムが物議を醸したAI安全法案を拒否し、テクノロジー業界と政界で議論を巻き起こしています。これは、AI規制の将来の方向性に大きな影響を与える出来事となりました。民主党上院議員スコット・ウィナーによって提出されたこの法案は、急速に発展するAI技術に安全策を設けることを目的としていました。1億ドル以上の開発費がかかる、または特定の計算能力を必要とする高度なAIモデルに対して安全テストを実施し、開発者にオフスイッチの提供を求めるものでした。さらに、この法案は州レベルの機関の設立も計画していました。

先日、米国当局は11月にサンフランシスコで世界人工知能（AI）安全サミットを開催すると発表しました。人工知能技術の急速な発展に伴い、各国政府は変化に対応しようと努力しています。このサミットは、米国商務長官ジーナ・レモンド氏と国務長官アントニー・ブリンケン氏によって共同開催され、11月20日から21日にかけて開催される予定です。レモンド氏は声明の中で、「人工知能の急速な発展に伴い、私たちは全力を尽くしています。」と述べ、国際的な緊密な協力と熟慮された調整が非常に重要であると指摘しました。

OpenAIのCEO、サム・アルトマン氏は最近、同社内部の安全委員会を退任すると発表しました。この委員会は今年5月に設立され、OpenAIの人工知能モデルの開発と展開における重要な安全とセキュリティに関する意思決定の監督を目的としていました。アルトマン氏のこの決定は大きな注目を集めており、透明性、協力、安全性を高めるために、この役割を第三者専門家に委ねることを望んでいるとのことです。アルトマン氏の退任に伴い、この安全委員会は「独立した監督委員会」へと移行し、安全とセキュリティの問題に重点を置くことになります。

アメリカ、イギリス、EUが、法的拘束力を持つ最初の人工知能条約『人工知能フレームワーク条約』に共同署名しました。これは、人工知能の利用が人権、民主主義、法の支配の原則に沿うことを保証することを目的としています。条約は、署名国に対し、ユーザーデータの保護、法律の尊重、透明性のある運用などの原則を遵守し、立法、行政などの措置を通じて実施することを求めています。条約のコンプライアンスは主にモニタリングに依存しており、執行力は弱いかもしれませんが、各国がAI法を策定するための重要な青写真とみなされています。現在、アメリカ、EU、イギリス、その他いくつかの国が署名しており、条約は5…

元OpenAIの最高科学責任者Ilya Sutskever氏によって設立されたSafe Superintelligence（SSI）は、安全で人間を超える能力を持つAIシステムの開発を目指しています。同社は10億ドルを調達し、評価額は50億ドルに達しました。市場への早期参入ではなく、AIの安全性と超知能技術の研究開発に重点を置いています。SSIは倫理観と可能性を重視した採用基準を採用し、革新的な思考を通じてAI技術が将来人類に役立ち、リスクを軽減することを目指しています。Ilya Suts氏率いる…

米国商務省国立標準技術研究所（NIST）傘下の米国AI安全研究所は、人工知能分野をリードする企業であるAnthropicとOpenAIとの間で覚書を締結し、人工知能の安全に関する研究、テスト、評価において協力することで合意しました。同研究所は、新モデルのリリース前にアクセス権を得て、モデルの能力と安全上のリスクを評価し、リスク軽減策を研究します。この協定は、米国が人工知能の未来を管理するための重要な一歩であり、技術革新を促進する上で安全性が極めて重要であることを強調しています。

マスク氏はカリフォルニア州SB1047法案を公に支持。同法案は、大規模AIモデル開発企業に対し、潜在的な危険への対策を義務付けることを目指している。AIによる深刻な損害を防止するための戦略の記録が求められる。マスク氏はAI規制の必要性を強調しており、これは過去におけるAIリスクへの懸念と一致する。彼のAI企業xAIもSB1047法案の対象となる。対照的に、OpenAIはSB1047法案に反対し、別の代替案を支持している。この出来事は、AI規制が業界内で複雑で論争の的となっていることを浮き彫りにしている。

マスク氏はカリフォルニア州SB1047法案を支持。同法案は、大規模AIモデル開発企業に対し、モデルによる深刻な危害を防止するための安全対策を記録することを求めている。マスク氏は過去からAI規制を主張しており、リスクのある製品や技術と同様に規制されるべきだと考えていると強調。マスク氏の企業xAIもこの法案の対象となるが、彼はカリフォルニア州からの移転を計画している。対照的に、OpenAIはSB1047に公然と反対し、代替法案を支持。AdobeとMicrosoftは、AI生成コンテンツの表示を求めるカリフォルニア州の新たな法案AB3211を支持している。これらの動きは、テクノロジー業界における複雑な状況を浮き彫りにしている。

OpenAIと複数のテクノロジー企業が、人工知能の安全と透明性を確保することを目的としたカリフォルニア州の法案に反対している。この法案はAI技術の革新と発展を阻害し、業界の流出につながる可能性があると懸念されている。OpenAIは声明の中で、過度に厳格な規制は開発者や研究者の創造性を制限し、探求と実験を制限すると指摘。技術革新には柔軟性が必要であり、法律に縛られるべきではないと強調している。OpenAIは立法者との対話を通じて、業界の発展傾向に沿ったより合理的な法的枠組みを推進したいと考えている。法案が可決された場合、〜