OpenAIは最近、新モデルのリリース前の安全対策とリスク評価の詳細を説明したGPT-4oシステムカードを発表しました。5月に正式リリースされたGPT-4oは、評価の結果、全体的なリスクは「中程度」とされ、主なリスクはサイバーセキュリティ、生物学的脅威、説得力、モデルの自律性に集中しています。研究者によると、GPT-4oは読者の意見に影響を与える点でより説得力を持つ可能性がありますが、全体として人間を上回るものではありません。システムカードの発表と同時に、OpenAIは内部従業員や州上院議員から、その対応について批判を受けています。

AI研究者らは、超人工知能の発展には無視できるほど小さいものの、人類滅亡の可能性がわずかに存在すると広く考えています。大規模なAI研究者調査によると、約58％の研究者は、人類滅亡またはその他の極めて深刻なAI関連の結果が5％の確率で起こると考えています。研究者らは、将来のAI技術の到達時期に関して意見が大きく分かれており、AIがもたらす可能性のある社会的な影響についても不確実性を抱いています。調査では、AI研究者らがディープフェイク、世論操作、兵器製造など、AIが関与する状況について強い懸念を抱いていることも明らかにされています。