OpenAI ने हाल ही में GPT-4o सिस्टम कार्ड जारी किया, जिसमें नए मॉडल को लॉन्च करने से पहले सुरक्षा उपायों और जोखिम मूल्यांकन का विस्तृत विवरण दिया गया। GPT-4o मई में आधिकारिक रूप से शुरू हुआ, और मूल्यांकन से पता चला कि समग्र जोखिम 'मध्यम' है, मुख्य जोखिम साइबर सुरक्षा, जैविक खतरों, प्रभाव बनाने की क्षमता और मॉडल की स्वायत्तता पर केंद्रित हैं। शोधकर्ताओं ने पाया कि हालांकि GPT-4o पाठकों की राय पर अधिक प्रभाव डालने में सक्षम हो सकता है, लेकिन कुल मिलाकर यह मानव से आगे नहीं बढ़ा। सिस्टम कार्ड जारी करते समय, OpenAI को आंतरिक कर्मचारियों और राज्य के सीनेटरों से आलोचना का सामना करना पड़ा, जिन्होंने इसकी आलोचना की।

AI शोधकर्ताओं का आमतौर पर मानना है कि सुपर कृत्रिम बुद्धिमत्ता के विकास में मानवता के विलुप्त होने के लिए नगण्य लेकिन बहुत छोटी जोखिम मौजूद है। सबसे बड़े पैमाने पर AI शोधकर्ताओं के सर्वेक्षण से पता चला है कि लगभग 58% शोधकर्ताओं का मानना है कि मानवता के विलुप्त होने या अन्य चरम खराब AI से संबंधित परिणामों का 5% संभावना है। शोधकर्ताओं के बीच भविष्य की AI प्रौद्योगिकी मील के पत्थरों के समय सारणी पर व्यापक मतभेद हैं, साथ ही AI के संभावित सामाजिक परिणामों को लेकर आशंका भी है। सर्वेक्षण ने यह भी उजागर किया है कि AI शोधकर्ता गहरे फर्जी, जनता की राय में हेरफेर, भेदी हथियारों जैसे AI-संचालित मामलों की तत्काल चिंता व्यक्त कर रहे हैं।