यomiउमी समाचार के अनुसार, जापान के 25 वर्षीय एक व्यक्ति को जनरेटिव AI का दुरुपयोग करके कंप्यूटर वायरस बनाने के लिए टोक्यो जिला अदालत ने तीन साल की कारावास की सजा दी, जिसमें चार साल की निलंबन शामिल है। यह जापान में जनरेटिव AI का दुरुपयोग करने के लिए पहली बार आपराधिक सजा है। निर्णय पत्र और अन्य दस्तावेजों के अनुसार, इस व्यक्ति ने कंप्यूटर और स्मार्टफोन का उपयोग करके जनरेटिव AI से प्राप्त मालवेयर डिज़ाइन (सोर्स कोड) का उपयोग करते हुए रैनसमवेयर जैसा कंप्यूटर वायरस बनाया। इसके अलावा, उसने दूसरों का नकल करके मोबाइल संचार सिम कार्ड जैसी वस्तुओं को धोखाधड़ी से प्राप्त किया। चित्र स्रोत नोट: चित्र AI द्वारा प्रदान किया गया।

विदेशी उपयोगकर्ताओं ने एक नई जेल से मुक्त करने की तकनीक का पता लगाया, जिसने अव्यवस्थित प्रम्प्ट का उपयोग करके ChatGPT को रैनसमवेयर उत्पन्न करने में सक्षम बनाया। जटिल वाक्य और शब्दों को समझने के लिए मानव मस्तिष्क की विशेषताओं का उपयोग करके सुरक्षा फ़िल्टर को बायपास किया गया। जिम फैन GPT मॉडल के अव्यवस्थित शब्दों को समझने पर आश्चर्यचकित हैं।