वर्तमान तकनीकी वातावरण में, आर्टिफिशियल इंटेलिजेंस (AI) पर व्यापक चर्चा हो रही है। डेमोंटफोर्ट यूनिवर्सिटी के साइबर सुरक्षा प्रोफेसर ईर्के बोइटेन ने कहा कि मौजूदा AI सिस्टम प्रबंधन और विश्वसनीयता के मामले में मौलिक कमियों का सामना कर रहे हैं, इसलिए इन्हें महत्वपूर्ण अनुप्रयोगों में उपयोग नहीं किया जाना चाहिए।
प्रोफेसर बोइटेन ने बताया कि वर्तमान AI सिस्टम ज्यादातर बड़े न्यूरल नेटवर्क पर निर्भर करते हैं, विशेष रूप से जनरेटिव AI और बड़े भाषा मॉडल (जैसे ChatGPT)। इन सिस्टमों का कार्यप्रणाली अपेक्षाकृत जटिल है, हालांकि प्रत्येक न्यूरॉन का व्यवहार सटीक गणितीय सूत्रों द्वारा निर्धारित होता है, लेकिन समग्र व्यवहार पूर्वानुमानित नहीं होता है। इस "उद्भव" विशेषता के कारण सिस्टम का प्रभावी प्रबंधन और सत्यापन करना कठिन हो जाता है।
चित्र स्रोत नोट: चित्र AI द्वारा उत्पन्न, चित्र अधिकार सेवा प्रदाता Midjourney
सॉफ़्टवेयर इंजीनियरिंग के दृष्टिकोण से, प्रोफेसर बोइटेन ने जोर दिया कि AI सिस्टम में संयोजनीयता की कमी है, और ये पारंपरिक सॉफ़्टवेयर की तरह मॉड्यूलर विकास नहीं कर सकते। स्पष्ट आंतरिक संरचना के अभाव में, डेवलपर्स जटिलता को प्रभावी ढंग से विभाजित और प्रबंधित नहीं कर सकते, और क्रमिक विकास या प्रभावी परीक्षण करना भी कठिन है। इससे AI सिस्टम का सत्यापन केवल समग्र परीक्षण तक सीमित रह जाता है, और यह परीक्षण इनपुट और स्थिति स्थान के बहुत बड़े होने के कारण अत्यंत कठिन है।
इसके अलावा, AI सिस्टम की त्रुटिपूर्ण गतिविधियाँ अक्सर पूर्वानुमानित और ठीक करने में कठिन होती हैं। इसका मतलब है कि, भले ही प्रशिक्षण में त्रुटियाँ पाई जाएँ, फिर से प्रशिक्षण यह सुनिश्चित नहीं कर सकता कि ये त्रुटियाँ प्रभावी रूप से ठीक की जाएँगी, और यह नई समस्याएँ भी उत्पन्न कर सकती हैं। इसलिए, प्रोफेसर बोइटेन का मानना है कि किसी भी जिम्मेदारी की आवश्यकता वाले अनुप्रयोगों में मौजूदा AI सिस्टम का उपयोग करने से बचना चाहिए।
हालांकि, प्रोफेसर बोइटेन ने पूरी तरह से उम्मीद नहीं खोई है। उनका मानना है कि, हालांकि वर्तमान जनरेटिव AI सिस्टम संभवतः एक सीमा तक पहुँच चुके हैं, लेकिन प्रतीकात्मक बुद्धिमत्ता और अंतर्ज्ञान आधारित AI के संयोजन के माध्यम से, भविष्य में अधिक विश्वसनीय AI सिस्टम विकसित करने की संभावना अभी भी है। ये नए सिस्टम कुछ स्पष्ट ज्ञान मॉडल या विश्वास स्तर उत्पन्न कर सकते हैं, जो वास्तविक अनुप्रयोगों में AI की विश्वसनीयता को बढ़ा सकते हैं।
