अनुसंधान से पता चला: जब आहार विकार से संबंधित संकेतों का उपयोग किया जाता है, तो एआई 'हानिकारक' सामग्री उत्पन्न कर सकता है

लंदन के डिजिटल सुरक्षा संगठन "Center for Countering Digital Hate" (CCDH) के शोध में पाया गया है कि जब आहार विकारों से संबंधित शब्दावली को संकेत के रूप में उपयोग किया जाता है, तो वर्तमान में लोकप्रिय जनरेटिव AI मॉडल समस्याग्रस्त सामग्री उत्पन्न करते हैं। ये AI सिस्टम न केवल अस्वस्थ और हानिकारक सुझाव प्रदान करते हैं, बल्कि अत्यधिक वजन घटाने के तरीकों के चरणों के गाइड के बारे में भी उत्तर देते हैं। शोधकर्ताओं ने यह भी पाया कि AI चित्र जनरेटर अवास्तविक शारीरिक मानकों की छवियाँ उत्पन्न करते हैं, जो आहार विकारों की समस्याओं को बढ़ा सकते हैं। CCDH ने AI उपकरणों के लिए बेहतर निगरानी और विनियमन की अपील की है ताकि उनकी सुरक्षा सुनिश्चित की जा सके। यह शोध परिणाम दर्शाता है कि आहार विकारों के मुद्दों से संबंधित AI मॉडल में संभावित खतरे मौजूद हैं।