कृत्रिम बुद्धिमत्ता छवि पहचान के क्षेत्र में तेजी से आगे बढ़ रही है, बिल्लियों और कुत्तों का वर्गीकरण अब पुरानी बात हो गई है। अब चलन में है 'प्लस वर्ज़न' जैसे कि पहली नज़र में ही यह पता लगाना कि यह किस वर्ष का कौन सा मॉडल की स्पोर्ट्स कार है, या इस चिड़िया की भौंहें पड़ोसी के भाई की भौंहों से थोड़ी मोटी हैं या नहीं। लेकिन समस्या यह है कि न्यूरल नेटवर्क जितना 'स्मार्ट' होता है, उससे यह पूछना कि 'मैंने यह कैसे जाना?' थोड़ा मुश्किल होता है, जैसे कोई कमज़ोर छात्र जिससे उत्तर समझाने को कहा जाए और वह कुछ भी नहीं बता पाए। पारंपरिक Class Activation Map (CAM)...