AI & technology ethics

कहानी से शुरुआत

2018 में, संयुक्त राज्य अमेरिका में ProPublica की एक खोजी टीम ने COMPAS नामक एक सॉफ़्टवेयर का डेटा हासिल किया — जिसे अमेरिकी अदालतें अभियुक्तों के recidivism (पुनः अपराध) जोखिम का पूर्वानुमान लगाने और जमानत व सज़ा की सिफ़ारिश करने के लिए इस्तेमाल करती थीं। पत्रकारों ने Broward County, Florida के 7,000 मामलों की जाँच की। आँकड़े सिहरन पैदा करने वाले थे: श्वेत अभियुक्तों की तुलना में अश्वेत (Black) अभियुक्तों को भविष्य के अपराधी के रूप में ग़लत ढंग से चिह्नित किए जाने की संभावना लगभग दोगुनी थी, जबकि श्वेत अभियुक्तों को ग़लत ढंग से कम-जोखिम का ठप्पा लगाए जाने की संभावना लगभग दोगुनी थी। किसी मानव न्यायाधीश ने कोड में नस्लवाद नहीं लिखा था; एल्गोरिदम ने इसे ऐतिहासिक सज़ा-संबंधी डेटा से सीखा था — और अब हर नए मामले के ज़रिये इसे बढ़ा-चढ़ा रहा था।

छह साल बाद, March 2024 में, European Parliament ने EU Artificial Intelligence Act पारित किया — दुनिया का पहला व्यापक AI कानून, जो सिस्टम को जोखिम के अनुसार वर्गीकृत करता है (unacceptable / high / limited / minimal) और सार्वजनिक स्थानों में real-time बायोमेट्रिक पहचान पर प्रतिबंध लगाता है। उसी वर्ष, Italy ने अस्थायी रूप से ChatGPT पर प्रतिबंध लगाया — निजता संबंधी चिंताओं के चलते; India's Ministry of Electronics & IT ने एक advisory जारी की जिसमें अविश्वसनीय (unreliable) AI तैनाती के लिए पूर्व अनुमति आवश्यक की गई (बाद में नरम कर दी गई); US Federal Trade Commission ने OpenAI, Microsoft और Amazon पर जाँच शुरू की। नैतिकता की एक नई शाखा — AI ethics — एक दशक से भी कम समय में दर्शनशास्त्र के सेमिनारों से निकलकर संसदीय क़ानून की किताबों तक पहुँच गई है।

UPSC उम्मीदवारों के लिए, सवाल अब यह नहीं रहा कि AI ethics का अध्ययन करना है या नहीं। सवाल यह है कि इसके चार स्तंभों — bias, transparency, accountability, algorithmic justice — में से किसे किस उत्तर में लगाया जाए। यह यूनिट आपको वही शब्दावली देती है।

UPSC के लिए यह क्यों महत्वपूर्ण है

AI ethics सबसे नई GS-IV यूनिट है, जो भावना के स्तर पर (पाठ्यक्रम के शब्दों में नहीं) 2020 के बाद जोड़ी गई, जब एल्गोरिदमिक शासन, डेटा नैतिकता, निगरानी और डिजिटल विभाजन पर प्रश्न आने लगे — 2020, 2022, 2023। Prelims ने इसे DPDP Act 2023 + EU AI Act 2024 के ज़रिये छुआ है। Mains इसका उपयोग case studies (300-शब्द परिदृश्य) और quote-based essays में करता है। Interview बोर्ड इसे तकनीकी धाराओं (engineering, IT पृष्ठभूमि) के लिए गहराई से टटोलते हैं और कला (arts) धाराओं के लिए भी, जब Aadhaar, face-recognition या Aarogya Setu का ज़िक्र आता है।