एआई को एक उपकरण बने रहना चाहिए, न कि शासन में निर्णय लेने वाला बनना चाहिए: पूर्व कैबिनेट सचिव प्रभात कुमार

पूर्व कैबिनेट सचिव और झारखंड के पहले राज्यपाल प्रभात कुमार ने गुरुवार को आगाह करते हुए कहा कि आर्टिफिशियल इंटेलिजेंस में शासन को मौलिक रूप से बदलने की क्षमता है, लेकिन सरकारों को निर्णय लेने की प्रक्रिया को एल्गोरिदम के सामने आंख मूंदकर आत्मसमर्पण करने के प्रलोभन का विरोध करना चाहिए।

इंडिया इंटरनेशनल सेंटर में ‘आर्टिफिशियल इंटेलिजेंस के युग में शासन’ विषय पर बीजी देशमुख व्याख्यान 2026 में बोलते हुए, कुमार ने तर्क दिया कि एआई शासन की गति और दक्षता में नाटकीय रूप से सुधार करेगा, लेकिन इसे कभी भी जवाबदेही, नैतिकता और मानवीय निरीक्षण की जगह नहीं लेनी चाहिए।

उन्होंने कहा, ‘हम अनिवार्य रूप से मानव बुद्धिमत्ता का उपयोग करके शासन का प्रबंधन कर रहे हैं। अब हम मशीन इंटेलिजेंस के निर्माण की दहलीज पर हैं। यही कारण है कि मैं इसे एक निर्णायक क्षण कहता हूं, “कुमार ने कहा।

एआई को “चेतना से अलग बुद्धिमत्ता” का पहला रूप बताते हुए, उन्होंने कहा कि मानवता एक अभूतपूर्व युग में प्रवेश कर रही है जहां बुद्धिमान प्रणालियां जीवित या आत्म-जागरूक हुए बिना सिफारिशें और निर्णय ले सकती हैं।

उन्होंने कहा, ‘शासन के लक्ष्य वही रहेंगे। एआई शासन के तंत्र को बदल देगा, “उन्होंने कहा। “राजनीतिक वैज्ञानिक इस बदलाव को नौकरशाही से एल्गोरिदम में कहते हैं।

कुमार ने कहा कि दुनिया भर की सरकारें पहले से ही एआई की मदद से सार्वजनिक प्रशासन की ओर बढ़ रही हैं। उन्होंने कहा कि नागरिक कल्याणकारी योजनाओं के लिए पात्रता निर्धारित करने, परियोजनाओं पर नज़र रखने, बजट की संसाधित करने, व्यय का ऑडिट करने और वास्तविक समय में अनुपालन की निगरानी करने में सक्षम संवादी एआई प्रणालियों के साथ तेजी से बातचीत करेंगे।

उन्होंने कहा, “यह शासन के फैसलों के कार्यान्वयन के समय को महीनों से घटाकर सेकंड कर देगा।

हालांकि, उन्होंने चेतावनी दी कि नीति निर्माण में एआई की बढ़ती भूमिका धीरे-धीरे लोकतांत्रिक संस्थानों को कमजोर कर सकती है यदि निर्वाचित प्रतिनिधि एल्गोरिथम सिफारिशों पर निर्विवाद रूप से भरोसा करना शुरू कर दें।

उन्होंने कहा, ‘अगर एआई कहता है कि नीति ए नीति बी से बेहतर है क्योंकि यह 10 प्रतिशत अधिक रिटर्न देती है, तो संसद या राज्य विधानमंडल के लिए भी नीति बी चुनना बेहद मुश्किल हो जाएगा। “वास्तव में, निर्णय तेजी से एआई द्वारा आकार दिया जाएगा।

कुमार ने आगाह किया कि एआई सिस्टम अपारदर्शी निर्णय लेने और अंतर्निहित पूर्वाग्रहों के प्रति संवेदनशील बना हुआ है।

“यदि आप पूछते हैं कि कोई विशेष निर्णय क्यों लिया गया था, तो उत्तर अक्सर सरल होता है: ‘एल्गोरिदम ने ऐसा कहा’,” उन्होंने टिप्पणी की। एआई सिस्टम ब्लैक बॉक्स की तरह हैं। यहां तक कि उनके प्रोग्रामर भी हमेशा यह नहीं बता सकते कि कोई विशेष निर्णय क्यों लिया गया था।

एल्गोरिथम पूर्वाग्रह के मामलों का जिक्र करते हुए, उन्होंने याद किया कि कैसे कंप्यूटर वैज्ञानिक जॉय बुओलामविनी के चेहरे को कथित तौर पर चेहरे की पहचान प्रणालियों द्वारा पहचाना नहीं गया था जब तक कि उन्होंने एक सफेद मुखौटा नहीं पहना था, यह दर्शाता है कि कैसे पक्षपाती डेटासेट भेदभावपूर्ण परिणाम उत्पन्न कर सकते हैं।

कुमार ने कहा, “एल्गोरिथम प्रभुत्व का नकारात्मक पक्ष यह है कि यह मानवीय दोषों और प्रणालीगत पूर्वाग्रहों को उस गति से माप सकता है जिसके साथ हम तालमेल नहीं रख सकते हैं।

उन्होंने एआई अनुसंधान में तेजी से प्रगति की ओर भी इशारा किया, यह देखते हुए कि भविष्य की प्रणालियाँ तेजी से स्वायत्त हो सकती हैं।

“आज एआई एक उपकरण है। समय के साथ, इसमें एक प्रमुख प्रस्तावक के रूप में विकसित होने की विशिष्ट क्षमता है। ” उन्होंने कहा कि एआई एजेंट पहले से ही न्यूनतम मानवीय हस्तक्षेप के साथ आपस में बातचीत कर रहे थे।

इन चिंताओं के बावजूद, कुमार ने कहा कि भारत अपने लोकतांत्रिक ढांचे, बहुभाषी आबादी और डिजिटल सार्वजनिक बुनियादी ढांचे के कारण वैश्विक एआई नेता के रूप में उभरने के लिए विशिष्ट स्थिति में है।

उन्होंने इंडिया स्टैक, भाषिनी जैसी पहलों और एआई कंप्यूटिंग बुनियादी ढांचे के लिए सरकार के समर्थन का हवाला देते हुए कहा, “भारत अपनी आबादी के पैमाने और अपने समाज की जटिलता के कारण एआई मॉडल विकसित करने के लिए एक बहुत ही अद्वितीय स्थान पर है।

द ट्रिब्यून के एक सवाल का जवाब देते हुए कि क्या भविष्य के नीति निर्माताओं को अंततः एआई सिस्टम के साथ काम करने की उनकी क्षमता के आधार पर चुना जा सकता है, कुमार ने कहा कि नीति निर्माता अभी के लिए शासन के उद्देश्यों को तैयार करना जारी रखेंगे, लेकिन एआई का प्रभाव लगातार बढ़ेगा।

उन्होंने कहा, ‘आज नीति निर्माता नीतियों को परिभाषित करते हैं। लेकिन एक समय आएगा जब एआई मॉडल तेजी से नीति विकल्प डिजाइन करेंगे। यदि एआई यह निष्कर्ष निकालता है कि एक नीति दूसरे की तुलना में बेहतर है, तो नीति निर्माताओं के लिए उस सिफारिश को अस्वीकार करना बहुत मुश्किल हो जाएगा, “उन्होंने कहा।