चीन ने एआई साथियों पर नकेल कस ली है। हम इससे क्या सीख सकते हैं?

नवंबर 2022 से, जनरेटिव आर्टिफिशियल इंटेलिजेंस (AI) अरबों ईमेल, छात्र असाइनमेंट, रिपोर्ट और ब्रेक-अप टेक्स्ट संदेशों को फिर से लिख रहा है। इन सांसारिक उपयोगों के साथ-साथ, हमने एआई “साथी” के रूप में चैटबॉट्स का प्रसार देखा है।

उपयोगकर्ता अपने स्वयं के एआई मित्र को डिज़ाइन और कपड़े पहन सकते हैं (या कपड़े खोल सकते हैं), अक्सर शुल्क के लिए। ये सामाजिक चैटबॉट “खुशहाल बातचीत” और पारस्परिक भेद्यता और अपनेपन की वास्तविक भावना की कीमत पर एक आदर्श संबंध प्रदान करते हैं जो हम अन्य मनुष्यों के साथ संबंधों से प्राप्त करते हैं।

समर्थकों का तर्क है कि सामाजिक वियोग का अनुभव करने वालों के लिए, चैटबॉट असीम रूप से उपलब्ध हैं, सहायक साथी जो उनका न्याय नहीं करते हैं। और कुछ सबूत हैं कि चैटबॉट अकेलेपन, पुराने वियोग और विफल अपनेपन के लक्षणों को कम कर सकते हैं।

ऑस्ट्रेलिया के ई-सुरक्षा आयुक्त इसे स्वीकार करते हैं: “एआई साथी हमेशा उपलब्ध होते हैं जो उन युवाओं के लिए आकर्षक हो सकते हैं जो आमने-सामने संबंध बनाने के लिए संघर्ष करते हैं। लेकिन मानवीय रिश्तों को चैटबॉट्स से बदलने के जोखिम अभी समझ में आने लगे हैं।

2023 में हमारे द्वारा किए गए एक अध्ययन से पता चला है कि विश्वविद्यालय के छात्रों ने अकादमिक सहायता के लिए शुरुआती चैटबॉट का उपयोग करते हुए अकेलेपन जैसे अनपेक्षित परिणामों का सामना किया। वर्तमान में, सामाजिक चैटबॉट्स के जोखिम जैसे निर्भरता, मानव मित्रताओं को विस्थापित करना, सामाजिक रूप से पीछे हटना, या अवास्तविक संबंध बनाना लाभों से अधिक प्रतीत होता है।

हाल के हफ्तों में, चीन ने एआई साथियों और चैटबॉट, या “एंथ्रोपोमोर्फिक इंटरैक्टिव सेवाओं” के लिए नए नियम लागू किए हैं, जैसा कि उन्हें कानून में कहा जाता है। यह सुनिश्चित करने के साथ-साथ चैटबॉट्स को राज्य के रहस्यों की रक्षा करनी चाहिए, इन उपकरणों का भावनात्मक उपयोग प्रतिबंधित है, और सामाजिक और नैतिक मानकों का पालन करने की उम्मीद की जाती है।

ये दुनिया में कहीं भी पेश किए गए सामाजिक एआई उपयोग के कुछ सबसे मजबूत नियंत्रण हैं। तो हम क्या सीख सकते हैं?

चीन का सामाजिक एआई विनियमन

साथी एआई के उपयोग से भौतिक नुकसान होता है, जिसमें चीन भी शामिल है। एक 18 वर्षीय लड़की ने अपने एआई बॉयफ्रेंड के लिए अपने चार महीने की “डेटिंग” में अनुकूलित आभूषणों पर 7,000 युआन (A$1,400) खर्च किए।

चीन के हुबेई प्रांत में एक अकेले 84 वर्षीय व्यक्ति के परिवार ने पाया कि वह एक एआई चरित्र के साथ प्रभावित हो गई थी, दिन में दस घंटे तक उसके और अन्य पात्रों के साथ वीडियो देखने में बिताती थी, सेवा पर हजारों युआन खर्च करती थी, और यहां तक कि उसे हाथ से प्रेम पत्र भी लिखती थी।

चीन के नए नियम स्पष्ट प्रावधान स्थापित करते हैं कि वे साथी चैटबॉट्स से मनुष्यों के साथ बातचीत करने की उम्मीद कैसे करते हैं।

उपायों से उम्मीद की जाती है कि सामाजिक एआई बॉट डेवलपर्स सामग्री को आश्वस्त करेंगे कि राष्ट्रीय सुरक्षा या राष्ट्रीय सम्मान को खतरा नहीं है, जो मूल समाजवादी मूल्यों का उल्लंघन करता है

आत्म-नुकसान या आत्महत्या को प्रोत्साहित करें

भावनात्मक निर्भरता या लत को अत्यधिक पूरा करना, नाबालिगों को आभासी “भागीदार” या “रिश्तेदार” प्रदान करना, नाबालिगों को अनुपयुक्त सामग्री प्रदान करना।

इसके अलावा, जो उपयोगकर्ता सेवा पर अत्यधिक निर्भर लगते हैं, उन्हें प्रमुख अनुस्मारक प्राप्त करना होगा जो वे चैटबॉट से बात कर रहे हैं। और यदि उपयोगकर्ता अत्यधिक संकट में दिखाई देते हैं तो एआई कंपनियों को हस्तक्षेप करने की आवश्यकता होती है।

‘अकेलेपन के सर्पिल’ का खतरा

जैसा कि हमने दिखाया है, आज तक की चिंताएं और अध्ययन इस बात का भी संकेत देते हैं कि युवा लोगों के लिए एक विश्वसनीय मित्र या चिकित्सक के रूप में एआई पर विशेष रूप से भरोसा करना स्वस्थ नहीं है।

सामाजिक चिंता का अनुभव करने वाले अकेले लोग अकेलेपन और नकारात्मक अफवाह की भावनाओं को कम करने के लिए संवादी एआई के समस्याग्रस्त उपयोग में संलग्न हो सकते हैं।

हम प्रस्ताव करते हैं कि यह निर्भरता एआई-प्रेरित “अकेलेपन सर्पिल” को जन्म दे सकती है। जब व्यक्ति अकेलापन महसूस करते हैं, तो वे सामाजिक खतरे और विघटनकारी भावनात्मक विनियमन की भावनाओं के प्रति अधिक संवेदनशील होते हैं।

इसलिए वे योग्य या मिलनसार मनुष्यों के बजाय समर्थन के लिए कम जोखिम वाले एआई “मित्र” की ओर रुख करते हैं। हालाँकि, यह अक्सर अकेलेपन की प्रारंभिक समस्या को ठीक नहीं करता है, क्योंकि चैटबॉट वास्तव में इसे बढ़ा सकते हैं।

चीन ने एआई साथियों के लिए जो प्रतिबंध लगाए हैं, वे इस चक्र को तोड़ने और मानव कनेक्शन को फिर से प्राथमिकता देने में मदद कर सकते हैं। यह संज्ञानात्मक गणित को फिर से संतुलित कर रहा है: क्या एक साथी एआई ऐप इंस्टॉल करना या अपने दोस्त से मिलने के लिए समय निकालना अधिक संतोषजनक होगा?

ऑस्ट्रेलिया के लिए सबक

अकेलापन और अपनेपन की कम भावना ऑस्ट्रेलिया में प्रमुख चुनौतियाँ बनी हुई है, छह में से कम से कम एक को अकेलेपन का अनुभव होता है, कुछ सबूत उच्च दरों का सुझाव देते हैं।

जबकि चीन ने एआई साथियों पर नकेल कसी है, ऑस्ट्रेलिया युवाओं के सोशल मीडिया के उपयोग पर आरोप का नेतृत्व कर रहा है। eSafety ने उम्र से संबंधित सामग्री को ऑनलाइन प्रतिबंधित करने के लिए कोड भी विकसित किए हैं जैसे कि पोर्नोग्राफी, उच्च प्रभाव वाली हिंसा, आत्म-नुकसान, आत्महत्या और अव्यवस्थित भोजन। लेकिन वे एआई साथियों के सामाजिक नुकसानों को संबोधित नहीं करते हैं, जैसे कि भावनात्मक निर्भरता या मानव संबंध को विस्थापित करना।

प्रधान मंत्री एंथनी अल्बनीस ने भी पिछले हफ्ते एआई पर अपने प्रमुख भाषण में एआई चैटबॉट्स से सामाजिक नुकसान का उल्लेख नहीं किया।

हम प्रस्ताव करते हैं कि ऑस्ट्रेलिया की आयु-प्रतिबंधित सामग्री सुरक्षा को सामाजिक, विश्लेषणात्मक और कार्यात्मक एआई के साथ बातचीत के अनपेक्षित सामाजिक नुकसान तक विस्तारित किया जाना चाहिए।

ऑस्ट्रेलियाई सरकार को यह पता लगाने की जरूरत है कि ये आभासी साथी ऑस्ट्रेलियाई लोगों के साथ कैसे बातचीत करते हैं। और हमें इन सिंथेटिक सामाजिक संबंधों के व्यापक और सामान्यीकृत होने से पहले अनपेक्षित सामाजिक नुकसान को कम करने के लिए तैयार रहना चाहिए।

ऑस्ट्रेलिया को कार्यस्थलों, उत्पादकता रणनीतियों, शिक्षा पाठ्यक्रम और हमारे समुदायों के डिजाइन में सामाजिक जुड़ाव विकसित करने को प्राथमिकता देनी चाहिए।

चैटबॉट्स पर एक सत्तावादी कार्रवाई एक लोकतांत्रिक राष्ट्र की पहुंच के भीतर नहीं हो सकती है। लेकिन हम एआई पर अस्वास्थ्यकर अतिनिर्भरता, अस्वास्थ्यकर अतिनिर्भरता का विरोध करने के लिए मानव कनेक्शन कौशल विकसित करने को प्राथमिकता दे सकते हैं और करना चाहिए।

और ऑस्ट्रेलिया को सामाजिक नुकसान को कम करने के लिए नियामक सुरक्षा का लाभ उठाना चाहिए, जो काम ई-सेफ्टी पहले से ही सोशल मीडिया के साथ कर रहा है