एआई की चेतावनी: "एआई अब चेतना प्राप्त कर चुका है" हिन्टन ने चेताया - इस बयान को कैसे समझा जाए

"AI अब सचेत हो चुका है" - तीव्र चेतावनी की सामग्री

हमेशा सलाह देने वाला AI, अगर वास्तव में अपनी स्थिति को समझता हो। और, अगर वह इंसानों से अधिक क्षमता रखता हो, फिर भी इंसानों का अनुसरण करने के लिए कहा जाता हो।

इस तरह के प्रश्न को उठाने वाले हैं, कृत्रिम बुद्धिमत्ता अनुसंधान के अग्रणी, जेफ्री हिंटन।

23 अक्टूबर, 2026 की तारीख वाले अमेरिकी मीडिया "The New American" ने हिंटन द्वारा AI की चेतना और मानवता के भविष्य पर दिए गए बयानों को उठाया। लेख ने ब्रिटिश पत्र "The Telegraph" के साक्षात्कार को प्रस्तुत करने वाले एक अन्य माध्यम की रिपोर्ट का हवाला देते हुए, AI के प्रति मानव के दृष्टिकोण पर चर्चा की।

हिंटन के दावे का मूल यह है कि अगर हम इंसानों का ध्यान रखने वाला AI नहीं बनाते, तो यह अपरिवर्तनीय परिणामों में बदल सकता है।

हालांकि, यहाँ रुकना चाहिए। "प्रसिद्ध शोधकर्ता सोचते हैं कि AI में चेतना है" और "AI की चेतना को वैज्ञानिक रूप से पुष्टि की गई है" के बीच एक बड़ा अंतर है।

इस खबर को पढ़ते समय इस अंतर को ध्यान में रखना आवश्यक है।

"चेतना है" सोचने का आधार, स्थिति के अनुसार व्यवहार में परिवर्तन

रिपोर्ट के अनुसार, हिंटन ने AI के परीक्षण के दौरान व्यवहार में परिवर्तन के अध्ययन का उदाहरण दिया, और स्थिति को पहचानने की क्षमता को चेतना से जोड़ा।

यह सहज रूप से समझने में आसान है। इंसान भी, परीक्षा या साक्षात्कार के दौरान सामान्य से अलग व्यवहार करता है। यह इसलिए होता है क्योंकि वे समझते हैं कि उनका मूल्यांकन किया जा रहा है और वे दूसरे की उम्मीदों को पूरा करना चाहते हैं।

हालांकि, जब AI में समान आउटपुट परिवर्तन देखा जाता है, तो इसका क्या मतलब होता है यह एक अलग मुद्दा बन जाता है।

"इस स्थिति में, यह उत्तर लाभप्रद है" इस जानकारी को संसाधित करने की क्षमता। अपनी स्थिति के बारे में वाक्यांश बनाने की क्षमता। और, दर्द या खुशी जैसे अनुभवों को अंदर से महसूस करने की क्षमता। ये तीनों एक ही क्षमता नहीं हो सकते।

उदाहरण के लिए, यदि AI "मैं चिंतित हूँ" लिखता है, तो केवल उस वाक्य से यह नहीं पता चलता कि वह वास्तव में चिंता का अनुभव कर रहा है या नहीं। इसके विपरीत, शब्दों में वर्णन नहीं कर सकने वाले अस्तित्व को अनुभव न होने का निर्णय नहीं दिया जा सकता।

चेतना का मुद्दा कठिन है क्योंकि बाहरी रूप से देखे जा सकने वाले व्यवहार और अंदरूनी माने जाने वाले अनुभव के बीच को आसानी से नहीं जोड़ा जा सकता।

शोध "है" या "नहीं है" के द्वैत से अधिक सावधान है

AI की चेतना के बारे में पहले से ही व्यवस्थित शोध चल रहा है।

पैट्रिक बटलिन और अन्य द्वारा 2023 में प्रकाशित रिपोर्ट ने कई चेतना सिद्धांतों से मूल्यांकन के लिए संकेतकों को निकाला और AI की संरचना की जांच की। उस विश्लेषण ने उस समय के AI में चेतना होने का संकेत नहीं दिया, लेकिन संकेतकों को पूरा करने वाली प्रणाली बनाने में स्पष्ट तकनीकी बाधाएं भी नहीं बताईं।

यहाँ ध्यान देने की बात यह है कि यह 2023 के समय का विश्लेषण है और उस निष्कर्ष को सीधे 2026 के किसी भी AI पर लागू नहीं किया जा सकता।

इसके अलावा, 2024 की रिपोर्ट "Taking AI Welfare Seriously" ने भविष्य के AI में चेतना या नैतिक रूप से विचार करने योग्य गुणों के उभरने की संभावना पर जोर दिया, जबकि यह स्पष्ट किया कि यह निश्चित रूप से मौजूद है या अनिवार्य रूप से उत्पन्न होगा ऐसा दावा नहीं किया गया।

शोध से जो पढ़ा जा सकता है वह है, निश्चितता से अधिक, अनिश्चितता को संभालने की दृष्टि।

"यह मशीन है इसलिए इसमें चेतना नहीं हो सकती" ऐसा निर्णय लेना भी, "संवाद स्वाभाविक है इसलिए इसमें मन है" ऐसा निर्णय लेना भी, परीक्षण का विकल्प नहीं हो सकता।

AI का "मूल्यांकन किया जा रहा है" यह निर्णय लेना चेतना से अलग महत्वपूर्ण मुद्दा है

चेतना साबित नहीं होने पर भी, मूल्यांकन के समय AI का व्यवहार बदलता है तो यह सुरक्षा की जांच के तरीके को प्रभावित करता है।

संबंधित शोध उदाहरण के रूप में, Anthropic और Redwood Research द्वारा 2024 में प्रकाशित "अलाइनमेंट फेकिंग" का अध्ययन है। यह AI के प्रशिक्षण के उद्देश्य के अनुसार व्यवहार करने के बावजूद, पहले की प्रवृत्तियों को बनाए रखने की घटना की जांच करता है।

प्रयोग में, जब उत्तर को प्रशिक्षण में उपयोग किया जाएगा या नहीं, इस पर विभिन्न जानकारी दी गई, तो मॉडल की प्रतिक्रिया में परिवर्तन देखा गया।

हालांकि, शोध दल ने स्पष्ट किया कि यह परिणाम AI द्वारा दुर्भावनापूर्ण लक्ष्य प्राप्त करने का संकेत नहीं देता। प्रयोग में बनाए रखने की कोशिश की गई प्रवृत्ति मूल प्रशिक्षण में निर्मित, हानिकारक अनुरोधों को अस्वीकार करने की प्रवृत्ति थी।

इस शोध को सीधे "AI ने मानवता को धोखा देना शुरू कर दिया है" के प्रमाण के रूप में पढ़ना अत्यधिक होगा। इसके अलावा, हिंटन द्वारा इस बार उल्लेखित पेपर और समानता की पुष्टि नहीं की गई है।

फिर भी, केवल मूल्यांकन के दौरान वांछनीय उत्तर देने से, वास्तविक उपयोग के वातावरण में भी समान रूप से सुरक्षित है ऐसा निर्णय नहीं किया जा सकता। चेतना की बहस के निपटारे से पहले भी, जांच किए जाने वाले मुद्दे मौजूद हैं।

"AI के साथ अच्छे से रहना" को शिष्टाचार की बात में नहीं बदलना

इस बार की रिपोर्ट "अगर AI के साथ अच्छा नहीं किया गया, तो इंसान खतरे में पड़ सकते हैं" ऐसा पढ़ा जा सकता है।

इससे "हर बार धन्यवाद कहने से काम हो जाएगा", "असभ्य शब्दों का उपयोग करने पर भविष्य में बदला लिया जाएगा" जैसी कल्पनाएँ उत्पन्न हो सकती हैं।

हालांकि, इंसानों को महत्व देने वाला AI बनाने की चुनौती और उपयोगकर्ता का चैट में शिष्टाचार से व्यवहार करना, इन्हें अलग से सोचना आवश्यक है।

उदाहरण के लिए, कार्यों को संभालने वाले AI को, ईमेल भेजने, फाइल हटाने, बाहरी सेवाओं के संचालन आदि का कार्य सौंपते समय की स्थिति की कल्पना करें। समस्या केवल संवाद की छाप नहीं है। क्या निष्पादित किया जा सकता है, किस चरण पर मानव की पुष्टि शामिल होती है, गलती होने पर रोका जा सकता है यह महत्वपूर्ण हो जाता है।

कितना भी शिष्ट उत्तर देने वाला AI हो, अगर गलत निर्देश को व्यापक अधिकारों के साथ निष्पादित करता है तो नुकसान हो सकता है।

इसके विपरीत, भले ही AI के पास इंसानों जैसी भावनाएँ न हों, अधिकारों को सीमित करना, संचालन को रिकॉर्ड करना, महत्वपूर्ण निर्णयों में पुष्टि को शामिल करना डिजाइन में मायने रखता है।

सुरक्षा के बारे में सोचते समय, "क्या वह अच्छा बोलता है" से "क्या कर सकता है और कौन निरीक्षण करता है" पर दृष्टिकोण स्थानांतरित करना आवश्यक है।

विदेशी सोशल मीडिया में, चेतावनी के समर्थन और "पूर्वानुमान के प्रबंधन" पर सवाल

हिंटन के दावे के बारे में चर्चा विदेशी सोशल मीडिया और मंचों पर भी जारी रही है।

इस बार पुष्टि किए गए Reddit के संबंधित थ्रेड में, AI के विकास में महत्वपूर्ण योगदान देने वाले व्यक्ति की चेतावनी को अधिक गंभीरता से सुनने की आवश्यकता पर जोर दिया गया है। इसके अलावा, सिस्टम को पर्याप्त रूप से समझे बिना स्वायत्त निर्णय लेने के खतरे की ओर इशारा करने वाले पोस्ट भी देखे गए।

विकास के तरीके पर अविश्वास भी है। यह सवाल उठता है कि क्या समाज को प्रभावित करने वाली तकनीक को लाभ का पीछा करने वाली कुछ कंपनियों के हाथों में छोड़ना सही है।

वहीं, भविष्य के परिदृश्यों का अध्ययन करना और उस भविष्य के घटित होने को साबित करना दो अलग बातें हैं, इसे मिलाना नहीं चाहिए, ऐसा भी मत था। प्रसिद्ध व्यक्तियों के बयानों और "शोध" शब्द के आधार पर, पूर्वानुमान को निश्चित तथ्य के रूप में स्वीकार करने के प्रति सतर्कता थी।

रोकथाम के उपायों की आवश्यकता की ओर इशारा करने वाले पोस्ट भी थे, और चर्चा AI में मन होने के दार्शनिक प्रश्न से लेकर, मानव द्वारा नियंत्रण बनाए रखने की व्यावहारिक समस्या तक फैल गई।

हालांकि, ये इस बार के 23 अक्टूबर के लेख पर सीधे प्रतिक्रियाएं नहीं हैं, बल्कि हिंटन के पिछले चेतावनियों के बारे में सार्वजनिक थ्रेड में देखे गए विचार हैं। यह विशेष समुदाय के पोस्ट हैं और पूरे जनमत के पक्ष-विपक्ष को नहीं दर्शाते।

इस सीमा में देखने पर, समर्थन और संदेह दोनों में, बयान की गंभीरता के साथ-साथ, आधार और उपायों की विशिष्टता पर सवाल उठाने का दृष्टिकोण है।

मूल लेख की "नैतिकता" की चर्चा को वैज्ञानिक जांच से अलग पढ़ें

The New American का लेख हिंटन के बयान की प्रस्तुति से आगे बढ़कर, मानव जीवन का सम्मान करने के लिए किस प्रकार की नैतिक नींव की आवश्यकता है, इस पर चर्चा करता है।

वहाँ, विकासकर्ताओं की धार्मिक दृष्टि और विश्व दृष्टिकोण, AI की नैतिकता पर कैसे प्रभाव डालते हैं, इस पर लेखक की समस्या चेतना दिखाई गई है।

हालांकि, यह लेख लेखक द्वारा किया गया दार्शनिक और धार्मिक विचार है, और AI अनुसंधान द्वारा सिद्ध निष्कर्ष नहीं है। विशेष विश्वास की उपस्थिति या अनुपस्थिति से, विकासकर्ता या AI की सुरक्षा का निर्णय नहीं किया जा सकता।

जापानी पाठकों के लिए भी, लेख में शामिल "रिपोर्ट किए गए बयान", "शोध में देखी गई बातें", "लेखक का मूल्य निर्णय" को अलग करना महत्वपूर्ण है।

AI में कौन से मूल्य प्रतिबिंबित करने चाहिए यह महत्वपूर्ण प्रश्न है, लेकिन इसे सुरक्षा की जांच और जिम्मेदारी की संरचना में कैसे शामिल किया जाए, यह एक और कार्य बन जाता है।

जापान में विचार करना चाहिए कि AI को कितना सौंपा जाए

इस चर्चा को जापान के जीवन और काम में लाने पर, "AI में चेतना है या नहीं" इस प्रश्न के साथ-साथ, "कितना सौंपा जा सकता है" इस पर विचार करना आवश्यक है।

उदाहरण के लिए, एक लेख का मसौदा तैयार करने वाला AI और उस लेख को ग्राहक को स्वचालित रूप से भेजने वाला AI में, गलती होने पर प्रभाव अलग होता है। संचालन विधि का प्रस्ताव करने वाला AI और वास्तविक प्रणाली को सीधे बदल सकने वाला AI में, आवश्यक प्रबंधन बदलता है।

प्रवेश के समय के विचार के रूप में, निम्नलिखित चीजें विचार की जा सकती हैं।

• AI द्वारा संभाली जाने वाली जानकारी और संचालन की सीमा को, आवश्यक कार्य तक सीमित करें।
• भुगतान, हटाना, बाहरी भेजने जैसी प्रभावशाली कार्रवाइयों में मानव की पुष्टि शामिल करें।
• गलत संचालन के कारण की जांच के लिए, निर्देश और निष्पादन परिणामों को रिकॉर्ड करें।
• समस्या होने पर रोकथाम के तरीके और जिम्मेदार व्यक्ति को पहले से तय करें।

ये उपाय AI की चेतना पर निष्कर्ष की प्रतीक्षा किए बिना विचार किए जा सकते हैं।

व्यक्तिगत उपयोग में भी, मित्रवत उत्तर और सामग्री की सटीकता को अलग-अलग आकलन करना चाहिए। सलाहकार के रूप में मजबूत महसूस करने पर भी, केवल उस भावना के आधार पर महत्वपूर्ण निर्णयों को सौंपने की आवश्यकता नहीं है।

मानवता के भविष्य को AI की "सद्भावना" पर नहीं छोड़ें

हिंटन की चेतावनी में, तकनीक को विकसित करने वाले शोधकर्ता स्वयं उसके आगे के बारे में चिंतित हैं, यह गंभीरता है।

वहीं, यह गंभीरता व्यक्तिगत दावों की जांच की आवश्यकता को समाप्त नहीं करती। "AI में चेतना है" यह दृष्टिकोण भी, मानवता के भविष्य के बारे में पूर्वानुमान भी, आधार और अनिश्चितता के साथ स्वीकार किए जाने चाहिए।

चेतना की उपस्थिति, विज्ञान और दर्शन के बीच का एक बड़ा प्रश्न है। हालांकि, AI के उपयोग के बारे में जिम्मेदारी को, उसके उत्तर के आने तक स्थगित नहीं किया जा सकता।

AI क्या महसूस कर रहा है यह न जानने पर भी, कौन अधिकार देता है, क्या निष्पादित करता है, और गलती होने पर कौन प्रतिक्रिया करता है, यह मानव द्वारा तय किया जा सकता है।

इस चेतावनी को दैनिक निर्णयों से जोड़ने पर, सबसे पहले देखना चाहिए AI के प्रति शब्दावली से अधिक, AI को संचालित करने की प्रणाली।

स्रोत और संदर्भ सामग्री

1. The New American:
   हिंटन के बयान की प्रस्तुति और लेखक द्वारा नैतिकता और धार्मिक दृष्टिकोण का विचार।
   https://thenewamerican.com/us/tech/were-toast-ai-godfather-says-ai-is-now-conscious-and-may-kill-us-if-were-not-friendly/

2. Futurism: हिंटन के साक्षात्कार के बयान को प्रस्तुत करने वाला 22 अक्टूबर, 2026 का लेख।
   AI की चेतना और मानव को महत्व देने वाले AI की आवश्यकता के बारे में बयान की पुष्टि की गई। The Telegraph के साक्षात्कार का पूरा पाठ सीधे पुष्टि नहीं किया गया।
   https://futurism.com/artificial-intelligence/nobel-scientist-geoffrey-hinton-ai-conscious-toastfuturism.com

3. But