एआई की गलत सूचना से "चीनी जहाज से टकराव" के करीब - युद्ध शुरू कर सकने वाली "विश्वसनीय त्रुटि"

अमेरिकी विश्लेषक ने एआई से जहाज के माल के बारे में पूछा। एआई ने इसे परमाणु हथियार कार्यक्रम से संबंधित हिस्से के रूप में पहचाना। इस जानकारी के आधार पर एक रिपोर्ट तैयार की गई और बलों ने चीनी जहाज पर चढ़ाई की तैयारी शुरू कर दी।

हालांकि, प्रारंभिक जानकारी गलत थी।

रिपोर्टों के अनुसार, ऑपरेशन को अंतिम क्षण में रद्द कर दिया गया। मानव ने अंततः गलती को पहचाना, जिससे सशस्त्र संघर्ष नहीं हुआ, लेकिन इसे आश्वस्त करने वाला नहीं कहा जा सकता। गलत निष्कर्ष केवल एक मसौदा या डेस्क नोट तक सीमित नहीं था, बल्कि सैनिकों और विमानों को सक्रिय करने के स्तर तक पहुंच गया था।

इस घटना से पता चलता है कि असली समस्या केवल "एआई गलत हो सकता है" की ज्ञात कमजोरी नहीं है। बल्कि यह है कि एआई की अनुमानित जानकारी कैसे "विश्वसनीय जानकारी" के रूप में दिखाई दी और संगठन की कमांड श्रृंखला के माध्यम से पारित हो गई। इस प्रक्रिया में सैन्य उपयोग के अलावा प्रशासन, चिकित्सा, वित्त, पत्रकारिता आदि में एआई का उपयोग करने वाले सभी संगठनों के लिए एक सामान्य खतरा है।

चीनी जहाज क्या ले जा रहा था

stern और AFP के अनुसार, यह घटना 2026 के वसंत में अमेरिका और ईरान के बीच सैन्य तनाव के दौरान हुई। अमेरिकी विशेष ऑपरेशन बलों से जुड़े एक विश्लेषक ने जहाज के माल के बारे में जानकारी के लिए एआई चैटबॉट का उपयोग किया, और सिस्टम ने निष्कर्ष निकाला कि परमाणु हथियारों के हिस्से लदे हुए थे।

कहा जाता है कि एआई ने सार्वजनिक जानकारी और खुफिया एजेंसियों के डेटा को मिलाकर गलत संबंध बनाया। इसके अलावा, विश्लेषक ने एआई का उपयोग करके एक रिपोर्ट तैयार की और इसे संबंधित विभागों में प्रसारित किया। इसका मतलब है कि एआई ने पहली बार "विश्लेषण" में गलती की और दूसरी बार उस गलती को "सुसंगत रिपोर्ट" में बदलने की भूमिका निभाई।

यहां महत्वपूर्ण बात यह है कि वर्तमान में उपलब्ध तथ्यों की सीमाएं हैं। लक्षित जहाज का नाम, वास्तविक माल, गंतव्य, और उपयोग किया गया चैटबॉट वाणिज्यिक था या सरकारी उत्पाद, यह स्पष्ट नहीं है। अमेरिकी सेना और रक्षा अधिकारियों ने रिपोर्टिंग के समय विवरण की व्याख्या नहीं की है। इसलिए, "एआई ने स्वायत्त रूप से हमला आदेश दिया" या "परमाणु हथियार स्वयं लदे हुए थे" जैसी व्याख्याएं अत्यधिक हैं।

दूसरी ओर, यदि यह सच है कि अमेरिकी सैनिक जहाज पर चढ़ाई की तैयारी कर रहे थे और कई गवाहों के अनुसार विमान पहले से ही उड़ान भर रहे थे, तो गलत जानकारी वास्तविक सैन्य कार्रवाई के काफी करीब पहुंच गई थी। यदि अमेरिकी सैनिक चीनी जहाज पर चढ़ते हैं, तो भले ही गोलीबारी न हो, यह संप्रभुता के उल्लंघन और नौवहन स्वतंत्रता पर गंभीर कूटनीतिक मुद्दा बन सकता है। यदि मौके पर प्रतिरोध या गलतफहमी होती है, तो संकट तेजी से बढ़ सकता है।

एआई की गलती "विश्वसनीय रिपोर्ट" कैसे बनी

जनरेटिव एआई हमेशा यह नहीं कहता कि उसे कुछ नहीं पता। यह खंडित जानकारी से संभावित रूप से सबसे उपयुक्त स्पष्टीकरण तैयार करता है। जितनी अधिक प्रवाहपूर्ण भाषा, तकनीकी शब्दावली और सुसंगत संरचना होती है, पाठक को सामग्री सही लगने की संभावना होती है।

इस रिपोर्ट की गंभीरता यह है कि इस "उपयुक्तता" ने दो बार काम किया।

पहले चरण में, चैटबॉट ने माल के टुकड़ों को जोड़ा और उन्हें परमाणु हथियारों के हिस्से के रूप में गलत अर्थ दिया। अगले चरण में, एआई ने उस निष्कर्ष को एक रिपोर्ट की तरह तैयार किया। अनुमान को स्वरूप और शैली मिलने से यह तथ्य की तरह दिखता है। यदि पाठक मूल स्रोत तक नहीं लौटता है, तो अनुमान और सत्यापित जानकारी के बीच की सीमा गायब हो जाती है।

मानव द्वारा लिखी गई रिपोर्टों में भी गलतियाँ होती हैं। लेकिन जनरेटिव एआई का उपयोग करने से, आप कम समय में बड़ी मात्रा में पाठ बना सकते हैं, और वही गलती सारांश, अनुवाद, रिपोर्ट और स्पष्टीकरण सामग्री में तेजी से दोहराई जा सकती है। गलती की संभावना के अलावा, गलती के संगठन के भीतर स्थानांतरित होने की गति भी बदल जाती है।

यह "एआई बनाम मानव" की समस्या नहीं है। यह "मानव और एआई की श्रृंखला" की समस्या है, जहां एआई के आउटपुट को प्राप्त करने वाला मानव स्रोत, सटीकता, और विरोधाभासी साक्ष्य की जांच किए बिना इसे अगले व्यक्ति को सौंप देता है।

एसएनएस पर "एआई का डर" ही नहीं, संगठनों की जिम्मेदारी पर भी सवाल

इस समाचार को कवर करने वाले विदेशी मंचों और एसएनएस पर, गहरी चिंता और व्यंग्य फैल गया। सार्वजनिक पोस्ट से दिखाई देने वाली प्रतिक्रियाएं मुख्य रूप से चार बिंदुओं में विभाजित हैं। हालांकि, यह सार्वजनिक रूप से उपलब्ध पोस्ट की गुणात्मक समीक्षा है और जनमत सर्वेक्षण जैसी प्रतिनिधित्व नहीं है।

पहला, "भाषा मॉडल को सैन्य कार्रवाई के करीब नहीं रखना चाहिए" की चेतावनी है। परमाणु हथियार प्रणालियों तक उसी विचार से कनेक्ट होने वाले भविष्य का डर व्यक्त करने वाली पोस्टें और भविष्यवाणी पाठ को शत्रुतापूर्ण कार्रवाई के आधार के रूप में उपयोग करने की खतरनाकता की ओर इशारा करने वाली आवाजें सामने आईं। यह दृष्टिकोण है कि एआई खुद विद्रोह नहीं करता, बल्कि मानव सुविधा को प्राथमिकता देकर महत्वपूर्ण निर्णयों को सौंपता है जिससे संकट उत्पन्न होता है।

दूसरा, "एआई से अधिक कमांड चेन की विफलता समस्या है" की आलोचना है। बिना मूल डेटा की जांच किए रिपोर्ट तैयार की गई और बलों ने कार्यवाही शुरू कर दी, तो केवल चैटबॉट को दोष देना उचित नहीं है। एआई के उपयोग को स्पष्ट करने की प्रणाली, रिपोर्ट के आधार का पता लगाने के लिए ऑडिट रिकॉर्ड, और स्वतंत्र विश्लेषकों द्वारा पुनः पुष्टि की कमी पर सवाल उठाए गए।

तीसरा, "अंत में इसे रोका गया, इसलिए सत्यापन प्रक्रिया ने काम किया" की प्रतिक्रिया है। यदि खतरा वास्तविक था, तो बलों को तैयार करते हुए, समानांतर में जानकारी की पुनः जांच की गई और गलती का पता चलने पर इसे रद्द कर दिया गया, तो संकट प्रबंधन के रूप में इसमें कुछ तर्कसंगतता है।

हालांकि, इस प्रतिक्रिया के खिलाफ, "सत्यापन विमान और सैनिकों को चलाने से पहले किया जाना चाहिए था" की प्रतिक्रिया आई है। तैयारी की कार्रवाई स्वयं प्रतिद्वंद्वी द्वारा पता लगाई जा सकती है और गलतफहमी या प्रतिकार उपायों को प्रेरित कर सकती है। सैन्य दुनिया में, केवल अंतिम आदेश ही संकेत नहीं होता। बलों की आवाजाही, विमानों का प्रस्थान, और संचार की वृद्धि भी प्रतिद्वंद्वी के लिए इरादों को समझने का आधार बन सकते हैं।

चौथा, "एआई उपयोग का प्रदर्शन" की मांग है। रिपोर्ट के किस हिस्से को एआई ने उत्पन्न किया, किस स्रोत पर आधारित था, और कितनी निश्चितता थी, यह निर्णय निर्माताओं को एक नजर में देखना चाहिए। यह समस्या नहीं है कि एआई का उपयोग किया गया था, बल्कि यह है कि इसे मानव विश्लेषण के समान व्यवहार किया जाता है, बिना देखे।

"अंतिम निर्णय मानव द्वारा" पर्याप्त नहीं है

एआई गवर्नेंस में, अक्सर कहा जाता है कि "अंतिम निर्णय मानव द्वारा किया जाता है"। लेकिन इस मामले से पता चलता है कि केवल इस कथन से सुरक्षा की गारंटी नहीं मिलती।

अंतिम अनुमोदनकर्ता मानव हो सकता है, लेकिन यदि रिपोर्ट एआई द्वारा विकृत की गई है, और यह तथ्य दिखाई नहीं देता है, और सत्यापन का समय भी अपर्याप्त है, तो मानव वास्तव में केवल एआई के निष्कर्ष की पुष्टि कर रहा होगा। औपचारिक रूप से मानव निर्णय कर रहा है, लेकिन निर्णय के विकल्प और आधार एआई द्वारा बनाए गए हैं।

आवश्यकता "ह्यूमन इन द लूप" का संकेत नहीं है, बल्कि एक ऐसी डिज़ाइन है जहां मानव वास्तव में आपत्ति कर सकता है। विशेष रूप से, कम से कम निम्नलिखित शर्तें आवश्यक हैं।

• एआई का उपयोग किए गए और न किए गए हिस्सों को स्पष्ट करना

• मूल स्रोत, एआई इनपुट, आउटपुट, और संपादन इतिहास को बाद में ट्रैक करने योग्य बनाना

• एआई से स्वतंत्र मार्ग के माध्यम से महत्वपूर्ण तथ्यों का मिलान करना

• सशस्त्र बल उपयोग से संबंधित जानकारी के लिए कई लोगों की पुष्टि आवश्यक करना

• कम विश्वास वाली जानकारी को निश्चित वाक्यों में नहीं बदलना

• विपरीत परिकल्पनाओं की जांच के लिए एक व्यक्ति को नियुक्त करना

• आपातकालीन स्थिति में भी अनिवार्य सत्यापन वस्तुओं को निर्धारित करना

• गलती का पता चलने पर, यह तुरंत ट्रैक करना कि यह कहां तक वितरित किया गया था और इसे वापस लेना

केवल एआई की सटीकता बढ़ाना पर्याप्त नहीं है। चाहे कितना भी उच्च प्रदर्शन वाला मॉडल हो, गलती की गारंटी शून्य नहीं होती। बल्कि, जैसे-जैसे क्षमता बढ़ती है और पाठ अधिक प्राकृतिक होता है, मानव सतर्कता कम कर सकता है। सुरक्षा मॉडल की व्यक्तिगत प्रदर्शन पर नहीं, बल्कि उपयोग करने वाले संगठन की प्रक्रियाओं और जिम्मेदारी पर निर्भर करती है।

जापान के लिए "दूर के समुद्र की असफलता" नहीं है

जापान अमेरिका-चीन संघर्ष के बाहर का पर्यवेक्षक नहीं है। पूर्वी चीन सागर, सेनकाकू द्वीप समूह के आसपास, ताइवान जलडमरूमध्य, दक्षिण-पश्चिम द्वीप समूह में, शांति के समय से ही जहाज और विमान करीब आते हैं, और प्रतिद्वंद्वी के इरादों को जल्दी से समझना होता है। वहां, जहाज के प्रकार की पहचान, ट्रैकिंग का विश्लेषण, रेडियो जानकारी, उपग्रह छवियां, सार्वजनिक जानकारी आदि के विशाल डेटा के प्रसंस्करण में एआई की बड़ी संभावना है।

जापान में श्रम की कमी बढ़ रही है, और एआई और स्वचालन की उम्मीदें भी बढ़ रही हैं। रक्षा मंत्रालय ने आधार सुरक्षा में एआई के उपयोग और स्वचालित उपकरणों के उपयोग को बढ़ावा दिया है। सीमित जनशक्ति के साथ निगरानी क्षेत्र को विस्तारित करने के लिए यह एक तार्किक दिशा है, और एआई को पूरी तरह से हटाना सही नहीं है।

हालांकि, जापान के आसपास एक बार की गलत पहचान, अमेरिका-जापान गठबंधन के माध्यम से बड़े संघर्ष में बदल सकती है। उदाहरण के लिए, यदि एआई जहाज के उपकरण या कार्यों को शत्रुतापूर्ण मानता है और यह मूल्यांकन साझा प्रणाली के माध्यम से अमेरिका-जापान के कई बलों में फैलता है, तो गलत जानकारी के सुधार से पहले सतर्कता बढ़ सकती है। यदि प्रतिद्वंद्वी भी इस आंदोलन को देखता है और इसे "हमले की तैयारी" के रूप में मानता है, तो दोनों पक्षों के रक्षात्मक कार्य प्रतिद्वंद्वी को हमले की तैयारी के रूप में दिखाई देंगे, जिससे "सुरक्षा दुविधा" तेज हो जाएगी।

जापान को ध्यान देना चाहिए कि एआई को लागू करना है या नहीं, बल्कि कौन से निर्णय एआई को सौंपे जाएं और किस स्तर से स्वतंत्र मानव पुष्टि आवश्यक हो। विशेष रूप से, लक्ष्य पहचान, हथियारों के साथ संबंध, शत्रुतापूर्ण इरादे का अनुमान, और सशस्त्र बल उपयोग की आवश्यकता, इन चारों को एक ही एआई आउटपुट का श्रृंखलाबद्ध उपयोग नहीं करना चाहिए।

सहयोगी देशों से प्राप्त जानकारी के बारे में, "अमेरिकी पक्ष द्वारा पुष्टि की गई" मानकर स्वचालित रूप से विश्वास करना खतरनाक है। एआई उपयोग की उपस्थिति, सूचना स्रोतों की संख्या, विश्वास स्तर, विरोधाभासी जानकारी, अंतिम अद्यतन समय साझा करने के लिए सामान्य नियम आवश्यक होंगे। जैसे-जैसे संयुक्त संचालन की गति बढ़ती है, सत्यापन की सामान्य भाषा भी स्थापित करनी होगी।

गति की प्रतिस्पर्धा करने वाले सैन्य एआई द्वारा उत्पन्न "सत्यापन का ऋण"

सैन्य संगठनों द्वारा एआई से अपेक्षा करने के बड़े कारणों में से एक यह है कि यह निर्णय लेने की गति को बढ़ा सकता है। प्रतिद्वंद्वी से पहले खोज, समझ, निर्णय और कार्रवाई करना। लेकिन जैसे-जैसे गति बढ़ती है, सत्यापन के लिए उपलब्ध समय कम होता जाता है।

यहां "सत्यापन का ऋण" उत्पन्न होता है। भले ही एआई द्वारा विश्लेषण समय को कम किया गया हो, यदि मानव को बाद में आउटपुट के आधार की पुनः जांच करनी हो, तो वह सत्यापन कार्य गायब नहीं हुआ है, बल्कि बाद के चरण में धकेल दिया गया है। और यदि बल पहले ही चल चुके हैं, तो गलती को सुधारने की लागत और जोखिम भी बढ़ जाता है।

वास्तव में आवश्यक है, सत्यापन को छोड़कर तेजी से करने की प्रणाली नहीं, बल्कि सत्यापन की संभावना को बनाए रखते हुए तेजी से करने की प्रणाली। स्रोत स्वतः प्रदर्शित होते हैं, विरोधाभासी जानकारी को साथ में प्रस्तुत किया जाता है, और अनिश्चितता को संख्यात्मक या स्तर के रूप में दिखाया जाता है। गंभीर निष्कर्षों के लिए, एक अलग मॉडल और अलग जिम्मेदार व्यक्ति द्वारा मिलान की स्वतः आवश्यकता होती है। इस तरह की डिज़ाइन के बिना, एआई निर्णय लेने के लिए एक उपकरण नहीं, बल्कि गलतफहमी को तेजी से वितरित करने वाला उपकरण बन जाएगा।

सवाल एआई की बुद्धिमत्ता से अधिक मानव की शासन क्षमता पर है

यह घटना तथाकथित सुपर इंटेलिजेंस द्वारा मानवता पर शासन करने की एक दूर की भविष्य की कहानी नहीं है। यह एक अत्यंत वास्तविक संकट है, जहां वर्तमान एआई द्वारा बनाई गई उपयुक्त गलतियों को व्यस्त मानव और जटिल संगठन विश्वास कर लेते हैं।

ऑपरेशन के रद्द होने का तथ्य यह दर्शाता है कि मानव पुनः पुष्टि अंतिम सुरक्षा दीवार बन गई। साथ ही, यह संदेह भी दर्शाता है कि वह सुरक्षा दीवार ऑपरेशन के ठीक पहले तक काम नहीं कर रही थी। अगली बार भी ऐसा ही होगा, इसकी कोई गारंटी नहीं है।

एआई का उपयोग न करने वाली दुनिया में लौटना व्यावहारिक नहीं है। इसलिए, एआई के आउटपुट पर संदेह करना व्यक्तिगत ध्यान पर निर्भर नहीं