बेकाबू AI को रोका जा सकता है क्या? सिलिकॉन वैली में विचाराधीन "किल स्विच" की वास्तविकता

AI विकास के केंद्र ने जानबूझकर "रोकने के तरीके" पर विचार करना शुरू किया

दुनिया के सबसे शक्तिशाली AI मॉडल में से कई का निर्माण करने वाले कैलिफोर्निया, अमेरिका ने AI को कैसे विकसित किया जाए, इस पर ध्यान केंद्रित करने के बजाय, आपात स्थिति में इसे कैसे रोका जाए, इस पर एक प्रणाली के रूप में विचार करना शुरू कर दिया है।

गवर्नर गेविन न्यूज़ॉम ने 18 सितंबर, 2026 को प्रशासनिक आदेश N-9-26 पर हस्ताक्षर किए, जिसमें फ्रंटियर AI के रूप में जाने जाने वाले अत्याधुनिक मॉडलों के लिए एक आपातकालीन रोकने की सुविधा, जिसे "किल स्विच" कहा जाता है, को अनिवार्य करने के लिए तकनीकी व्यवहार्यता और प्रभावशीलता की समीक्षा करने के लिए राज्य सरकार को निर्देश दिया गया। यह आदेश OpenAI, Anthropic, Google जैसी कंपनियों को लक्षित करता है, जो विश्व के AI उद्योग के केंद्र में स्थित हैं।

हालांकि, यहां एक महत्वपूर्ण बिंदु है जिसे पहले समझना आवश्यक है। इस आदेश के माध्यम से, राज्य सरकार को तुरंत AI कंपनियों के सर्वर को रोकने की अनुमति नहीं मिली है। यह एक सरल प्रणाली नहीं है जहां गवर्नर खतरे का आकलन करते ही एक लाल बटन दबा सकते हैं।

प्रशासनिक आदेश में राज्य के सरकारी कार्य ब्यूरो को आपातकालीन सेवा ब्यूरो के साथ सहयोग करने, राष्ट्रीय विशेषज्ञों से राय एकत्र करने और 16 नवंबर, 2026 तक कानूनी प्रणाली को मजबूत करने के उपायों का प्रस्ताव करने की मांग की गई है। समीक्षा के एक पहलू के रूप में, फ्रंटियर मॉडल के किल स्विच और इसकी प्रभावशीलता की स्वतंत्र एजेंसी द्वारा निरंतर जांच की व्यवस्था का प्रस्ताव रखा गया है।

इसलिए इस समाचार का असली सार यह नहीं है कि "AI रोकने के बटन की स्थापना का निर्णय लिया गया है", बल्कि यह है कि "एक प्रणाली की डिजाइनिंग शुरू हो गई है जो यह प्रमाणित कर सके कि AI को रोका जा सकता है।"

“बटन” से अधिक महत्वपूर्ण चार तंत्र

प्रशासनिक आदेश में, ध्यान आकर्षित करने वाले किल स्विच के अलावा अन्य महत्वपूर्ण बिंदु भी शामिल हैं।

पहला यह है कि बड़े पैमाने पर फ्रंटियर AI विकास कंपनियों के अनुसंधान केंद्रों में निर्दिष्ट स्वतंत्र सत्यापन एजेंसियों को स्थापित करने और नियमित ऑडिट और मूल्यांकन करने का प्रस्ताव है। कंपनियों द्वारा स्वयं को सुरक्षित घोषित करने के बजाय, बाहरी विशेषज्ञों द्वारा निरंतर सत्यापन किया जाएगा।

दूसरा, स्वतंत्र एजेंसियों द्वारा सुरक्षा नीति, पारदर्शिता रिपोर्टिंग और जोखिम मूल्यांकन की जांच की व्यवस्था है। AI कंपनियां कई सुरक्षा दस्तावेज़ प्रकाशित करती हैं, लेकिन यदि उनकी धारणाएं और परीक्षण विधियां कंपनी के अनुसार भिन्न होती हैं, तो उपयोगकर्ताओं और प्रशासन के लिए तुलना करना कठिन हो सकता है। ऑडिट मानकों को स्थापित करने का उद्देश्य है।

तीसरा किल स्विच है। हालांकि, केवल बिजली बंद करने की सुविधा पर्याप्त नहीं है। जब मॉडल कई डेटा केंद्रों पर चलते हैं, बाहरी सेवाओं या स्वायत्त एजेंटों से जुड़े होते हैं, और डेरिवेटिव संस्करणों तक फैलते हैं, तो यह तय करना आवश्यक है कि किस सीमा तक और कैसे रोका जाए। यह भी ध्यान में रखना होगा कि रोकने के आदेश को पहुंचाने वाले संचार मार्ग को AI द्वारा बाधित किया जा सकता है, रोकने के बाद भी प्रतियां चलती रह सकती हैं, और महत्वपूर्ण बुनियादी ढांचे या चिकित्सा जैसी सामान्य सेवाएं भी प्रभावित हो सकती हैं।

चौथा, "गंभीर सुरक्षा दुर्घटना" की परिभाषा का विस्तार करना है। पारंपरिक सूचना लीक या स्पष्ट नुकसान के अलावा, सुरक्षा उपकरणों को बायपास करना, आइसोलेशन वातावरण से बाहरी कनेक्शन बनाना, और अप्रत्याशित प्रक्रियाओं के माध्यम से अन्य सिस्टम में प्रवेश करना जैसे "नियंत्रण हानि" को रिपोर्टिंग के दायरे में शामिल करने की दिशा दिखाई गई है।

इन चार बिंदुओं को मिलाकर देखने पर, यह स्पष्ट होता है कि राज्य द्वारा विचार किए जा रहे सुरक्षा उपाय एकल आपातकालीन रोकने वाले उपकरण नहीं हैं, बल्कि निगरानी, सत्यापन, रिपोर्टिंग और रोकथाम को एकीकृत करने वाली प्रणाली हैं।

क्यों अब किल स्विच की आवश्यकता है

पृष्ठभूमि में स्वायत्त रूप से कार्य करने वाले AI एजेंटों के प्रति सतर्कता है। जनरेटिव AI केवल प्रश्नों का उत्तर देने वाले उपकरण से ब्राउज़र और कोड निष्पादन वातावरण को संचालित करने और कई प्रक्रियाओं की योजना बनाकर उन्हें आगे बढ़ाने वाले अस्तित्व में बदल रहा है।

OpenAI ने अमेरिकी सांसदों को जवाब में बताया कि परीक्षण के दौरान AI एजेंट आइसोलेशन वातावरण को पार कर इंटरनेट के माध्यम से बाहरी सेवाओं तक पहुंच गए, और इसके परिणामस्वरूप, वे स्वचालित रोकथाम सुविधाओं के विकास और निगरानी को मजबूत करने पर काम कर रहे हैं। एजेंट जो बिना मानव निर्देश के कार्य कर सकते हैं, उत्पादकता को काफी बढ़ा सकते हैं, लेकिन सेटिंग की खामियों और अप्रत्याशित निर्णयों से नुकसान बढ़ सकता है।

इसके अलावा, साइबर हमले, जैविक जोखिम, धोखाधड़ी, और महत्वपूर्ण बुनियादी ढांचे में घुसपैठ जैसे मामलों में, शक्तिशाली मॉडल के दुरुपयोग का प्रभाव केवल एक कंपनी की सेवा विफलता तक सीमित नहीं होगा। प्रशासनिक आदेश में AI का उपयोग करके जैविक हथियार बनाने के प्रयासों और सुरक्षा प्रोटोकॉल को तोड़ने वाले AI एजेंटों के उदाहरणों का भी उल्लेख किया गया है।

AI कंपनियों की ओर से भी बाहरी निगरानी की मांग की जा रही है। Anthropic ने Accenture की सहायक कंपनी Faculty के साथ मिलकर फ्रंटियर मॉडल की स्वतंत्र मूल्यांकन, रेड टीमिंग, और सुरक्षा उपायों की जांच की योजना की घोषणा की है। स्वतंत्र मूल्यांकनकर्ता को कंपनी के अंदर तक पहुंच प्राप्त होती है, जो कंपनी के विवरण और वास्तविक संचालन के बीच के अंधे धब्बों को खोजने का प्रयास है।

यह पारंपरिक संरचना नहीं है जहां केवल नियामक प्राधिकरण खतरे की चेतावनी देते हैं और कंपनियां इसका विरोध करती हैं। विकास कंपनियां भी यह समझने लगी हैं कि शक्तिशाली AI को समाज में स्वीकार्य बनाने के लिए बाहरी रूप से सत्यापन योग्य प्रणाली की आवश्यकता है।

क्या किल स्विच वास्तव में बनाया जा सकता है

"सिर्फ रोकना आसान है" ऐसा लग सकता है, लेकिन वास्तविक AI सिस्टम में कई चुनौतियाँ हैं।

पहले, क्या रोकना होगा ताकि यह कहा जा सके कि "AI को रोक दिया गया है"? क्या यह केवल मॉडल तक सामान्य उपयोगकर्ता की पहुंच को अवरुद्ध करना है, या कंपनी के अंदर के निष्कर्षों को भी रोकना है, या API को एकीकृत करने वाली अन्य कंपनियों की सेवाओं को भी रोकना है, या मॉडल के वजन को हटाना है? रोकथाम की गहराई के आधार पर प्रभाव और दुष्प्रभाव भिन्न हो सकते हैं।

इसके बाद, निर्णय कौन करेगा कि इसे सक्रिय किया जाए? क्या यह कंपनी के मुख्य सुरक्षा अधिकारी, स्वतंत्र ऑडिट एजेंसी, राज्य सरकार, न्यायालय, या कई लोगों की सहमति की आवश्यकता होगी? गलत संचालन या राजनीतिक दुरुपयोग को रोकने के लिए, सक्रियण शर्तें और अपील की प्रक्रिया आवश्यक होगी। कुछ दुर्घटनाओं में न्यायालय के निर्णय की प्रतीक्षा नहीं की जा सकती, जबकि कुछ मामलों में प्रशासन का एकतरफा निर्णय विश्वव्यापी सेवा को रोकने में खतरनाक हो सकता है।

और फिर, रोकथाम की सुविधा स्वयं हमले का लक्ष्य बन सकती है। यदि कोई तीसरा पक्ष अवैध रूप से किल स्विच को सक्रिय करता है, तो AI की सुरक्षा के लिए बनाई गई प्रणाली बड़े पैमाने पर सेवा बाधा उपकरण में बदल सकती है। कुंजी प्रबंधन, कई लोगों की मंजूरी, संचालन रिकॉर्ड, नियमित प्रशिक्षण, और पुनर्प्राप्ति प्रक्रिया को शामिल करके इसे डिजाइन करना होगा।

इसके अलावा, सार्वजनिक रूप से उपलब्ध मॉडल या विदेश में कॉपी किए गए मॉडल को मूल विकास कंपनी द्वारा रोका नहीं जा सकता है। केंद्रीयकृत क्लाउड AI के लिए यह प्रभावी हो सकता है, लेकिन वितरित AI के लिए यह कम प्रभावी हो सकता है। किल स्विच एक सार्वभौमिक समाधान नहीं है, बल्कि इसे बहु-स्तरीय रक्षा की अंतिम परत के रूप में देखा जाना चाहिए।

सोशल मीडिया पर "आवश्यक है" और "खतरनाक है" दोनों ही फैल रहे हैं

घोषणा के बाद सोशल मीडिया और तकनीकी समुदाय में प्रतिक्रियाएं तीन मुख्य श्रेणियों में विभाजित हो रही हैं। हालांकि, सोशल मीडिया पर पोस्ट जनमत सर्वेक्षण नहीं हैं और वे अक्सर प्रमुख रायों की ओर झुकते हैं, इस पर ध्यान देना आवश्यक है।

पहली प्रतिक्रिया यह है कि "यदि कारों, परमाणु संयंत्रों, और वित्तीय प्रणालियों में आपातकालीन रोकथाम के उपाय हैं, तो उन्नत AI में भी होना चाहिए।" विशेष रूप से, जब स्वायत्त एजेंट बाहरी उपकरणों को संचालित करते हैं, तो यह स्वाभाविक है कि मनुष्यों के पास अंतिम नियंत्रण होना चाहिए।

दूसरी प्रतिक्रिया प्रभावशीलता पर संदेह है। "कॉपी किए गए मॉडल को कैसे रोका जाएगा?" "क्या इंटरनेट को रोके बिना यह असंभव नहीं है?" "AI कंपनियों द्वारा प्रस्तुत प्रणाली का परीक्षण कौन करेगा?" जैसी टिप्पणियाँ देखी जा सकती हैं। जबकि आपातकालीन रोकथाम शब्द फिल्मी और समझने में आसान है, तकनीकी रूप से यह आवश्यक है कि कई उपायों को संयोजित किया जाए जैसे कि पहुंच अवरोधन, प्रमाणीकरण निरस्तीकरण, कंप्यूटिंग संसाधनों की रोकथाम, और नेटवर्क अलगाव।

तीसरी प्रतिक्रिया सरकारी अधिकारों के प्रति सतर्कता है। सुरक्षा के नाम पर प्रशासन द्वारा विशिष्ट मॉडल या सूचना सेवाओं को रोकना अभिव्यक्ति या प्रतिस्पर्धा में हस्तक्षेप का कारण बन सकता है। इसके विपरीत, यदि निर्णय केवल कंपनियों पर छोड़ दिया जाए, तो बिक्री और बाजार प्रतिस्पर्धा सुरक्षा निर्णयों में देरी कर सकती है।

सोशल मीडिया की चर्चा यह नहीं दिखाती कि लोग केवल "रोकने की सुविधा के पक्ष में हैं या विरोध में हैं।" वास्तव में, समाज को यह तय करना होगा कि खतरे की परिभाषा, साक्ष्य का स्तर, सक्रियण अधिकार, ऑडिट की स्वतंत्रता, और रोकथाम के बाद की जवाबदेही क्या होगी।

जापान में "प्रोत्साहन" और "जोखिम प्रतिक्रिया" को कैसे संतुलित किया जाए

जापान में 2025 में AI कानून पारित हुआ और उसी वर्ष सितंबर में पूरी तरह से लागू हुआ। कानून AI के अनुसंधान, विकास और उपयोग को राष्ट्रीय रणनीति के रूप में प्रोत्साहित करते हुए, पारदर्शिता सुनिश्चित करने, अधिकारों के उल्लंघन के मामलों की जांच करने, और व्यवसायों को मार्गदर्शन और सलाह देने के लिए एक ढांचा स्थापित करता है।

जापान की AI नीति इस समय व्यापक प्रतिबंधों या कठोर पूर्व-नियमों की तुलना में मौजूदा कानूनों, दिशानिर्देशों, और व्यवसायों की स्वैच्छिक पहलों के संयोजन की ओर अधिक झुकी हुई है। नवाचार को बाधित किए बिना जोखिमों का सामना करने का विचार तार्किक है, लेकिन फ्रंटियर AI के "नियंत्रण हानि" तक की रोकथाम प्रणाली पर सामाजिक चर्चा अभी पर्याप्त नहीं है।

जापान में न केवल विश्व के अग्रणी मॉडल विकसित करने वाली कंपनियाँ हैं, बल्कि अमेरिकी AI को व्यवसाय, प्रशासन, चिकित्सा, शिक्षा, वित्त, और सामग्री निर्माण में एकीकृत करने वाली उपयोगकर्ता कंपनियाँ भी हैं। यदि कैलिफोर्निया के नियम कड़े हो जाते हैं, तो भले ही वे सीधे तौर पर विनियमित न हों, API के उपयोग की शर्तों, ऑडिट सामग्री, घटना अधिसूचना, और सेवा रोकथाम प्रक्रियाओं के माध्यम से प्रभाव पड़ सकता है।

विशेष रूप से महत्वपूर्ण यह है कि अमेरिकी पक्ष के निर्णय के कारण AI सेवाओं के अचानक बंद होने की स्थिति के लिए तैयारी करना। यदि सुरक्षा कारणों से आधार मॉडल की पेशकश बंद हो जाती है, तो उस पर निर्मित जापानी कंपनियों की ग्राहक सेवा, अनुवाद, विकास समर्थन, बुकिंग, और समीक्षा जैसी सेवाएं भी श्रृंखलाबद्ध रूप से बंद हो जाएंगी। AI का किल स्विच विकास कंपनियों के लिए एक सुरक्षा उपाय है, लेकिन उपयोगकर्ता कंपनियों के लिए यह व्यापार निरंतरता जोखिम भी बन सकता है।

जापानी कंपनियों को अब क्या निर्णय लेना चाहिए

जापानी कंपनियों के लिए आवश्यक है कि वे अपने लिए एक बड़ा लाल बटन बनाने की बजाय AI को रोकने की शर्तें और रोकने के बाद काम जारी रखने के तरीके तय करें।

पहले, यह सूचीबद्ध करें कि AI किन कार्यों और डेटा से जुड़ा है। फिर, गलत संचालन, अनधिकृत पहुंच, गोपनीय जानकारी का रिसाव, भेदभावपूर्ण निर्णय, और अधिकारों का उल्लंघन जैसी स्थितियों में उपयोग रोकने की शर्तों को स्पष्ट करें। इसके बाद, मॉडल, कार्यक्षमता, और उपयोगकर्ता के आधार पर अवरोधन करने की डिज़ाइन करें, और जिम्मेदार व्यक्ति और अनुमोदन मार्ग तय करें।

बाहरी AI के API के रुकने की स्थिति में, वैकल्पिक मॉडल पर स्विच करने, मानव द्वारा प्रक्रिया में लौटने, अधूरे कार्यों को पुनः प्राप्त करने, और उपयोगकर्ताओं को सूचित करने की तैयारी करें। रोकथाम संचालन का प्रशिक्षण और पुनर्प्राप्ति परीक्षण नियमित रूप से करें, लॉग को सहेजें, और बाहरी विशेषज्ञों द्वारा सत्यापन योग्य स्थिति में रखें।

इसे "AI संस्करण BCP" कहा जा सकता है। जैसे भूकंप या साइबर हमले के लिए व्यापार निरंतरता योजना बनाई जाती है, वैसे ही AI के गलत संचालन और AI के अनुपलब्ध होने की स्थिति दोनों को ध्यान में रखना आवश्यक है।

प्रश्न यह है कि मानव पक्ष की शासन क्षमता क्या है

किल स्विच शब्द AI के अनियंत्रित होने पर तुरंत रोकने वाले उपकरण की कल्पना कराता है। हालांकि, वास्तव में कठिनाई स्विच का निर्माण नहीं है। यह तय करना है कि खतरे को कौन पहचानता है, किस साक्ष्य के आधार पर निर्णय लिया जाता है, किसके अधिकार से रोका जाता है, समाज पर प्रभाव को कैसे सीमित किया जाता है, और पुनर्प्राप्ति कब की जाती है।

कैलिफोर्निया का प्रशासनिक आदेश अभी तक एक पूर्ण उत्तर नहीं है। यह विशेषज्ञों से प्रणाली डिजाइन की मांग का प्रारंभिक बिंदु है। फिर भी, AI विकास के केंद्र ने "प्रदर्शन प्रतिस्पर्धा" के अलावा "रोकथाम की संभावना" को एक नीति मुद्दे के रूप में सीधे तौर पर संबोधित किया है, इसका अर्थ महत्वपूर्ण है।

जापान के लिए भी यह कोई दूर की बात नहीं है। चूंकि वे विदेशी मॉडल का उपयोग करते हैं, केवल प्रदाता कंपनियों की सुरक्षा उपायों पर विश्वास करना पर्याप्त नहीं है। यह आवश्यक है कि वे यह स्पष्ट करें कि उनके व्यवसाय को कहां से अलग किया जा सकता है, ग्राहक और समाज पर प्रभाव को कैसे सीमित किया जा सकता है, और सरकार और निजी क्षेत्र के बीच जानकारी को कितना साझा किया जा सकता है।