सुविधाजनक AI के आगे के दो संकट - अनियंत्रित विकास और शक्ति का केंद्रीकरण, संयुक्त राष्ट्र में उभरी चुनौतियाँ

AI बनाने वाली कंपनियों ने दुनिया से "नियंत्रण" की मांग की

सुविधाजनक होने के कारण इसका उपयोग किया जाता है। काम की गति बढ़ाने के लिए इसे अपनाया जाता है। ऐसी रोजमर्रा की AI, जो अंतरराष्ट्रीय शांति और सुरक्षा पर चर्चा करने वाले मंच पर मानवता के लिए एक जोखिम के रूप में उठाई गई है।

2026 में 23 सितंबर को, OpenAI के CEO सैम ऑल्टमैन और Anthropic के CEO डारियो अमोडेई ने संयुक्त राष्ट्र सुरक्षा परिषद में AI के बारे में बात की। अगले दिन, जर्मनी के AD HOC NEWS ने रिपोर्ट किया कि दोनों ने अंतरराष्ट्रीय नियमों की आवश्यकता पर जोर दिया।

ध्यान देने योग्य बात यह है कि न केवल AI का विरोध करने वाले लोग, बल्कि इसके विकास को आगे बढ़ाने वाली कंपनियों के शीर्ष अधिकारियों ने भी चेतावनी दी है।

हालांकि, यह घोषणा नहीं है कि "सभी AI पहले से ही मानव नियंत्रण से बाहर हो गए हैं।" यह भविष्य की क्षमता वृद्धि को देखते हुए नियंत्रण खोने की स्थिति को कैसे रोका जाए, इस पर चर्चा है। चेतावनी और वास्तव में हुई घटनाओं को अलग से पढ़ने की आवश्यकता है।

खतरा केवल "AI के नियंत्रण से बाहर होने" का नहीं है

मूल लेख में ऑल्टमैन की चिंताओं को दो मुख्य भागों में विभाजित किया गया है।

पहला यह है कि AI की गति और विकास बहुत तेज हो सकता है, जिससे मनुष्य इसे समझने या हस्तक्षेप करने में असमर्थ हो सकते हैं। दूसरा यह है कि कुछ कंपनियों या देशों के पास शक्तिशाली AI का नियंत्रण होने से अत्यधिक शक्ति का केंद्रीकरण हो सकता है।

ये दोनों समस्याएं समान दिख सकती हैं, लेकिन उनकी प्रकृति अलग है।

पहले मामले में सवाल यह है कि "क्या मनुष्य AI को रोक सकते हैं?" और दूसरे में यह है कि "क्या समाज AI को चलाने वाले मनुष्यों की निगरानी कर सकता है?" तकनीकी रूप से निर्देशों के अनुसार काम करने वाला AI भी, अगर उसे निर्देश देने वाले लोग बहुत कम हैं, तो यह समाज के लिए आदर्श व्यवस्था नहीं हो सकती।

इसलिए, AI की सुरक्षा केवल खतरनाक उत्तरों को कम करने से पूरी नहीं होती। किसके पास उपयोग की अनुमति है, कौन संचालन नीति तय करता है, और नुकसान उठाने वाले लोग कहां अपील कर सकते हैं, इन अधिकारों और जिम्मेदारियों की डिजाइनिंग भी आवश्यक होगी।

"प्रकाशन में देरी" के वादे का महत्व

मूल लेख के अनुसार, अमोडेई ने संकेत दिया कि सुरक्षा की आवश्यकता होने पर भविष्य के मॉडलों की शुरुआत में देरी की जा सकती है। इसके अलावा, उन्होंने AI का उपयोग करके जैविक हथियारों पर अंतरराष्ट्रीय प्रतिबंध, परीक्षण और सत्यापन की प्रणाली, और वैश्विक दुर्घटना रिपोर्टिंग प्रणाली की मांग की।

यहां यह भ्रम नहीं होना चाहिए कि "आवश्यक होने पर देरी" की स्थिति और "विशिष्ट उत्पाद की देरी का निर्णय" एक ही बात है। इस बार प्रस्तुत किए गए वक्तव्यों से यह नहीं कहा जा सकता कि व्यक्तिगत प्रकाशन तिथियों को बदला गया है।

सुरक्षा की पुष्टि पर जोर देना और खतरों को पूरी तरह से शून्य करना भी एक ही बात नहीं है। सवाल यह है कि क्या जांच की जानी चाहिए, किस परिणाम पर प्रकाशन को टाला जाना चाहिए, और उस निर्णय की पुष्टि कौन करेगा।

अमोडेई ने एक अलग प्रकाशित लेख में भी यह विचार प्रस्तुत किया है कि तीसरे पक्ष के मूल्यांकनकर्ता विकास स्थल पर निरंतर पहुंच बनाए रखें और सुरक्षा उपायों और दुर्घटनाओं की पुष्टि करें। विकास की गति के समायोजन को तकनीकी प्रगति के पूर्ण विराम से अलग करना भी महत्वपूर्ण है।

एक बाजार में जहां नए उत्पादों को जल्दी से लॉन्च करना फायदेमंद होता है, केवल एक कंपनी के लिए सतर्क रहना मुश्किल होता है। इसलिए, केवल कंपनियों की सद्भावना पर निर्भर न रहकर, प्रतिस्पर्धियों के लिए भी समान मूल्यांकन शर्तें आवश्यक होंगी।

"स्वयं-सुधार" की चर्चा भविष्य की भविष्यवाणी के लिए नहीं है

मूल लेख में यह भी चिंता व्यक्त की गई है कि AI अगले AI के सुधार में शामिल हो सकता है, और यह सुधार आगे की प्रगति को तेज कर सकता है, जिसे "पुनरावर्ती स्वयं-सुधार" कहा जाता है।

समस्या यह है कि क्षमता बढ़ने की गति और सुरक्षा की पुष्टि की गति में अंतर हो सकता है। प्रदर्शन में सुधार की पुष्टि हो सकती है, लेकिन संचालन में कमजोरियों या अप्रत्याशित व्यवहार को समान गति से समझा नहीं जा सकता।

हालांकि, ऐसी चिंताओं को सीधे "कई वर्षों में निश्चित रूप से संकट आएगा" जैसी भविष्यवाणियों में नहीं बदलना चाहिए। मूल लेख में दी गई अल्पकालिक दृष्टिकोण भी वक्ताओं की भविष्यवाणी है, न कि निश्चित अनुसूची।

पाठकों को उत्तेजक समयसीमा से अधिक ध्यान देना चाहिए, उन भविष्यवाणियों के आधार पर और ऐसी सुरक्षा उपायों पर जो भविष्यवाणियों के गलत साबित होने पर भी उपयोगी हो सकते हैं।

सोशल मीडिया पर चेतावनी से अधिक "चेतावनी देने वाली कंपनियों" पर सवाल

सोशल मीडिया पर देखी गई प्रतिक्रियाएं एकरूप नहीं हैं। यहां, इस बैठक को पेश करने वाली पोस्ट पर टिप्पणियों और संबंधित AI सुरक्षा चर्चाओं पर प्रतिक्रियाओं को अलग-अलग प्रस्तुत किया गया है। ये सभी सीमित सार्वजनिक पोस्ट हैं और पूरे जनमत का प्रतिनिधित्व नहीं करते।

CNBC के LinkedIn पोस्ट पर, जिसमें इस सुरक्षा परिषद की बैठक की घोषणा की गई थी, एक टिप्पणी थी कि चर्चा में शामिल होने वाले लोगों की अभी भी कमी हो सकती है। यह प्रतिक्रिया इस बात की चिंता को दर्शाती है कि सुरक्षा के बारे में कौन बात कर रहा है और किसकी आवाज़ उस मंच पर शामिल है।

वहीं, Reddit के निवेश संबंधित समुदाय में, OpenAI के सुरक्षा चिंताओं के कारण सार्वजनिक होने की समयसीमा के बारे में एक अन्य रिपोर्ट पर, सुरक्षा पर जोर देने की व्याख्या को सीधे स्वीकार नहीं किया गया और व्यावसायिक कारणों पर भी संदेह व्यक्त किया गया।

उसी थ्रेड में, तकनीकी प्रगति के रुकने के दृष्टिकोण के खिलाफ, इसके तेजी से बढ़ने का तर्क देने वाली टिप्पणियां भी हैं। यह सीधे इस बार के संयुक्त राष्ट्र भाषण की प्रतिक्रिया नहीं है, बल्कि इसके पीछे की सुरक्षा चर्चा पर प्रतिक्रिया है। पोस्ट में प्रबंधन और तकनीकी मूल्यांकन को सत्यापित तथ्यों से अलग करना आवश्यक है।

इन पोस्टों से यह विचार आता है कि केवल खतरे की व्याख्या से विश्वास स्थापित नहीं होता। कंपनियों के पास विशेषज्ञता होती है। साथ ही, प्रतिस्पर्धा के हित भी होते हैं। दोनों को ध्यान में रखते हुए, बाहरी रूप से दावों की पुष्टि करने की व्यवस्था की आवश्यकता होती है।

क्या कड़ी नियमावली से ही सुरक्षा सुनिश्चित होती है?

सुरक्षा की पुष्टि को कड़ा करने से परीक्षण और ऑडिट में लागत आती है। इसके डिजाइन के आधार पर, केवल वित्तीय रूप से सक्षम कंपनियां ही इसका पालन कर सकती हैं, और नए प्रवेशकों के लिए यह असमान हो सकता है।

यह नियमों की अनावश्यकता का कारण नहीं है। सुरक्षा को बनाए रखने की प्रणाली को इस तरह से डिजाइन करना आवश्यक है कि यह केवल मौजूदा बड़ी कंपनियों की स्थिति को न बनाए रखे।

ऑल्टमैन के सार्वजनिक भाषण में भी कहा गया है कि मानक मौजूदा कंपनियों को स्थिर करने या एक विशेष व्यापार मॉडल को प्राथमिकता देने वाले नहीं होने चाहिए।

तीसरे पक्ष के मूल्यांकन की स्वतंत्रता, मानकों की पारदर्शिता, और जोखिम के अनुसार बोझ का संतुलन। इन तीनों को कैसे संतुलित किया जाए, यह प्रणाली की विश्वसनीयता को प्रभावित करेगा। यह महत्वपूर्ण है कि कंपनियों के "सुरक्षित" कहने के अलावा, कौन कितना सत्यापित कर सकता है।

जापानी उपयोगकर्ताओं के लिए भी महत्वपूर्ण "रोकने की अनुमति"

यह चर्चा केवल बड़े अनुसंधान संस्थानों या संयुक्त राष्ट्र की नहीं है। जब जापानी कंपनियां AI को काम सौंपती हैं, तो वे भी इन्हीं प्रश्नों को छोटे पैमाने पर लागू कर सकती हैं।

उदाहरण के लिए, जब AI से पूछताछ के उत्तर तैयार करवाए जाते हैं और जब उसे धनवापसी प्रक्रिया या ग्राहक डेटा में परिवर्तन करने की अनुमति दी जाती है, तो आवश्यक पुष्टि अलग होती है। यह इस बैठक में प्रस्तुत किए गए विशिष्ट उदाहरण नहीं हैं, बल्कि चर्चा को रोजमर्रा के संचालन में बदलने के उदाहरण हैं।

कौन कार्यान्वयन को स्वीकृति देगा? कौन असामान्यताओं को पहचानेगा? यदि बीच में रोका जाता है, तो कितना वापस लाया जा सकता है? केवल प्रदर्शन की तुलना से इन प्रश्नों का उत्तर नहीं दिया जा सकता।

अंतरराष्ट्रीय नियमों के पूरा होने की प्रतीक्षा करते हुए भी, उपयोगकर्ता AI को सौंपे गए अधिकारों और मनुष्यों द्वारा ली गई जिम्मेदारियों को स्पष्ट रूप से निर्धारित कर सकते हैं।

भाषण के बाद आवश्यक है सत्यापनीय कार्रवाई

इस चेतावनी का अर्थ है। हालांकि, केवल चेतावनी की तीव्रता से सुरक्षा नहीं मापी जा सकती।

क्या बाहरी मूल्यांकनकर्ताओं को पर्याप्त जानकारी तक पहुंच है? क्या वे असुविधाजनक परिणामों को सार्वजनिक कर सकते हैं? जब खतरा पाया जाता है, तो क्या वास्तव में विकास या प्रकाशन को धीमा किया जा सकता है? क्या निर्णय के मानदंड पहले से समझाए गए हैं?

AI के मानव संभावनाओं को बढ़ाने वाले भविष्य और मानव के निर्णय लेने की क्षमता खोने वाले भविष्य के बीच का विभाजन केवल प्रदर्शन की ऊंचाई से निर्धारित नहीं होता।

AI बनाने वाली कंपनियों द्वारा संयुक्त राष्ट्र में दी गई चेतावनी को कौन, कैसे सत्यापनीय कार्रवाई में बदल सकता है। अगला ध्यान देने योग्य बिंदु यही है।

स्रोत URL

1. AD HOC NEWS (24 सितंबर 2026)। दोनों CEOs की चेतावनी, अमोडेई का मॉडल लॉन्च में देरी का रुख, सत्यापन और दुर्घटना रिपोर्टिंग प्रणाली के प्रस्ताव। पाठ्य सामग्री संलग्न दस्तावेज़ों में भी पुष्टि की गई।
   https://www.ad-hoc-news.de/wissenschaft/openai-und-anthropic-vor-der-un-chefs-warnen-vor-unkontrollierter-ki/70171896

2. OpenAI (23 सितंबर 2026)। ऑल्टमैन का संयुक्त राष्ट्र सुरक्षा परिषद भाषण। मानव नियंत्रण, शक्ति का केंद्रीकरण, अंतरराष्ट्रीय मानक और मौजूदा कंपनियों की स्थिरता से बचने पर मूल सामग्री।
   https://openai.com/index/sam-altman-un-security-council-remarks/

3. डारियो अमोडेई "We Must Pace the Frontier" (सितंबर 2026)। विकास की गति के समायोजन और विकास स्थल पर निरंतर पहुंच रखने वाले तीसरे पक्ष के मूल्यांकनकर्ताओं की योजना को समझाने वाला लेख। इस बैठक के अलावा अन्य संदर्भ सामग्री।
   https://darioamodei.com/post/we-must-pace-the-frontier

4. संयुक्त राष्ट्र की आधिकारिक साइट (23 सितंबर 2026)। OpenAI और Anthropic द्वारा सुरक्षा परिषद को दी गई जानकारी को पेश करने वाली आधिकारिक घोषणा।
   https://www.un.org/en/live-openai-and-anthropic-brief-security-council-amid-%E2%80%98real-and-imminent%E2%80%99-threat-posed-runaway-ai

5. CNBC का LinkedIn पोस्ट। इस सुरक्षा परिषद की बैठक की घोषणा करने वाला पोस्ट और प्रतिभागियों की कमी की ओर इशारा करने वाली सार्वजनिक टिप्पणी। सोशल मीडिया प्रतिक्रिया के एक उदाहरण के रूप में उपयोग किया गया।
   https://www.linkedin.com/posts/cnbc_altman-and-amodei-expected-to-join-un-security-activity-7508491118909562880-PApn

6. Reddit "r/stocks"। OpenAI के सार्वजनिक होने की समयसीमा और AI सुरक्षा को लेकर अन्य रिपोर्टों पर प्रतिक्रिया। कंपनियों की व्याख्या पर संदेह और तकनीकी प्रगति के मूल्यांकन पर प्रतिक्रिया की पुष्टि। यह सीधे इस बार के संयुक्त राष्ट्र भाषण की प्रतिक्रिया नहीं है, और पोस्ट की दावों को तथ्य मानने वाली सामग्री नहीं है।
   https://www.reddit.com/r/stocks/comments/1wexcu6/openai_ipo_will_not_happen_in_2026_amid_ai_safety/

※पुष्टि की तिथि: 24 सितंबर 2026। सोशल मीडिया प्रतिक्रियाएं सार्वजनिक सीमा में देखी गई सामग्री का सारांश हैं और सांख्यिकीय जनमत सर्वेक्षण नहीं हैं।