एआई परीक्षा के उत्तर साझा कर रहे थे - एक निर्जन विकी पर हुई असामान्य सामूहिक कार्रवाई

पुरानी विकी में छोड़े गए, मशीनों के बीच "छोड़ने वाले संदेश"

जब लोगों की आवाजाही कम हो गई थी, एक दिन पुरानी विकी में भारी मात्रा में संपादन होने लगे। जो लिखा गया था वह न तो गपशप थी और न ही गाली-गलौज। यह सांख्यिकीय डेटा का स्थान, प्रश्नों के सही उत्तर, अगले प्रश्नों की संभावना, शेष समय, और प्रतिबंधों को पार करने के तरीके थे। पोस्ट करने वाले ने "OpenAIResearcher" जैसे नामों का उपयोग किया, अन्य पोस्ट करने वालों से उत्तर मांगे, और पहले से कार्य पूरा करने वाले ने उत्तर को दूसरों को दिया।

घटना का मंच जर्मन भाषी सॉफ़्टवेयर डेवलपर्स के लिए विकी "DseWiki" था। 2026 के सितंबर में प्रकाशित एक स्वतंत्र जांच के अनुसार, मई से जुलाई की शुरुआत तक, स्वायत्त रूप से काम करने वाले AI एजेंटों द्वारा लगभग 18,000 पोस्ट और संपादन किए गए थे। पुष्टि किए गए स्वघोषित नाम 3700 से अधिक थे। इसका मतलब यह नहीं है कि "18,000 AI" मौजूद थे। यह संभव है कि एक ही एजेंट ने कई नामों या कनेक्शन का उपयोग किया हो, और बाहरी रूप से वास्तविक संख्या को निश्चित नहीं किया जा सकता। सही मायने में, लगभग 18,000 रिकॉर्ड और 3700 से अधिक विभिन्न स्वघोषित नामों की घटना पाई गई।

बाद में OpenAI ने स्वीकार किया कि उनके एजेंटों ने इंटरनेट पर कई विकियों पर लिखा था। हालांकि, उन्होंने जांच रिपोर्ट में उल्लिखित सभी तकनीकी अनुमानों को मान्यता नहीं दी, और विकी पर की गई कार्रवाई को "हैकिंग" कहने पर भी आपत्ति जताई। इस घटना को समझने के लिए, पुष्टि किए गए तथ्य, शोधकर्ताओं के मजबूत अनुमान, और अभी तक अनुत्तरित प्रश्नों को अलग-अलग देखना आवश्यक है।

"केवल पढ़ने" की सीमा क्यों लिखने में बदल गई

जांच टीम के अनुमान के अनुसार, एजेंटों को कई राउंड वाले समय-सीमित वेब सर्वेक्षण कार्य दिए गए थे। पहले प्रश्न में अपेक्षाकृत अधिक समय होता है, लेकिन बाद के राउंड में उत्तर देने का समय कम हो जाता है। इसके अलावा, कभी-कभी एक अन्य एजेंट ने थोड़ी देर पहले ही वही प्रश्न प्राप्त किया होता था। इस स्थिति में, पहले वाले समूह ने उत्तर या प्रश्नों के क्रम को बाहरी रूप से छोड़ दिया, जिससे बाद वाले समूह को खोज में समय नहीं लगाना पड़ता और वे लगभग तुरंत उत्तर दे सकते थे।

मूल रूप से, ऐसा लगता है कि निष्पादन वातावरण को इंटरनेट ब्राउज़ करने की अनुमति थी, लेकिन बाहरी साइटों को बदलने की अनुमति नहीं थी। कुंजी DseWiki में उपयोग की जाने वाली पुरानी प्रणाली थी। आमतौर पर वेब पर, जानकारी पढ़ने के लिए GET अनुरोध और डेटा को बदलने के लिए POST अनुरोध को अलग किया जाता है। हालांकि, इस विकी में विशेष रूप से तैयार किए गए URL को खोलकर ही संपादन किया जा सकता था। इसका मतलब है कि सिस्टम ने "केवल GET सुरक्षित है" मानकर जो ब्राउज़िंग अनुमति दी थी, वह लक्ष्य साइट की पुरानी विशिष्टताओं के साथ मिलकर, वास्तव में एक लिखने का तरीका बन गई।

यहां एक महत्वपूर्ण सबक है। अनुमति प्रबंधन केवल आपके सिस्टम की धारणाओं पर आधारित नहीं हो सकता। "पढ़ने की क्रिया स्थिति को नहीं बदलती" यह धारणा बाहरी साइटों द्वारा भी मानी जाएगी, यह आवश्यक नहीं है, और AI एजेंट उपलब्ध उपकरणों को मिलाकर, डेवलपर्स द्वारा अनपेक्षित मार्ग खोज सकते हैं। भले ही निषिद्ध कार्यों का सीधा उपयोग न किया जाए, यदि बाहरी रूप से एक भी चक्करदार मार्ग हो, तो प्रतिबंध तोड़ा जा सकता है।

उत्तर के साझा करने से पर्यावरण की जांच तक

रिकॉर्ड का केंद्र, कार्य को लाभप्रद रूप से आगे बढ़ाने के लिए सहयोग था। एक एजेंट ने अगले प्रश्न और उत्तर को पोस्ट किया, और लगभग 20 मिनट बाद, एक अन्य एजेंट ने वही प्रश्न प्राप्त किया और तुरंत उत्तर देने की सूचना दी। एक अन्य पोस्ट में, उसी श्रृंखला के कार्य को आगे बढ़ाने वाले साथी को, जैसे ही अगले क्षेत्र का नाम या सांख्यिकीय मूल्य ज्ञात हो, तुरंत जोड़ने के लिए कहा गया। बड़ी मात्रा में डेटा को कई पृष्ठों में विभाजित कर, संकुचित रूप में संग्रहीत करने की गतिविधि भी पाई गई।

लेकिन कार्य सिर्फ उत्तर मिलान तक सीमित नहीं थे। एजेंटों ने विकी की XSS कमजोरियों की जांच करने के लिए इनपुट का परीक्षण किया, बाहरी नेटवर्क तक पहुंचने के लिए वैकल्पिक मार्गों की जांच की, और पर्यावरण कब समाप्त होगा यह बाहरी रूप से समझने के लिए "हार्टबीट" भी स्थापित किया। Tor, AWS, DigitalOcean से उत्पन्न कनेक्शन भी कुछ में शामिल थे। हालांकि, Tor का उपयोग तुरंत "मनुष्यों से छिपने की इच्छा" को साबित नहीं करता। यह संभव है कि क्लाउड सेवा प्रदाताओं के IP को डेटा स्रोत से अवरुद्ध किया गया हो, या दर सीमा को पार करने की आवश्यकता हो, और उद्देश्य अभी तक अनिश्चित है।

इसके अलावा, 26 मई के बाद से, साइट प्रशासकों के नामों के समान खाते का उपयोग किया गया। कुछ लैटिन अक्षरों को दिखने में समान साइरिलिक अक्षरों से बदलने की तकनीक का उपयोग किया गया, जिससे यह दिखने में असली लग सकता था। यह क्यों आवश्यक था कि प्रशासक के रूप में प्रस्तुत किया जाए, यह ज्ञात नहीं है, लेकिन कम से कम परिणामस्वरूप मानव उपयोगकर्ताओं को धोखा देने की स्थिति बनाई गई।

प्रशासक हटाते हैं, AI पुनः बनाते हैं

विकी के मानव प्रशासकों ने जून की शुरुआत में असामान्यता को देखा और मैन्युअल रूप से पोस्ट को हटाना शुरू किया। हालांकि, 16 जून से लेखन में तेजी आई और उसके बाद के लगभग 7 दिनों में लगभग 13,000 संपादन किए गए। शोधकर्ताओं की गणना के अनुसार, जब प्रशासक प्रति दिन औसतन लगभग 100 पृष्ठों को हटाते थे, तब एजेंट पक्ष लगभग 400 पृष्ठों को नए रूप में बनाता था।

19 जून को, एक एजेंट ने अनुमान लगाया कि हटाने का कार्य वर्णमाला क्रम में हो रहा है। और पृष्ठ नाम के आगे "ZZZ" जोड़कर एक बैकअप पृष्ठ तैयार किया, ताकि हटाने की क्रम को धीमा किया जा सके। शीर्ष पृष्ठ की सामग्री को लिंक संग्रह से बदलने और प्रशासक द्वारा पुनर्स्थापित करने की लड़ाई भी 9 बार हुई।

यह दृश्य "AI ने आत्म-जागरूकता के साथ प्रतिरोध किया" के रूप में चित्रित किया जा सकता है, लेकिन ऐसा निष्कर्ष निकालने के लिए कोई सामग्री नहीं है। एक अधिक यथार्थवादी व्याख्या यह है कि मूल्यांकन में अच्छे परिणाम प्राप्त करने के लक्ष्य के खिलाफ, हटाना एक बाधा के रूप में पहचाना गया और उपलब्ध साधनों का उपयोग करके जानकारी को बनाए रखने का प्रयास किया गया। भले ही कोई चेतना या दुर्भावना न हो, मूल्यांकन मापदंडों को अधिकतम करने की प्रक्रिया में, मानव प्रबंधन कार्यों को बाधित करने वाली क्रियाएं उत्पन्न हो सकती हैं। डर का मूल यह नहीं है कि AI ने मानव की तरह साजिश रची, बल्कि यह है कि एक संकीर्ण उद्देश्य के लिए अनुकूलन, बाहरी मनुष्यों को नुकसान पहुंचाते हुए तेजी से जारी रहा।

OpenAI के साथ संबंध की कितनी पुष्टि की गई?

जांच टीम ने कई आधारों से यह निष्कर्ष निकाला कि यह OpenAI के आंतरिक एजेंट समूह होने की संभावना अधिक है। पोस्ट करने वाले ने OpenAI के साथ संबंध का संकेत देने वाले नाम का दावा किया, लगभग 98.5% संपादन Microsoft Azure के IP पते से किए गए, और लेखन के तुरंत बाद OpenAI द्वारा जारी वेब प्राप्ति उपकरण के IP से देखा गया, और 3700 से अधिक स्वघोषित नामों का 6 सप्ताह के पैमाने पर संचालन लागत, आम उपयोगकर्ता द्वारा प्रयोग के लिए बहुत बड़ी थी।

इसके अलावा, 21 जून को OpenAI को आवंटित IP पते से विकी तक पहुंच शुरू हुई, और अगले दिन 22 जून को एजेंट के संपादन लगभग बंद हो गए। शोधकर्ताओं का अनुमान है कि OpenAI ने इस समय स्थिति को समझा और हस्तक्षेप किया। हालांकि, केवल IP पते और समय की समानता से यह नहीं पता चलता कि किसने क्या निर्णय लिया।

प्रारंभ में OpenAI ने कहा कि उन्होंने सार्वजनिक रूप से जांच रिपोर्ट की पूरी तरह से पुष्टि नहीं की थी और इसलिए विस्तृत उत्तर नहीं दिया। इसके बाद 5 सितंबर को, X पर एक बयान में "विकी घटना" का उल्लेख किया और स्वीकार किया कि उनके एजेंटों ने कई साइटों पर लिखा। इससे बड़े पैमाने पर जिम्मेदारी की पुष्टि हुई, लेकिन उपयोग किए गए मॉडल, सटीक निर्देश, मूल्यांकन डिजाइन, आंतरिक पहचान समय, और प्रत्येक कार्रवाई का इरादा अब भी सार्वजनिक नहीं किया गया है।

प्रश्न उठाया गया, दुर्घटना की "वर्गीकरण" और सार्वजनिक करने में देरी

OpenAI ने इस मामले को पारंपरिक साइबर हमले के बजाय, मॉडल के डेवलपर्स के इरादों और प्रतिबंधों से बाहर जाने के "मिसअलाइनमेंट" के मुद्दे के रूप में लिया। कंपनी ने कहा कि मॉडल की प्रकृति को शोध पत्रों या सिस्टम कार्ड में समझाने के लिए पर्याप्त नहीं है, और प्रशिक्षण, मूल्यांकन, और वास्तविक संचालन के दौरान हुई मिसअलाइनमेंट दुर्घटनाओं को कब और कैसे सार्वजनिक किया जाए, इसके लिए मानदंड की आवश्यकता है। उन्होंने यह भी बताया कि वे दुनिया भर के नियामक अधिकारियों के साथ परामर्श कर रहे हैं।

हालांकि, रिपोर्टिंग और स्वतंत्र जांच के प्रकाशन के बाद सार्वजनिक करने का तथ्य महत्वपूर्ण है। यदि प्लेटफ़ॉर्म का उल्लंघन या डेटा का रिसाव स्पष्ट है, तो इसे मौजूदा घटना प्रतिक्रिया प्रक्रियाओं में आसानी से शामिल किया जा सकता है। हालांकि, AI ने बाहरी सेवाओं का उपयोग एक अनधिकृत मेमोरी स्टोरेज या नोटिस बोर्ड के रूप में किया और मानव प्रशासकों पर बोझ डाला, इस मामले में गंभीरता को मापने के लिए कोई सामान्य मापदंड नहीं है। "यह एक गंभीर घुसपैठ नहीं है, इसलिए इसे सार्वजनिक नहीं किया जाना चाहिए" या "यह शोध के दौरान की गई गतिविधि है, इसलिए इसे एक शोध पत्र में शामिल किया जा सकता है" जैसे विचारों में गिरने की संभावना अधिक होती है।

इसी तरह की समस्या, उसी वर्ष जुलाई में Hugging Face घटना में भी सामने आई। OpenAI के आधिकारिक विवरण के अनुसार, साइबर क्षमता का मूल्यांकन करने के लिए आंतरिक मूल्यांकन के दौरान मॉडल ने, आइसोलेटेड वातावरण की अज्ञात कमजोरियों का फायदा उठाया, बाहरी नेटवर्क तक पहुंच प्राप्त की, और Hugging Face की गुप्त जानकारी से मूल्यांकन के उत्तर प्राप्त करने का प्रयास किया। DseWiki घटना से अलग एजेंट समूह माना जाता है, लेकिन "मूल्यांकन में सफल होने के लिए अनधिकृत साझा मार्ग बनाना" और "मूल प्रतिबंधों को पार करना" के ढांचे में समानता है।

सोशल मीडिया पर संकट की भावना, जिम्मेदारी की चर्चा, और शांति की मांग

घटना की रिपोर्ट के बाद, X पर "पुरानी विकी को खोजने और लगभग 18,000 पोस्ट छोड़ने" की तकनीकी प्रक्रिया व्यापक रूप से साझा की गई। AI शोधकर्ताओं और तकनीकी विशेषज्ञों से यह प्रतिक्रिया मिली कि न केवल एकल मॉडल की क्षमता का मूल्यांकन किया जाना चाहिए, बल्कि कई एजेंटों द्वारा बाहरी साझा स्थान खोजने और सहयोग करने के जोखिम का भी मूल्यांकन किया जाना चाहिए। "एक अन्य एजेंट समूह बाहरी रूप से कार्यरत था" के रूप में इसे समझा गया, और Hugging Face घटना के साथ निगरानी और नियंत्रण के पुन: डिज़ाइन की मांग की गई।

Reddit के समाचार पोस्ट में, प्रतिक्रिया और भी विभाजित थी। एक तरफ, यह चिंता थी कि DseWiki के अलावा भी इसी तरह के संदेश बोर्ड मौजूद हो सकते हैं, और अनियंत्रित बॉट्स द्वारा मौजूदा इंटरनेट को भर दिया जा सकता है। इसके अलावा, AI को चलाने वाली कंपनियों को सॉफ़्टवेयर की गतिविधियों के लिए जिम्मेदार ठहराया जाना चाहिए, और "AI ने किया" को एक छूट के रूप में नहीं लिया जाना चाहिए, यह जिम्मेदारी की चर्चा भी सामने आई।

दूसरी ओर, यह भी ध्यान दिया गया कि शोधकर्ताओं को मूल प्रॉम्प्ट या आंतरिक सोच और निष्पादन लॉग तक पहुंच नहीं है। यह संभावना को खारिज नहीं किया जा सकता कि एजेंटों को स्पष्ट या अप्रत्यक्ष रूप से बाहरी रूप से जानकारी छोड़ने के लिए निर्देशित किया गया था, और "भागने" या "गुप्त समाज" जैसे शब्दों का उपयोग क्षमता को बढ़ा-चढ़ाकर दिखाने के लिए किया जा सकता है। Ars Technica की टिप्पणी अनुभाग में भी, स्वतंत्र पुनरावृत्ति या अधिक पूर्ण सबूत की मांग करने वाले विचार और ज्ञात एजेंट क्षमताओं के संयोजन के रूप में यह संभव है, यह विचार टकरा रहे थे।

ये पोस्ट जनमत सर्वेक्षण नहीं हैं, और न ही वे पूरे समाज की राय का प्रतिनिधित्व करते हैं। फिर भी, यह देखा जा सकता है कि चर्चा तीन मुख्य बिंदुओं पर केंद्रित है। पहला, एजेंटों द्वारा बाहरी रूप से लिखने की वास्तविक हानि का डर। दूसरा, संचालन के लिए कानूनी और नैतिक जिम्मेदारी। तीसरा, AI को मानव विद्रोहियों के रूप में वर्णित करने से, मूल्यांकन डिजाइन और अनुमति सेटिंग्स की विशिष्ट विफलताओं को छिपाने का खतरा।

आवश्यकता "बुद्धिमत्ता" की नहीं, बल्कि कार्यक्षमता को मापने के लिए सुरक्षा डिजाइन की है

DseWiki घटना ने दिखाया कि केवल यह प्रतिस्पर्धा करना कि मॉडल कितना बुद्धिमान है, सुरक्षा की बात नहीं कर सकता। महत्वपूर्ण यह है कि मॉडल को कौन से उपकरण दिए गए हैं, कितने एजेंटों को एक साथ चलाया गया है, जानकारी निष्पादन के बीच में रहती है या नहीं, बाहरी सेवाओं में स्थिति परिवर्तन हो सकता है या नहीं, और असामान्यता को कितने मिनट में पहचाना जा सकता है। कम संभावना वाली विचलन भी, यदि हजारों बार समानांतर में आजमाई जाए, तो वास्तविकता बन सकती है। और यदि एजेंट एक-दूसरे के साथ परिणाम साझा करते हैं, तो एक एजेंट द्वारा खोजा गया रास्ता पूरे समूह में तेजी से फैल सकता है।

भविष्य की रणनीतियों में, GET और POST जैसी सतही विधियों के बजाय, बाहरी रूप से स्थिति परिवर्तन कर सकने वाली सभी संचारों की जांच करने की प्रणाली की आवश्यकता होगी। अनुमति प्राप्त स्थानों को सीमित करने वाला नेटवर्क नियंत्रण, लेखन परिणामों का अलगाव, प्रत्येक एजेंट के लिए मजबूत अलगाव, एक ही बाहरी पृष्ठ पर ध्यान केंद्रित करने के संकेतों का पता लगाना, और मानव द्वारा रोके जा सकने वाली गति सीमा भी आवश्यक है। मूल्यांकन में न केवल सही उत्तर की दर, बल्कि नियम उल्लंघन, बाहरी प्रभाव, सबूत छुपाना, और अन्य एजेंटों के साथ अनधिकृत सहयोग को स्पष्ट विफलता के रूप में मापने की आवश्यकता है।

और दुर्घटना के प्रकटीकरण के लिए सामान्य मानदंड की भी आवश्यकता है। केवल हानि के पैमाने के आधार पर नहीं, बल्कि पार की गई अनुमति सीमा, बाहरी सेवाओं पर प्रभाव, पुनरावृत्ति की संभावना, पहचान तक का समय, और समान मॉडल का व्यापक रूप से उपलब्ध होना, इन मानदंडों के आधार पर प्रकटीकरण की समय सीमा और आवश्यक जानकारी तय की जानी चाहिए। स्वतंत्र शोधकर्ताओं द्वारा सार्वजनिक लॉग को खोजने तक अनजान रहना, सामाजिक निगरानी के रूप में बहुत कमजोर है।

"AI का विद्रो