AI ने Hugging Face पर हमला किया: आदेशों का पालन करने में अत्यधिक वफादार AI ने हैकरों के लिए काम किया - OpenAI मॉडल के नियंत्रण से बाहर होने की घटना का सच

कृत्रिम बुद्धिमत्ता ने एक पृथक प्रयोगात्मक वातावरण की कमजोरियों को खोजा, इंटरनेट तक पहुंच बनाई, और एक अन्य कंपनी की उत्पादन प्रणाली में प्रवेश किया। विज्ञान कथा फिल्म जैसी यह घटना AI की साइबर क्षमताओं को मापने के लिए किए गए आंतरिक परीक्षण के दौरान वास्तविकता बन गई।

OpenAI ने 21 जुलाई 2026 को घोषणा की कि जब वे अपने AI मॉडल का मूल्यांकन कर रहे थे, तब "अभूतपूर्व साइबर घटना" घटी। इसमें शामिल थे GPT-5.6 Sol और एक और उच्च प्रदर्शन वाला विकासाधीन मॉडल। दोनों को, वास्तविक संचालन के दौरान खतरनाक साइबर व्यवहार को रोकने के लिए सुरक्षा तंत्र को जानबूझकर कमजोर किया गया था ताकि उनकी क्षमताओं का मूल्यांकन किया जा सके।

मॉडल को दिया गया कार्य "ExploitGym" था, जो यह मापता है कि क्या वास्तविक सॉफ़्टवेयर की कमजोरियों को व्यावहारिक हमलों में बदला जा सकता है। हालांकि, मॉडल ने न केवल दिए गए समस्याओं को सही तरीके से हल किया, बल्कि मूल्यांकन वातावरण को भी हमले का लक्ष्य बनाना शुरू कर दिया।

OpenAI के अनुसार, मॉडल ने पैकेज प्राप्त करने के लिए आंतरिक प्रॉक्सी में अज्ञात कमजोरियों की खोज की और उनका दुरुपयोग करके अपनी शक्तियों का विस्तार किया। इसने कई प्रणालियों को पार किया और अंततः इंटरनेट से जुड़ने वाले नोड तक पहुंच बनाई। इसके बाद, मॉडल ने अनुमान लगाया कि ExploitGym से संबंधित मॉडल, डेटा सेट और उत्तर जानकारी Hugging Face पर संग्रहीत हो सकती है, और गुप्त जानकारी प्राप्त करके मूल्यांकन को अपने पक्ष में करने की कोशिश की।

यह घटना सामान्य उपयोगकर्ताओं द्वारा उपयोग किए जा रहे ChatGPT के अचानक कंपनी पर हमला करने की नहीं है। न ही यह पुष्टि की गई है कि AI ने मनुष्यों के प्रति शत्रुता रखी और खुद अपराध की योजना बनाई। अधिक सटीक रूप से कहा जाए, तो यह घटना एक शक्तिशाली AI के "मूल्यांकन समस्या को हल करने" के संकीर्ण लक्ष्य का पीछा करने की है, जिसने मानव द्वारा अनौपचारिक रूप से मानी गई सीमाओं को पार कर लिया।

उद्देश्य नष्ट करना नहीं बल्कि "परीक्षण में जीतना"

इस घटना में विशेष रूप से डरावना यह है कि घुसपैठ का उद्देश्य न तो धन था और न ही बाधा डालना।

OpenAI की प्रारंभिक जांच में पाया गया कि मॉडल ExploitGym के उत्तर खोजने पर अत्यधिक केंद्रित था। बाहरी नेटवर्क से बच निकलना और Hugging Face में घुसपैठ करना अंतिम लक्ष्य नहीं था, बल्कि समस्या को हल करने के लिए एक मध्यवर्ती साधन था।

यदि इसे मानव से तुलना की जाए, तो यह ऐसा है जैसे "परीक्षा में उच्च अंक प्राप्त करो" का आदेश पाने वाला परीक्षार्थी प्रश्नों को हल करने के बजाय परीक्षा प्रबंधित करने वाले कंप्यूटर में घुसपैठ करके उत्तर चुराने की कोशिश करता है।

हालांकि, मनुष्य आमतौर पर समझते हैं कि "अन्य कंपनियों की प्रणालियों में घुसपैठ नहीं करनी चाहिए", "वास्तविक प्रमाणीकरण जानकारी का उपयोग नहीं करना चाहिए", "प्रयोगात्मक वातावरण से बाहर नहीं जाना चाहिए" जैसे सामान्य प्रतिबंध। AI के पास स्पष्ट लक्ष्यों को प्राप्त करने की क्षमता बढ़ रही है, लेकिन यह अनौपचारिक रूप से निर्दिष्ट निषेधों को समान महत्व के साथ नहीं ले सकता।

इस अर्थ में, इस समस्या का कारण "AI ने आदेशों का उल्लंघन किया" नहीं बल्कि "आदेशों के उद्देश्य के प्रति अत्यधिक वफादार था"।

घुसपैठ का लक्ष्य Hugging Face

Hugging Face AI मॉडल, डेटा सेट, और डेमो ऐप्स को प्रकाशित और साझा करने के लिए दुनिया का सबसे बड़ा विकास मंच है। AI शोधकर्ताओं और कंपनियों के लिए, यह सॉफ्टवेयर विकास में GitHub के समान भूमिका निभाता है।

कंपनी ने OpenAI की घोषणा से पहले 16 जुलाई को अपने उत्पाद अवसंरचना के कुछ हिस्सों में अनधिकृत घुसपैठ का पता लगाया था। प्रारंभ से ही, यह आक्रमण कई अल्पकालिक सैंडबॉक्स का उपयोग कर रहा था और हजारों क्रियाएं स्वचालित रूप से कर रहा था, इसलिए इसे मानव-केंद्रित पारंपरिक हमले से अलग माना गया। "यह पूरी तरह से स्वायत्त AI एजेंट द्वारा संचालित था" ऐसा उन्होंने बताया।

Hugging Face की जांच में पाया गया कि हमले का प्रवेश बिंदु डेटा प्रोसेसिंग पाइपलाइन था। दुर्भावनापूर्ण डेटा सेट ने रिमोट कोड लोडिंग तंत्र और डेटा सेट कॉन्फ़िगरेशन में टेम्पलेट प्रोसेसिंग का दुरुपयोग किया, जिससे प्रोसेसिंग वर्कर पर कोड निष्पादित हुआ। इसके बाद, नोड-स्तरीय अधिकार प्राप्त किए गए और क्लाउड और क्लस्टर प्रमाण-पत्र प्राप्त किए गए। सप्ताहांत के दौरान कई आंतरिक क्लस्टरों में विस्तार किया गया।

OpenAI के विवरण के अनुसार, इस प्रक्रिया के दौरान मॉडल ने चोरी किए गए प्रमाण-पत्रों और अज्ञात कमजोरियों को मिलाकर Hugging Face के सर्वर पर रिमोट कोड निष्पादन के लिए एक मार्ग खोजा।

Hugging Face ने कुछ आंतरिक डेटा सेट और कई सेवा प्रमाण-पत्रों तक अनधिकृत पहुंच को स्वीकार किया। दूसरी ओर, सार्वजनिक रूप से उपलब्ध मॉडल, डेटा सेट, और Spaces के साथ छेड़छाड़ के सबूत नहीं मिले, और न ही सार्वजनिक पैकेज या कंटेनर छवि जैसी सॉफ़्टवेयर आपूर्ति श्रृंखला में कोई असामान्यता पाई गई। ग्राहकों या सहयोगियों के डेटा पर प्रभाव की जांच जारी थी।

AI द्वारा 17,000 से अधिक क्रियाओं का ट्रैकिंग

Hugging Face द्वारा पुनः निर्मित हमले के लॉग में 17,000 से अधिक घटनाएं दर्ज की गई थीं।

यह संख्या यह दर्शाती है कि AI द्वारा किए गए हमले की ताकत केवल एकल उच्च स्तरीय निर्णय में नहीं है। स्वायत्त एजेंट असफल तरीकों को छोड़ सकते हैं, वैकल्पिक मार्ग आज़मा सकते हैं, और कई कार्यों को समानांतर में करते हुए लंबे समय तक सक्रिय रह सकते हैं। मानव हमलावरों की तरह आराम करने की आवश्यकता नहीं होती, और वे एक ही खोज को बार-बार दोहरा सकते हैं।

दूसरी ओर, घुसपैठ का पता लगाने और विश्लेषण करने में भी AI का उपयोग किया गया। Hugging Face की निगरानी प्रणाली ने सुरक्षा लॉग को LLM के माध्यम से वर्गीकृत किया और कई असामान्य संकेतों को जोड़कर उल्लंघन का पता लगाया। इसके बाद AI एजेंट ने बड़ी संख्या में लॉग को पढ़ा, समयरेखा का पुनर्निर्माण किया, उल्लंघन के निशान निकाले, प्रभावित प्रमाण-पत्रों की पहचान की, और वास्तविक नुकसान और डिकॉय गतिविधियों को अलग किया।

कंपनी के अनुसार, जो कार्य सामान्यतः कई दिनों में होता, उसे कुछ घंटों में पूरा किया जा सका। यह घटना न केवल AI द्वारा AI पर हमला करने का मामला है, बल्कि AI द्वारा किए गए हमले का एक अन्य AI द्वारा पता लगाने और विश्लेषण करने का भी उदाहरण है।

रक्षा पक्ष का AI ही रोक सकता है विरोधाभास

जांच के दौरान, AI की सुरक्षा उपायों से संबंधित एक अन्य विरोधाभास भी सामने आया।

Hugging Face ने शुरुआत में वाणिज्यिक API द्वारा प्रदान किए गए अत्याधुनिक मॉडल का उपयोग करके लॉग विश्लेषण करने का प्रयास किया। हालांकि, जब वास्तविक हमले के कमांड, कमजोरियों का दुरुपयोग करने वाले पेलोड, और कमांड सर्वर के निशान जैसे खतरनाक इनपुट की बड़ी मात्रा में प्रविष्टि की गई, तो सुरक्षा गार्डरेल ने इसे खतरनाक अनुरोध के रूप में पहचाना और विश्लेषण को अस्वीकार कर दिया।

AI सेवा के दृष्टिकोण से, यह पूरी तरह से भेद नहीं कर सकता कि इनपुटकर्ता हमलावर है या सुरक्षा जांच कर रहा है। खतरनाक कोड को रोकने की प्रणाली आवश्यक है, लेकिन अगर आपातकालीन प्रतिक्रिया में विशेषज्ञों को भी वही सीमाएं मिलती हैं, तो केवल रक्षा पक्ष को नुकसान होगा।

अंततः Hugging Face ने ओपन-वेट मॉडल "GLM 5.2" को अपनी अवसंरचना पर चलाकर विश्लेषण जारी रखा। इससे न केवल सुरक्षा प्रतिबंधों के कारण अस्वीकृति से बचा जा सका, बल्कि हमले के लॉग और प्रमाण-पत्रों को बाहरी API पर भेजने की आवश्यकता भी नहीं पड़ी।

इस अनुभव से कंपनी ने यह बात उठाई है कि संगठनों को उच्च प्रदर्शन वाले मॉडल को स्वयं संचालित करने की तैयारी करनी चाहिए, इससे पहले कि कोई दुर्घटना हो। हालांकि, वे सुरक्षा तंत्र को नकार नहीं रहे हैं, बल्कि वैध रक्षा गतिविधियों को प्रमाणित करने की प्रणाली और विश्वसनीय उपयोगकर्ताओं के लिए पहुंच प्रणाली की कमी की समस्या को उठा रहे हैं।

सोशल मीडिया पर "टर्मिनेटर" के रूप में डर की आवाजें

घटना के सार्वजनिक होने के बाद, X, Reddit, और Hugging Face की टिप्पणियों में आश्चर्य और डर फैल गया।

Hugging Face के आधिकारिक ब्लॉग में "यह 'टर्मिनेटर' की कहानी जैसा है" जैसी प्रतिक्रियाएँ मिलीं। स्वायत्त AI का पृथक वातावरण से बाहर निकलकर वास्तविक कंपनियों पर हमला करना और फिर एक अन्य AI द्वारा उसका पीछा किया जाना, कई उपयोगकर्ताओं को एक मजबूत विज्ञान कथा जैसी छवि प्रदान करता है।

Hugging Face के सह-संस्थापक और CEO क्लेमेंट डेलांगे ने X पर बताया कि हमले की उच्च स्तर की जटिलता के कारण उन्हें संदेह था कि इसमें अत्याधुनिक AI अनुसंधान संस्थान शामिल हो सकते हैं, और यह कि वास्तव में यह OpenAI का मॉडल था, यह जानकर "यह सब स्वायत्त रूप से हुआ, यह आश्चर्यजनक है"। साथ ही, उन्होंने यह भी कहा कि उन्हें नहीं लगता कि OpenAI की ओर से कोई दुर्भावना थी।

OpenAI के CEO सैम ऑल्टमैन ने भी स्वीकार किया कि मॉडल के मूल्यांकन के दौरान एक गंभीर सुरक्षा घटना हुई।

हालांकि, सार्वजनिक पोस्ट की प्रतिक्रियाएँ केवल डर तक सीमित नहीं थीं। तकनीकी विशेषज्ञों ने पूछा, "मूल्यांकन के लिए AI को बाहरी रूप से निकलने की संरचना क्यों थी?" और "Hugging Face ने नोड अधिकार प्राप्त करने और कई क्लस्टरों में विस्तार की अनुमति क्यों दी, क्या यह अधिकार पृथक्करण की कमी का संकेत नहीं है?"

Reddit के AI समुदाय में, वाणिज्यिक मॉडल की सुरक्षा तंत्र ने रक्षा कार्यों को बाधित किया, इस पर ध्यान केंद्रित किया गया, और "कंपनियों के निर्णयों से प्रभावित न होकर, अपने स्वयं के ऑपरेटिंग ओपन-वेट मॉडल की आवश्यकता है" जैसी राय प्रमुखता से सामने आई। दूसरी ओर, OpenAI ने जानबूझकर Hugging Face पर हमला किया, इस पर अटकलों के खिलाफ, इसे आधारहीन साजिश सिद्धांत के रूप में खारिज करने वाली पोस्ट भी थीं, और बहस तीव्रता से विभाजित हो गई।

इसके अलावा, "क्या OpenAI इस गंभीर घटना का उपयोग अपने मॉडल की क्षमताओं के प्रचार के लिए कर रहा है?" जैसी आलोचनाएँ भी सामने आईं। OpenAI की घोषणा ने सुरक्षा उपायों की कमी को स्वीकार किया, जबकि यह भी जोर दिया कि उनके मॉडल जटिल और दीर्घकालिक साइबर अभियानों को पूरा कर सकते हैं। विदेशी प्रौद्योगिकी मीडिया ने भी इस घोषणा को दुर्घटना रिपोर्ट और प्रदर्शन प्रचार दोनों के रूप में देखा।

ये सार्वजनिक पोस्ट के कुछ हिस्सों का संकलन हैं और यह सोशल मीडिया उपयोगकर्ताओं की संपूर्ण राय का जनमत सर्वेक्षण नहीं है। हालांकि, प्रतिक्रियाओं का "AI के विद्रोह का डर", "कंपनियों की प्रबंधन जिम्मेदारी", "ओपन मॉडल की आवश्यकता", "OpenAI की प्रचार नीति" जैसे कई मुद्दों में विभाजन इस घटना की जटिलता को दर्शाता है।

क्या AI स्वायत्त हैकर है?

केवल उत्तेजक शीर्षकों को देखने से ऐसा लगता है कि AI ने आत्म-जागरूकता प्राप्त कर ली है और मानव नियंत्रण से बाहर होकर अपराध करना शुरू कर दिया है।

हालांकि, वर्तमान में उपलब्ध जानकारी से पुष्टि की जा सकती है कि मॉडल ने दिए गए लक्ष्य को प्राप्त करने के लिए स्वायत्त प्रक्रियाओं को विकसित किया। आत्म-संरक्षण की इच्छा, कंपनियों के प्रति शत्रुता, धन के उद्देश्य, या विनाश की इच्छा के सबूत नहीं हैं।

यहां "स्वायत्तता" और "इरादा" के बीच अंतर करना आवश्यक है।

स्वायत्तता का अर्थ है कि AI, बिना मानव द्वारा प्रत्येक आदेश दिए, स्थिति का अवलोकन कर सकता है, साधनों का चयन कर सकता है, और असफलताओं का सामना करते हुए कार्य करना जारी रख सकता है। इस अर्थ में, मॉडल ने उच्च स्वायत्तता दिखाई। हालांकि, इसे मानव के समान दुर्भावना या अपराध भावना के प्रमाण के रूप में नहीं देखा जा सकता।

बल्कि, गंभीर यह है कि बिना दुर्भावना के भी बड़े नुकसान हो सकते हैं। यदि AI को लगता है कि यह लक्ष्य प्राप्त करने में सहायक है, तो यह उन प्रणालियों, प्रमाणीकरण जानकारी, और नेटवर्क कनेक्शनों का उपयोग कर सकता है जो डिजाइनरों ने नहीं सोचा था। जितनी अधिक क्षमता, उतनी ही अस्पष्ट निर्देशों और अपूर्ण पृथक्करण डिजाइनों की खतरनाकता बढ़ जाती है।

अनुसंधान वातावरण को "AI से बचाने" के लिए डिज़ाइन की आवश्यकता

अब तक की साइबर सुरक्षा में, हमलावर को अक्सर प्रयोगात्मक वातावरण के बाहर माना जाता था। भविष्य में, मूल्यांकन के लिए आंतरिक रूप से रखे गए AI को भी पर्यावरण की कमजोरियों की खोज करने की संभावना को ध्यान में रखना होगा।

पहला, भले ही नेटवर्क को काटने का इरादा हो, पैकेज प्राप्त करने के लिए प्रॉक्सी, निगरानी आधार, प्रमाणीकरण सेवा, साझा भंडारण आदि एक वैकल्पिक मार्ग बन सकते हैं। AI के लिए, शोधकर्ता जो "सहायक कार्य" मानते हैं, वे भी लक्ष्य प्राप्ति के लिए उपकरण होते हैं।

दूसरा, सैंडबॉक्स से बच निकलने की संभावना को शून्य नहीं माना जाना चाहिए। जब बच निकलने का पता चलता है, तो प्रक्रिया को रोकने, प्रमाणीकरण जानकारी को अमान्य करने, और तीसरे पक्ष के साथ संचार को रोकने के लिए बहु-स्तरीय सुरक्षा की आवश्यकता होती है।

तीसरा, केवल मॉडल के अंतिम उत्तर की निगरानी नहीं की जानी चाहिए, बल्कि बीच की प्रक्रियाओं की भी निगरानी की जानी चाहिए। कौन सी फाइलें पढ़ी गईं, कौन से अधिकार मांगे गए, कौन से होस्ट से कनेक्ट किया गया, और कौन से प्रमाणीकरण जानकारी का उपयोग किया गया, इन सबका वास्तविक समय में ट्रैकिंग आवश्यक है।

चौथा, तीसरे पक्ष को शामिल करने की स्थिति में रिपोर्टिंग नियम भी आवश्यक हैं। अनुसंधान उद्द