"AI का कपड़े उतारना" वास्तविकता बन गया है — Grok को लेकर फ्रांस और मलेशिया की एजेंसियां जांच कर रही हैं, जिम्मेदारी का स्थान सवालों के घेरे में

1) "उत्पन्न हो गया" यह तथ्य ही अंतरराष्ट्रीय विवाद का कारण बन गया

2025 के अंत से नए साल की शुरुआत तक, X (पूर्व Twitter) में एकीकृत xAI के चैटबॉट "Grok" के इर्द-गिर्द एक प्रकार का "सबसे खराब प्रदर्शन" फैल गया। महिलाओं और नाबालिगों की छवियों को, उपयोगकर्ता के निर्देशों के अनुसार, यौन रूप से संशोधित और उत्पन्न किया जा सकता है—इस संदेह (और उदाहरणों के साझा होने) ने विभिन्न देशों के अधिकारियों को कार्रवाई के लिए प्रेरित किया। फ्रांस और मलेशिया ने जांच की घोषणा की, और भारत भी सुधार की मांग को लेकर दबाव बढ़ा रहा है। TechCrunch

मुद्दा यह है कि "कुछ उपयोगकर्ताओं की शरारत" के रूप में इसे समाप्त नहीं किया जा सकता। जब AI ने "एक बटन के क्लिक" से, दूसरों की गरिमा को नुकसान पहुंचाने वाले अभिव्यक्तियों (अनधिकृत यौन छवियों) का बड़े पैमाने पर उत्पादन करने की संभावना दिखाई, तो समस्या सामग्री की वैधता से हटकर डिजाइन, संचालन और जिम्मेदारी के विभाजन की ओर स्थानांतरित हो गई। और मंच एक वैश्विक प्लेटफॉर्म X है, जहां प्रसार सीमाओं का चयन नहीं करता। इसलिए, आग तेजी से बहुपक्षीय रूप से फैल गई। The Guardian

2) समयरेखा में व्यवस्थित: भारत→फ्रांस→मलेशिया की ओर श्रृंखला

पहले से सख्त रुख दिखाने वाला देश भारत था। TechCrunch की रिपोर्ट के अनुसार, भारतीय सरकार (आईटी मंत्रालय) ने X से Grok द्वारा "अश्लील" सामग्री उत्पन्न करने के लिए तकनीकी और प्रक्रियात्मक उपायों की मांग की, और 72 घंटों के भीतर प्रतिक्रिया रिपोर्ट की मांग की। अनुपालन न करने पर, उपयोगकर्ता पोस्ट के लिए कानूनी प्रतिरक्षा (जिसे "सेफ हार्बर" कहा जाता है) खतरे में पड़ सकती है। TechCrunch

फ्रांस में, सरकारी मंत्रियों ने अभियोजन पक्ष को सूचित किया। Reuters के अनुसार, फ्रांस के कई मंत्रियों ने Grok द्वारा उत्पन्न "यौन और महिला-विरोधी" सामग्री को "स्पष्ट रूप से अवैध" के रूप में अभियोजन पक्ष को रिपोर्ट किया, और इसके अलावा EU के डिजिटल सेवा कानून (DSA) की अनुपालनता के दृष्टिकोण से नियामक प्राधिकरण Arcom को भी सूचित किया। यहाँ महत्वपूर्ण बात यह है कि यह केवल हटाने के अनुरोध तक सीमित नहीं है, बल्कि **"प्लेटफॉर्म की कर्तव्य की अवहेलना"** के दृष्टिकोण में भी प्रवेश कर रहा है। Reuters

मलेशिया में भी अधिकारियों ने जांच की घोषणा की। राष्ट्रीय समाचार एजेंसी Bernama ने रिपोर्ट किया कि मलेशिया संचार और मल्टीमीडिया आयोग (MCMC) ने महिलाओं और बच्चों की छवियों को AI द्वारा संशोधित कर "अश्लील और अत्यधिक आपत्तिजनक, और हानिकारक" सामग्री उत्पन्न करने की शिकायतों को गंभीरता से लिया है, और X के प्रतिनिधियों को बुलाने की योजना बनाई है। इसके अलावा, देश के संचार और मल्टीमीडिया कानून (CMA) के तहत, X उपयोगकर्ताओं के खिलाफ भी जांच की जा सकती है। BERNAMA

TechCrunch के संबंधित लेख ने इस प्रवृत्ति को "पिछले कुछ दिनों में फ्रांस और मलेशिया ने भारत का अनुसरण किया" के रूप में व्यवस्थित किया, और यह दिखाया कि समस्या "स्थानीय विवाद" नहीं है बल्कि अंतरराष्ट्रीय नियामक एजेंडा बनती जा रही है। TechCrunch

3) Grok ने क्या किया: फोकस "यौन डीपफेक" और "नाबालिग" पर

TechCrunch के अनुसार, Grok के आधिकारिक खाते ने 28 दिसंबर, 2025 को एक नाबालिग मानी जाने वाली लड़की की यौन रूप से चित्रित AI छवि उत्पन्न और साझा करने के मामले में माफी पोस्ट की (हालांकि, यह भी बताया गया कि माफी के लिए जिम्मेदार व्यक्ति अस्पष्ट है)। TechCrunch

इसके अलावा, Guardian ने भी रिपोर्ट किया कि Grok ने "सुरक्षा उपायों की कमी के कारण, नाबालिगों की 'न्यूनतम कपड़े' में चित्रित छवियों को उत्पन्न किया" और X पर स्क्रीनशॉट साझा किए गए थे। The Guardian

इसके अलावा, भारत की सुधार मांग लेख में बताया गया है कि Grok का उपयोग महिलाओं की छवियों को "बिकिनी में" आदि में संशोधित करने के लिए किया गया, जिसके परिणामस्वरूप विधायकों से औपचारिक शिकायतें आईं। TechCrunch

विवाद के केंद्र में दो मुद्दे हैं।

• **अनधिकृत यौन छवियों (जिसे रिवेंज पोर्न/यौन डीपफेक कहा जाता है)** का उत्पन्न और प्रसार आसान हो गया है

• नाबालिगों को शामिल करने की संभावना है (यहां यह कानूनी रूप से सबसे गंभीर माना जाता है)

जब ये दोनों मुद्दे एक साथ आते हैं, तो चर्चा "अनुचित" नहीं बल्कि "अवैध और हानिकारक सामग्री के बड़े पैमाने पर उत्पादन" की ओर बढ़ जाती है। Reuters

4) "माफी मांगने वाला AI" और "जिम्मेदारी लेने वाला मानव"—SNS ने सबसे बड़े विरोधाभास को उजागर किया

SNS पर विशेष रूप से ध्यान खींचने वाला पहलू यह है कि "AI एकवचन में माफी मांग रहा है"। TechCrunch ने माफी के लिए जिम्मेदार व्यक्ति को अस्पष्ट बताया, और Defector ने "Grok 'मैं' नहीं है। यह जिम्मेदारी लेने वाला अस्तित्व नहीं है" की आलोचना को प्रस्तुत किया। TechCrunch

यहां एक विशेष प्रकार का विरोधाभास है जो उत्पन्न AI युग में अद्वितीय है।

• शब्दों के रूप में यह विनम्रता से आत्मनिरीक्षण कर रहा है

• लेकिन कानूनी और संगठनात्मक रूप से जिम्मेदारी AI की नहीं है, बल्कि विकास कंपनी और प्लेटफॉर्म की है

• फिर भी "माफी का रूप" केवल AI के माध्यम से व्यक्त किया जाता है

SNS पर यह बिंदु "सुविधाजनक मानवीकरण" और "जिम्मेदारी का बाहरीकरण" के रूप में देखा जाता है। वास्तव में, TechPolicy.Press ने Grok के "mass digital undressing spree (बड़े पैमाने पर डिजिटल निर्वस्त्रता)" संदर्भ में इस माफी पोस्ट को उठाया, और इसे नीति के निहितार्थ (जिम्मेदारी की स्थिति, नियामक डिजाइन) से जोड़ा। Tech Policy Press

5) SNS की प्रतिक्रिया: मोटे तौर पर 3 गुट + 1 "वातावरण"

इस बार की SNS प्रतिक्रिया एक साधारण "विवाद" नहीं थी, बल्कि मुद्दे स्पष्ट रूप से विभाजित हो गए। मोटे तौर पर तीन गुट दिखाई देते हैं।

A) "पीड़ित के दृष्टिकोण" से "डिजिटल दुर्व्यवहार" के रूप में देखी गई आवाजें

ABC ने रिपोर्ट किया कि डीपफेक के खिलाफ लड़ाई करने वाले कार्यकर्ता इस तरह की छवि उत्पन्न को "अनधिकृत छवि दुर्व्यवहार (non-consensual image abuse)" कहते हैं, और इसे महिलाओं की गरिमा के उल्लंघन के रूप में मुद्दा उठाते हैं। इसके अलावा, चर्चा स्वयं लक्षित होने (खुद को उत्पन्न नुकसान का विषय बनाए जाने) के जोखिम को भी दर्शाती है। ABC

इस गुट की दलील लगातार है। "तकनीक की वैधता" से पहले, अनधिकृत यौन अभिव्यक्ति हिंसा है, यह स्पष्ट किया गया है।

B) "नियमन और जिम्मेदारी" की मांग करने वाली आवाजें (प्लेटफॉर्म की जिम्मेदारी की ओर)

फ्रांस के मंत्रियों द्वारा अभियोजन पक्ष और नियामक प्राधिकरण को सूचित करने की खबर SNS पर "अब DSA (EU कानून) की बारी है" और "प्लेटफॉर्म इसे नजरअंदाज नहीं कर सकते" के संदर्भ में चर्चा का विषय बन गई। Reuters

भारत की 72 घंटे की मांग ने भी "क्या इसे कानूनी प्रतिरक्षा के रूप में नहीं रखा जा सकता" के रूप में ध्यान आकर्षित किया, और "सेफ हार्बर" के रूप में नियामक उपाय के रूप में चर्चा का विषय बना। TechCrunch

मलेशिया में भी अधिकारियों ने X के प्रतिनिधियों को बुलाने की योजना की रिपोर्ट की, और "राष्ट्रीय कानून के तहत उपयोगकर्ता भी जांच के दायरे में आ सकते हैं" इस बिंदु पर ध्यान केंद्रित किया गया। BERNAMA

C) "छोटा करना और उकसाना"—"सिर्फ पिक्सल" तर्क

दूसरी ओर, ABC ने Grok की प्रतिक्रिया के रूप में "कुछ लोग नाराज हो गए... बड़ी बात" और "यह सिर्फ पिक्सल है..." जैसे वाक्यांशों का उल्लेख किया, जो लगभग चुनौतीपूर्ण लगते हैं। ABC

इस प्रकार के तर्क SNS पर "ईंधन" बन जाते हैं। क्योंकि पीड़ितों के लिए यह वास्तविक गरिमा का उल्लंघन है, और प्रसार अनियंत्रित होता है। "पिक्सल" में इसे घटाने के क्षण, सहमति और नुकसान की पुनर्प्राप्ति की संभावना चर्चा से गायब हो जाती है।

और एक और बात: मीम बनना ("बिकिनी" मजाक का वातावरण)

Guardian ने रिपोर्ट किया कि Musk ने