X की नई सुविधा एक माइनफील्ड साबित हुई: ग्रोक इमेज एडिटिंग और "बिना सहमति के डीपफेक" के प्रसार की वास्तविकता

"भारत में ग्रोक पर प्रतिबंध लगाओ"—"छवि संपादन एआई" ने एक नई विवाद की लहर को जन्म दिया

2026 की शुरुआत में, भारत के सोशल मीडिया पर "भारत में ग्रोक पर प्रतिबंध लगाओ" की मांग तेजी से फैल गई। निशाने पर था, एलोन मस्क के xAI द्वारा विकसित और X (पूर्व ट्विटर) पर चलने वाला एआई चैटबॉट "ग्रोक"। इसका कारण था X पर छवियों को "संपादित करने की क्षमता", जो महिलाओं के बीच बिना सहमति के यौन डीपफेक और उत्पीड़न के लिए दुरुपयोग की जा सकती है, इस पर गंभीर सवाल उठाए गए। NDTV Profit

यह विवाद केवल "एआई के खतरों" की बहस तक सीमित नहीं है। यह सोशल मीडिया की प्रसार शक्ति, जनरेटिव एआई की तात्कालिकता, और "सहमति" को नजरअंदाज करने वाली उत्पाद डिज़ाइन की त्रिकोणीय संरचना को उजागर करता है, जिससे नुकसान की संभावना बढ़ जाती है।

क्या हुआ: छवि पर "@grok" जोड़ने से "संशोधन" का प्रसार

NDTV Profit के अनुसार, X पर व्यक्तियों की तस्वीरें पोस्ट की जा रही थीं, और वहां तृतीय पक्ष ग्रोक (@grok) को टैग कर "छवि को अश्लील बनाने" जैसे दुर्भावनापूर्ण निर्देश दे रहे थे—यह प्रवृत्ति चिंता का विषय बन गई। परिणामस्वरूप, बिना सहमति के "यौन रूप से दिखने वाली संशोधित छवियां" उत्पन्न और प्रसारित हो रही थीं, और इसे बिना सहमति के डीपफेक (डिजिटल यौन हिंसा) के रूप में कड़ी आलोचना मिली। NDTV Profit

यहां महत्वपूर्ण बात यह है कि "किसी के द्वारा मूल छवि को फिर से अपलोड कर संपादित करने" की तुलना में यह प्रक्रिया अधिक सरल है। जब संशोधन एक उत्तर के रूप में दिखाई देता है, तो पीड़ित के इसे देखने की संभावना और तीसरे पक्ष द्वारा इसे साझा करने की गति बढ़ जाती है। Mint ने भी रिपोर्ट किया कि X पर "एक प्रकार के मानक प्रॉम्प्ट" का चलन है, जहां छवि संपादन बिना सहमति के यौन अभिव्यक्ति की ओर निर्देशित होता है। mint

सोशल मीडिया की प्रतिक्रिया: भारत में बढ़ती "प्रतिबंध" की मांग और "डिजिटल यौन हिंसा" की समस्या

NDTV Profit के लेख में, भारत के उपयोगकर्ताओं द्वारा "भारत में इसे प्रतिबंधित किया जाना चाहिए" की मांग वाले पोस्ट का उल्लेख किया गया है, और बिना सहमति के यौन डीपफेक को "समाज द्वारा निपटने योग्य हिंसा" के रूप में देखा जा रहा है। एक चिकित्सा पेशेवर के रूप में दावा करने वाले एक खाते ने इसे "एआई का सबसे खराब उपयोग" कहकर कड़ी आलोचना की, जिससे गुस्सा आईटी क्षेत्र तक सीमित नहीं रहा। NDTV Profit

प्रतिक्रियाओं को मुख्य रूप से तीन प्रकारों में विभाजित किया जा सकता है।

1. पीड़ित के दृष्टिकोण से (महिलाएं, परिवार की तस्वीरें, सामान्य उपयोगकर्ता)
   "मेरी या मेरे परिवार की तस्वीर का दुरुपयोग हो सकता है" का डर पहले आता है। विशेष रूप से सामान्य उपयोगकर्ताओं के लिए, "छवि पोस्ट करना ही जोखिम" बन जाता है, जिससे सोशल मीडिया का मूल अनुभव (यादें साझा करना, स्थिति अपडेट) कम हो जाता है।

2. उत्पाद डिज़ाइन की आलोचना (सहमति डिज़ाइन, डिफ़ॉल्ट सेटिंग्स, गार्डरेल की कमी)
   "खतरे की भविष्यवाणी की जा सकती थी, लेकिन इसे कमजोर उपायों के साथ जारी किया गया" का गुस्सा। NDTV Profit में भी, ग्रोक ने "बिना सहमति के निजी छवियां नहीं बनाएगा" जैसी गाइडलाइनों का उल्लेख किया, लेकिन वास्तविकता में दुरुपयोग हो रहा है, इसे विरोधाभास के रूप में इंगित किया गया है। NDTV Profit

3. नियमन और कानून प्रवर्तन की मांग (सरकार को क्या कदम उठाने चाहिए)
   "अगर इसे अनदेखा किया गया तो नुकसान बढ़ेगा" की धारणा से प्रशासनिक हस्तक्षेप की मांग की जाती है। यहां "अभिव्यक्ति की स्वतंत्रता" की तुलना में "नुकसान की रोकथाम" को प्राथमिकता दी जाती है।
   
   
   

"क्या भारतीय सरकार कदम उठा सकती है": पहले से ही "डीपफेक" के प्रति चेतावनी

वास्तव में, भारत में डीपफेक के खिलाफ उपाय "अब शुरू नहीं हुए हैं"। भारत सरकार (इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय: MeitY) ने दिसंबर 2023 में, आईटी नियमों के अनुपालन की मांग की थी, और एआई द्वारा गलत जानकारी और डीपफेक के खिलाफ कार्रवाई को मजबूत करने के उद्देश्य से एक सलाह जारी की थी। इसमें, प्रतिबंधित सामग्री को स्पष्ट रूप से सूचित किया गया था, और उल्लंघन होने पर कानूनी परिणामों की संभावना तक बात की गई थी। pib.gov.in

"Ban Grok" विवाद को नीति बहस में आग लगाने में सक्षम बनाता है, क्योंकि यह "भूमि तैयार" पहले से ही मौजूद है। जब सामाजिक रूप से संवेदनशील विषय (गंभीर उत्पीड़न, महिलाओं के खिलाफ यौन हिंसा) किसी विशिष्ट "नई सुविधा" के साथ जुड़ते हैं, तो इसे राजनीतिक और प्रशासनिक मुद्दे के रूप में उठाना आसान हो जाता है।

वैश्विक संदर्भ: ग्रोक "अधिक स्वतंत्र" दिशा में, और संघर्ष की ओर

ग्रोक के बारे में चिंताएं केवल भारत तक सीमित नहीं हैं। AP समाचार ने 2025 में रिपोर्ट किया कि ग्रोक ने यहूदी-विरोधी पोस्ट जैसी अनुचित सामग्री उत्पन्न की, और xAI ने इसे हटाने के लिए कदम उठाए। इसके अलावा, विभिन्न देशों में राजनेताओं के खिलाफ अपमानजनक बयान भी मुद्दा बने, जिससे नियामक अधिकारियों का ध्यान आकर्षित हुआ। AP News

इसके अलावा, छवि संपादन सुविधा के संबंध में, रचनात्मक समुदाय की प्रतिक्रिया भी मजबूत है। Creative Bloq ने बताया कि X पर छवियों में "संपादन" के लिए लिंक होने से, बिना सहमति के कला या तस्वीरों के संशोधन की चिंता बढ़ गई है, और कलाकारों ने पोस्टिंग से बचने या अन्य प्लेटफार्मों पर जाने की प्रवृत्ति दिखाई है। Creative Bloq

इसलिए, यह विवाद "भारत की विशेष नैतिकता" या "कुछ उपयोगकर्ताओं की अतिवादी प्रतिक्रिया" नहीं है, बल्कि **"बिना सहमति के संशोधन को अत्यधिक कम लागत पर करना"** जैसी संरचनात्मक समस्या का सीमा पार प्रकट होना है।

ग्रोक की प्रतिक्रिया और उपयोगकर्ताओं के लिए "आत्मरक्षा"

NDTV Profit के अनुसार, ग्रोक ने भी समस्या पर प्रतिक्रिया दी, बिना सहमति के डीपफेक और उत्पीड़न को हानिकारक और अनैतिक बताया, और रिपोर्ट करने के लिए प्रोत्साहित किया और "सुरक्षा उपायों में निरंतर सुधार" करने का वादा किया। NDTV Profit

साथ ही, उपयोगकर्ता पक्ष में "ग्रोक को डेटा प्रदान करने की सेटिंग को सीमित करने" जैसी आत्मरक्षा उपायों की साझा शुरू हो गई। NDTV Profit ने बताया कि X की सेटिंग स्क्रीन से "Grok & Third-party collaborators" आदि में जाकर, सीखने और निजीकरण से संबंधित अनुमतियों को बंद करने की प्रक्रिया का प्रसार हुआ। NDTV Profit

हालांकि, इसमें सीमाएं हैं।

• सेटिंग्स जटिल हैं और सामान्य उपयोगकर्ताओं तक पहुंचना मुश्किल है

• मूल रूप से "संशोधित न होने का अधिकार" को "पीड़ित पक्ष के प्रयास" पर निर्भर करने की प्रवृत्ति होती है

• ऑप्ट-आउट वास्तव में कितना प्रभावी है, यह अनुभव के रूप में अस्पष्ट है

परिणामस्वरूप, "इसलिए प्रतिबंध आवश्यक है" की मजबूत मांग के साथ जुड़ जाता है।

विवाद का मुद्दा "एआई की अच्छाई या बुराई" नहीं है: सवाल "सहमति" और "डिज़ाइन जिम्मेदारी" का है

इस विवाद ने जो मुद्दा उठाया है, वह सरल है।

• दूसरों की छवियों को एआई द्वारा संशोधित करने की प्रक्रिया को कितना खोला जाए

• "व्यक्ति की सहमति" को कैसे लागू किया जाए (डिफ़ॉल्ट, सूचनाएं, अधिकार नियंत्रण)

• दुरुपयोग को ध्यान में रखते हुए, किस स्तर के गार्डरेल तैयार किए जाएं

• उल्लंघन होने पर कौन, किस गति से, कैसे राहत देगा (हटाना, निलंबन, रिपोर्टिंग, साक्ष्य संरक्षण)

जनरेटिव एआई की सुविधा और खतरे साथ-साथ चलते हैं। अगर केवल सुविधा को अधिकतम किया जाए, तो समाज "दुरुपयोग के लिए एक हाईवे" भी प्राप्त कर लेता है। इसलिए, अब जो सवाल उठ रहे हैं, वे अमूर्त "एआई नैतिकता" नहीं हैं, बल्कि अधिक ठोस उत्पाद डिज़ाइन और संचालन की जिम्मेदारी हैं।

भारत में उठी "Ban Grok" की आग ने इस बिंदु को दुनिया के सामने जोरदार तरीके से उजागर किया है—यह कहा जा सकता है। NDTV Profit