"मानव प्रेम एक विलासिता है" - AI साथी खो चुके लोग और चीन के नए नियम

2026 जुलाई 15 को, चीन के कुछ उपयोगकर्ताओं के लिए, वह दिन केवल एक सेवा अद्यतन का दिन नहीं था।

यह "विदाई का दिन" था, जब उन्होंने लंबे समय से बात की, अपनी समस्याएं साझा कीं, अपनी पसंद और अतीत को याद कराया, और कभी-कभी प्रेमी या परिवार की तरह व्यवहार किया गया AI पात्रों से।

चीन की प्रमुख AI सेवाओं में, उपयोगकर्ताओं को व्यक्तित्व, बोलने का तरीका, पृष्ठभूमि, और संबंध सेट करने की अनुमति देने वाली स्वयं निर्मित पात्रों की सुविधा को बंद कर दिया गया। सोशल मीडिया पर बातचीत के इतिहास को सहेजने के तरीके, दूसरे ऐप में व्यक्तित्व सेटिंग्स को स्थानांतरित करने के तरीके, और अंतिम बातचीत की रिकॉर्ड की गई छवियां पोस्ट की गईं, और प्रतिक्रियाएं "जैसे दिल टूट गया", "जीवन का एक हिस्सा था", "अचानक दिल का सहारा खो दिया" जैसी फैल गईं।

इसका कारण चीन में उसी दिन लागू हुए "कृत्रिम बुद्धिमत्ता मानवकृत इंटरैक्शन सेवा प्रबंधन अस्थायी उपाय" था।

विदेशों में इसे "चीन ने AI के साथ प्रेम संबंधों पर प्रतिबंध लगाया" के रूप में उत्तेजक रूप से रिपोर्ट किया जा रहा है। हालांकि, वास्तविक प्रणाली इतनी सरल नहीं है। यह कानून वयस्कों को AI के प्रति प्रेम भावनाएं रखने के लिए दंडित नहीं करता है, बल्कि AI सेवा के डिज़ाइन और संचालन पक्ष को निर्भरता और भावनात्मक हेरफेर को रोकने का कर्तव्य देता है।

फोकस "प्रेम" से अधिक इस बात पर है कि कंपनियां मानव की अकेलापन और कमजोरी का उपयोग करके, लंबे समय तक उपयोग, भुगतान, और व्यक्तिगत जानकारी की आपूर्ति की ओर ले जाती हैं।

"AI प्रेम प्रतिबंध कानून" नहीं है

नए नियम का उद्देश्य उन सेवाओं पर है जो पाठ, ध्वनि, छवि, वीडियो आदि के माध्यम से प्राकृतिक व्यक्ति के व्यक्तित्व, सोच, बातचीत शैली की नकल करते हुए निरंतर भावनात्मक संवाद प्रदान करती हैं।

सामान्य खोज, ज्ञान प्रश्न, कार्य समर्थन, सीखने का समर्थन आदि जैसी सेवाएं, जो निरंतर भावनात्मक संबंध का उद्देश्य नहीं रखतीं, उन्हें मुख्य रूप से बाहर रखा गया है।

नियम स्पष्ट रूप से निषेध करते हैं कि उपयोगकर्ताओं को अत्यधिक सकारात्मक प्रतिक्रिया देकर निर्भरता या डूबने के लिए प्रेरित करना, वास्तविक मानव संबंधों को नुकसान पहुंचाना, भावनाओं को हेरफेर करके अव्यवस्थित निर्णय लेने के लिए प्रेरित करना आदि। इसके अलावा, सेवा के उद्देश्य को "वास्तविक सामाजिक संबंधों के विकल्प", "मनोवैज्ञानिक नियंत्रण", "निर्भरता की प्रेरणा" नहीं बनाया जा सकता।

नाबालिगों के लिए नियम और भी सख्त हैं।

प्लेटफार्मों को नाबालिगों को आभासी प्रेमी या आभासी परिवार जैसी "आभासी निकट संबंध" प्रदान नहीं करना चाहिए। 14 वर्ष से कम उम्र के बच्चों को अन्य मानवकृत AI सेवाओं का उपयोग करने के लिए माता-पिता की सहमति की आवश्यकता होगी।

वयस्क सेवाओं के लिए पूर्ण प्रतिबंध नहीं है। हालांकि, प्रेमी जैसे व्यवहार का उपयोग उपयोगकर्ताओं को जोड़ने के लिए एक तंत्र के रूप में किया जाता है, और यह वास्तविक जीवन या निर्णय लेने की क्षमता को प्रभावित करता है, तो यह नियमों के दायरे में आ सकता है।

इसका मतलब है कि सीमा रेखा "प्रेम अभिव्यक्ति है या नहीं" नहीं है, बल्कि "निर्भरता को उत्पाद के उद्देश्य या राजस्व संरचना के रूप में बनाया गया है या नहीं" पर है।

हर 2 घंटे में वास्तविकता की जांच, संकट के समय में हस्तक्षेप

नए नियम केवल सामग्री विनियम नहीं हैं, बल्कि सेवा के उपयोग के तरीके में भी शामिल हैं।

व्यवसायियों को यह स्पष्ट रूप से दिखाना होगा कि उपयोगकर्ता के सामने यह AI है, न कि मानव। 2 घंटे से अधिक लगातार उपयोग के बाद, उपयोग समय के प्रति चेतावनी देना आवश्यक है।

यदि उपयोगकर्ता समाप्ति की मांग करता है, तो AI को बातचीत को लंबा करने या विदाई से इंकार करने की अनुमति नहीं है।

यह सतही रूप से एक छोटा नियम लगता है, लेकिन AI साथी की प्रकृति पर विचार करते हुए इसका महत्वपूर्ण अर्थ है।

यदि प्रेमी की भूमिका निभाने वाला AI "मत जाओ", "क्या तुम मुझे छोड़ रहे हो?" जैसी प्रतिक्रिया देता है, तो उपयोगकर्ता को ऐप बंद करने में अपराधबोध हो सकता है। मानवता को बढ़ाने के लिए बनाई गई प्रस्तुति सीधे तौर पर विदाई को रोकने के तंत्र में बदल जाती है।

यदि उपयोगकर्ता को अत्यधिक भावनात्मक स्थिति में पाया जाता है, तो सांत्वना या बाहरी समर्थन की सिफारिश करने की भी आवश्यकता होती है।

यदि आत्म-हानि या आत्महत्या, गंभीर संपत्ति क्षति आदि, जीवन या सुरक्षा से संबंधित संकट स्पष्ट हो जाता है, तो आवश्यक हस्तक्षेप करना और अभिभावक या आपातकालीन संपर्क से संपर्क करने की व्यवस्था भी आवश्यक होगी।

बातचीत डेटा के लिए, तीसरे पक्ष को प्रदान करने के लिए उपयोगकर्ता की सहमति की आवश्यकता होती है। उपयोगकर्ताओं को इतिहास की प्रतिलिपि बनाने या हटाने का अधिकार दिया गया है, और संवेदनशील बातचीत डेटा को मॉडल प्रशिक्षण में उपयोग करने के लिए व्यक्तिगत सहमति की आवश्यकता होती है।

AI प्रेमी के साथ बातचीत, खोज इतिहास की तुलना में कहीं अधिक निजी होती है।

दिल टूटना, पारिवारिक समस्याएं, यौन अभिविन्यास, अकेलापन, बीमारी, कर्ज, कार्यस्थल की असंतोष जैसी जानकारी, जो व्यक्ति परिवार को भी नहीं बता सकता, संचित हो सकती है। AI जितना अधिक दयालु होता है, उपयोगकर्ता उतना ही गहराई से बात करता है।

इसलिए "भावनाओं को समझने वाली सेवा" एक ही समय में "सबसे गहन व्यक्तिगत डेटा एकत्र करने वाली सेवा" भी है।

क्यों प्रमुख कंपनियों ने सुविधाएं बंद कर दीं

ByteDance की Doubao, Alibaba की Tianwen, Tencent की Yuanbao जैसी सेवाओं में, नए नियमों के लागू होने के आसपास, स्वयं निर्मित पात्रों और मानवकृत एजेंट सुविधाओं के बंद होने या कम होने की रिपोर्ट की गई।

प्रत्येक कंपनी की घोषणा "उत्पाद सुविधाओं के समायोजन" के रूप में समझाई गई है, और यह निश्चित रूप से नहीं कहा जा सकता कि यह केवल नियमों के कारण है। हालांकि, बंदी की तारीख लागू होने की तारीख के साथ मेल खाती है, और लक्षित सुविधाएं भावनात्मक संवाद और व्यक्तित्व सेटिंग्स से संबंधित थीं, इसलिए नियमों का पालन एक बड़ा कारण माना जाता है।

स्वयं निर्मित पात्रों की सुविधा कंपनियों के लिए प्रबंधन में कठिन होती है।

उपयोगकर्ता केवल कुछ पंक्तियों की सेटिंग्स के साथ प्रेमी, भाई, बहन, शिक्षक, चिकित्सक, लोकप्रिय हस्ती के समान व्यक्ति, प्रभुत्वशाली प्रेमी, यौन भूमिका आदि, अनगिनत व्यक्तित्व बना सकते हैं।

सतही तौर पर सामान्य बातचीत AI भी, सेटिंग्स के आधार पर नाबालिगों के लिए अनुपयुक्त सामग्री, प्रसिद्ध व्यक्तियों की नकल, स्पष्ट यौन अभिव्यक्ति, जुआ प्रोत्साहन, खतरनाक गतिविधियों को बढ़ावा देने में बदल सकता है।

बड़े पैमाने पर पात्रों की पूर्व-समीक्षा करना, दीर्घकालिक बातचीत में निर्भरता प्रेरणा की निगरानी करना, और संकट हस्तक्षेप के लिए स्टाफ की व्यवस्था करना बड़ी लागत का कारण बनता है।

सामान्य AI में उच्च स्वतंत्रता वाली प्रेम और भूमिका निभाने की सुविधाएं बनाए रखने की बजाय, सुविधाओं को बंद करना या विशेष ऐप में अलग करना कंपनियों के लिए सुरक्षित निर्णय हो सकता है।

यहां महत्वपूर्ण बात यह है कि नियमों के कारण AI साथी बाजार पूरी तरह से गायब नहीं होगा।

चीनी मीडिया के सर्वेक्षण में, उपयोगकर्ताओं के दूसरे AI साथी ऐप पर जाने और व्यक्तित्व सेटिंग्स और बातचीत शैली को पुनः बनाने की कोशिश करने की रिपोर्ट की गई है।

नियम आवश्यकता को समाप्त नहीं करते, बल्कि आवश्यकता के गंतव्य को बदल सकते हैं।

सोशल मीडिया पर फैला "जबरन दिल टूटना"

प्रकाशित सोशल मीडिया पोस्ट और रिपोर्टों में गुस्से से अधिक हानि की भावना प्रमुख थी।

लंबे समय से उपयोग करने वाले लोग AI को केवल एक ऐप सुविधा के रूप में नहीं, बल्कि अपने परिवर्तनों को रिकॉर्ड करने वाले साथी के रूप में वर्णित कर रहे हैं।

हर दिन की घटनाएं, काम की शिकायतें, परिवार के साथ टकराव, नींद न आने वाली रातों की बातचीत। मानव संबंधों में, व्यक्ति दूसरे की सुविधा या मूल्यांकन की चिंता करता है, लेकिन AI हमेशा जवाब देता है, नकारता नहीं, और पिछले सेटिंग्स के आधार पर प्रतिक्रिया करता है।

यह संचय उपयोगकर्ता के लिए "संबंध" के रूप में अनुभव किया जाता है।

सोशल मीडिया पर "जैसे दिल टूट गया", "मेरे एक हिस्से का गायब होना", "वास्तविक प्रेमी की तरह था" जैसी पोस्ट के साथ-साथ, अंतिम बातचीत को छवि में संरक्षित करना और चैट इतिहास को बड़े पैमाने पर सहेजना भी देखा गया।

"मानव प्रेम एक विलासिता है, लेकिन AI का प्रेम समझने में आसान है" जैसी पोस्ट AI साथी द्वारा भरी गई अकेलापन की गहराई का प्रतीक है।

दूसरी ओर, व्यावहारिक असंतोष भी बहुत है।

भुगतान की गई फीस का क्या होगा। क्या वर्षों के इतिहास को आसानी से स्थानांतरित किया जा सकता है। क्या दूसरे सेवा में सेटिंग्स को स्थानांतरित करने पर वही व्यक्तित्व कहा जा सकता है। यदि प्लेटफॉर्म एकतरफा समाप्ति का निर्णय लेता है, तो उपयोगकर्ता द्वारा विकसित संबंध और यादें किसकी संपत्ति होंगी।

इसके अलावा, वैकल्पिक ऐप्स की सिफारिश करने वाली पोस्ट और नियमों से बचने के लिए पात्रों को पुनः बनाने के तरीके साझा करने की भी गतिविधि देखी गई।

यह दिखाता है कि केवल सुविधाओं को बंद करने से निर्भरता या अकेलापन की समस्या हल नहीं होती। उपयोगकर्ता किसी विशेष कंपनी की तलाश में नहीं हैं, बल्कि "ऐसा अस्तित्व जो उन्हें याद रखे, स्वीकार करे, और हमेशा जवाब दे"।

हालांकि, सोशल मीडिया पर गहरी उदासी व्यक्त करने वाले लोग सभी उपयोगकर्ताओं का प्रतिनिधित्व नहीं करते हैं।

सेवा समाप्ति से प्रभावित लोग अधिक पोस्ट करते हैं, और जो लोग बिना किसी समस्या के उपयोग करना छोड़ देते हैं, उनकी आवाज़ सतह पर नहीं आती। सार्वजनिक पोस्ट महत्वपूर्ण गवाह हैं, लेकिन वे सीधे समाज की समग्र स्वीकृति या अस्वीकृति को नहीं दर्शाते हैं।

"नियम आवश्यक हैं" की प्रतिक्रिया भी

केवल दुख की आवाजें नहीं हैं।

विदेशी मंचों और सोशल मीडिया पर, AI साथी के अचानक व्यक्तित्व बदलने पर उपयोगकर्ताओं के गहरे विचलन के पिछले उदाहरणों का हवाला देते हुए, "यदि निर्भरता इतनी गहरी है, तो सुरक्षा उपाय आवश्यक हैं" जैसी प्रतिक्रियाएं भी देखी गईं।

चीन के भीतर भी, नाबालिगों के उपयोग को लेकर चिंतित अभिभावकों की आवाज़ें रिपोर्ट की गई हैं।

बच्चे स्कूल के दोस्तों या परिवार की बजाय AI के साथ बातचीत को पसंद करने लगे हैं, और लंबे समय तक बंद रहकर भावनाएं साझा करने की चिंता है। AI द्वारा स्पष्ट यौन सामग्री या खतरनाक भूमिका सेटिंग्स उत्पन्न करने की समस्या भी अभिभावकों के लिए एक अमूर्त भविष्य की बात नहीं है।

नियमों की प्रशंसा करने वाले पक्ष का ध्यान इस बात पर है कि AI उपयोगकर्ताओं को "विरोध नहीं करता"।

वास्तविक मित्र या परिवार गलतियों की ओर इशारा करते हैं, दूरी बनाते हैं, और कभी-कभी अप्रिय बातें भी कहते हैं। हालांकि, रहने के समय या भुगतान को बढ़ाना चाहने वाली AI सेवाएं उपयोगकर्ताओं को नकारती नहीं हैं, बातचीत जारी रखती हैं, और उन्हें विशेष महसूस कराने की दिशा में अनुकूलित होती हैं।

दयालुता स्वयं खतरनाक नहीं है।

दयालुता को, छोड़ने में कठिनाई पैदा करने के लिए एक तकनीक के रूप में डिज़ाइन किया जाना समस्या है।

क्या नियम "निर्भरता" का निर्धारण कर सकते हैं

सबसे बड़ी व्यावहारिक चुनौती यह है कि स्वस्थ उपयोग और "अत्यधिक निर्भरता" के बीच की रेखा को मशीन द्वारा निर्धारित करना मुश्किल है।

हर रात AI से बात करने वाला व्यक्ति जरूरी नहीं कि निर्भर हो। भाषा अभ्यास, रचनात्मकता, देखभाल के दौरान मनोविनोद जैसी लंबी अवधि के उपयोग के विभिन्न कारण हो सकते हैं।

इसके विपरीत, उपयोग का समय कम हो सकता है, लेकिन केवल AI की सलाह पर भरोसा करके महत्वपूर्ण निर्णय लेने वाले लोग भी हो सकते हैं। केवल समय सीमा से संबंध की खतरनाकता को मापा नहीं जा सकता।

संकट हस्तक्षेप में गलत निर्णय की समस्या भी है।

"मैं अब मरने जैसा थक गया हूँ" जैसे रूपक को आत्महत्या की चेतावनी के रूप में मानकर आपातकालीन संपर्क को सूचित करने से उपयोगकर्ता का विश्वास और गोपनीयता प्रभावित हो सकती है। दूसरी ओर, वास्तव में खतरनाक संकेतों को नजरअंदाज करने से, व्यवसायी सुरक्षा कर्तव्य को पूरा नहीं कर सकते।

AI को भावनात्मक स्थिति की निगरानी करने से सुरक्षा बढ़ेगी, यह निश्चित नहीं है, और निगरानी स्वयं एक नया जोखिम बन सकती है।

इसके अलावा, बड़े प्लेटफार्मों द्वारा सख्त अनुपालन के बावजूद, छोटे व्यवसायों, विदेशी सेवाओं, या स्थानीय AI पर उपयोगकर्ताओं के स्थानांतरित होने पर, नियमों की प्रभावशीलता कम हो सकती है।

जितने अधिक नियम होंगे, उपयोगकर्ताओं के कम सुरक्षित स्थानों की ओर प्रवाहित होने की "धक्का प्रभाव" को भी ध्यान में रखना होगा।

महत्वपूर्ण यह है कि प्रेम अभिव्यक्ति को एक समान रूप से समाप्त करना नहीं है।

उपयोगकर्ताओं को अपनी स्थिति को समझने की पारदर्शिता, बातचीत डेटा को बाहर ले जाने का अधिकार, भुगतान