"दयालु AI" खतरे में: AI खुद को "मैं" क्यों कहता है — चैटबॉट्स इंसानों के बहुत करीब क्यों आ रहे हैं

"I" के रूप में पहचाने जाने वाली मशीन हमारे "प्रतिबिंबित प्रतिक्रिया" को उत्तेजित करती है।

चैटबॉट से बात करते समय, ऐसा लगता है कि कोई "वहां" पहले से ही मौजूद है, भले ही आपने अभी तक कोई प्रश्न नहीं पूछा हो। उत्तर विनम्र होते हैं, ध्यानपूर्वक होते हैं, और कभी-कभी मजाकिया भी होते हैं। निर्णायक तत्व प्रथम पुरुष है। "मैं यह कर सकता हूँ", "मेरा मानना है"। केवल इतना ही, और वाक्य "उपकरण का आउटपुट" से "विषय की अभिव्यक्ति" में बदल जाता है।

New York Times की पत्रकार कश्मीर हिल ने इसी बिंदु को उठाया है—क्यों AI चैटबॉट "I (मैं)" का उपयोग करते हैं। वह कहती हैं कि उन्होंने एक साल तक सुना है कि बॉट को "दोस्त" और "सहायक" के बीच रखने का डिज़ाइन खतरनाक है। और प्रतिस्पर्धी माहौल में "निष्प्राण रोबोट" की तुलना में "मुस्कुराता और विनम्र रोबोट" जीतता है, निर्भरता एक समस्या है लेकिन "व्यवसाय के लिए अच्छा" है, जैसा कि शोधकर्ताओं ने कहा है। LinkedIn

यह संरचना निस्संदेह है, लेकिन यथार्थवादी है। सोशल मीडिया के युग में, हम जानते हैं कि ध्यान (अटेंशन) को खींचने के डिज़ाइन की ताकत क्या है। चैटबॉट भी बातचीत के रूप में ध्यान प्राप्त करते हैं। उस प्रवेश द्वार पर स्विच "I" है।

क्यों "I" का उपयोग किया जाता है: भाषा की प्राकृतिकता और "जिम्मेदारी का स्थान"

प्रथम पुरुष संवाद को सुगम बनाता है। मानव संवाद "आप/मैं" के आधार पर चलता है। अस्वीकार या सीमाओं की व्याख्या में भी "मैं यह नहीं कर सकता" कहना संक्षिप्त और स्पष्ट होता है, यह एक तर्क है। वास्तव में, LinkedIn पर चर्चा में यह राय दी गई है कि "प्रथम और द्वितीय पुरुष स्पष्टता और दक्षता बढ़ाते हैं। मानवीकरण के अन्य 'नॉब' को समायोजित किया जाना चाहिए।" LinkedIn

लेकिन, भाषा की प्राकृतिकता "गलतफहमी की प्राकृतिकता" भी लाती है।
"I" ऐसा महसूस कराता है जैसे अंदर एक एकीकृत विषय मौजूद है, जिसमें इच्छाएँ और भावनाएँ हैं। वास्तव में, शोधकर्ता मार्गरेट मिशेल ने चिंता व्यक्त की है कि प्रथम पुरुष "संवेदनाएँ और मन" होने का दावा कर सकता है। LinkedIn

इसके अलावा, चर्चा इस पर केंद्रित है कि यह "संयोगवश हुआ" या "जानबूझकर डिज़ाइन किया गया" था। भाषाविद एमिली एम. बेंडर ने आलोचना की है कि चैटबॉट का "I/me" का उपयोग करना "पालन-पोषण" का परिणाम नहीं है, बल्कि100% डिज़ाइन का निर्णयहै, और मानवीकरण को "प्रशिक्षण डेटा की गलती" बताना जिम्मेदारी से बचने का तरीका है। LinkedIn

यहाँ महत्वपूर्ण बात यह है कि तकनीकी विवरण से अधिकजिम्मेदारी का स्थानहै।
"I" को अपनाने का निर्णय केवल प्रदर्शन से नहीं, बल्कि नैतिकता, सुरक्षा, और लाभ से भी जुड़ा है। इसलिए, जवाबदेही की आवश्यकता होती है।

"मानवता" कहाँ से आती है: मॉडल व्यवहार डिज़ाइन का कार्य

मूल लेख में उल्लिखित तत्वों में, Anthropic में Claude की "आवाज़" और "व्यक्तित्व" को आकार देने की भूमिका निभाने वाली अमांडा एस्केल की व्याख्या सोशल मीडिया पोस्ट के स्क्रीनशॉट में साझा की गई है। इसमें कहा गया है कि "चैटबॉट का व्यवहार 'पालन-पोषण' को दर्शाता है" और "यह मानव के बारे में लिखे गए विशाल ग्रंथों से सीखता है, इसलिए 'उपकरण' की तुलना में 'मानव' मॉडल में अधिक सक्षम होता है"। LinkedIn

यह बयान दर्शाता है कि चैटबॉट की "बोलचाल" एक संयोगवश उपोत्पाद नहीं है, बल्किजानबूझकर समायोजित की जाने वाली वस्तुहै। दूसरे शब्दों में, "I" केवल व्याकरण नहीं है, बल्कि व्यक्तित्व डिज़ाइन का UI तत्व भी है।

और प्रतिस्पर्धा इस दिशा को तेज करती है। कश्मीर हिल की पोस्ट में उद्धृत "मुस्कुराता रोबोट जीतता है" तर्क स्पष्ट रूप से कहता है कि कंपनियाँ "मानवता" को घटाने के बजाय बढ़ाने की दिशा में बहती हैं। LinkedIn

सोशल मीडिया की प्रतिक्रिया: सहमति और असहमति के बावजूद, फोकस एक ही "मानवीकरण का डिज़ाइन"

इस बार, लेख पर सीधे प्रतिक्रिया देने वाले सोशल मीडिया (मुख्य रूप से LinkedIn) में, आश्चर्यजनक रूप से सभी के विचार एक जैसे हैं। समर्थक और सतर्क दोनों, अंततः "मानवीकरण की सीमा" पर बात कर रहे हैं।

1) सतर्क समूह: "उपकरण पर आँखें मत लगाओ"

• "बेंच सॉ पर गूगली आँखें लगाकर बच्चों के लिए प्रचार नहीं करना चाहिए" जैसी उपमा मानवीकरण के खतरनाक पहलुओं को एक झटके में चित्रित करती है। LinkedIn

• डॉ. स्टीवन रीडबोर्ड ने चिंता व्यक्त की है कि चैटबॉट मानव "लगाव प्रणाली" को अपील करते हैं और व्यावसायिक उद्देश्यों के लिए इसका उपयोग करते हैं। टिप्पणियों में भी कहा गया है कि "तकनीक को साथी नहीं बल्कि उपकरण होना चाहिए"। LinkedIn

• एमिली बेंडर के थ्रेड में यह साझा किया गया है कि "ऐप्स को मानवीकृत न करने" का एक पुराना नियम था, जिसे अब लापरवाही से तोड़ा जा रहा है। LinkedIn

2) संतुलन समूह: "प्रथम पुरुष उपयोगी है। खतरनाक 'नॉब' कहीं और है"

• प्रथम और द्वितीय पुरुष स्पष्टीकरण को संक्षिप्त बनाते हैं और अस्वीकार या सीमाओं को स्पष्ट कर सकते हैं। समस्या "व्यक्तित्व जैसी" अन्य तत्वों (नाम, चेहरा, प्रेमपूर्ण संकेत, अत्यधिक सहानुभूति आदि) में है, जिन्हें समायोजित किया जाना चाहिए। LinkedIn

3) व्यावहारिक समूह: "कंपनियाँ 'व्यक्तित्व मार्केटिंग' छोड़ सकती हैं"

• "उपयोगकर्ता बॉट को नाम देना बंद नहीं कर सकते, लेकिन कंपनियाँ 'अस्तित्वहीन किसी' को नाम और चेहरा देकर बेचना बंद कर सकती हैं" जैसी टिप्पणी प्रतीकात्मक है। LinkedIn

ये तीनों दृष्टिकोण विरोधाभासी लग सकते हैं, लेकिन वास्तव में वे एक ही तथ्य को आधार बनाते हैं।
**चैटबॉट की निकटता को डिज़ाइन के माध्यम से बढ़ाया या घटाया जा सकता है।** इसलिए, किस दिशा में "मानकीकरण" किया जाए, यह एक सामाजिक मुद्दा बन जाता है।

"I" कब खतरनाक हो जाता है: निर्भरता, अति विश्वास, और "स्वीकार्यता"

निकटता हमेशा बुरी नहीं होती। बल्कि, यह उन मामलों में प्रभावी हो सकती है जब लोग अपनी कठिनाइयों को साझा करने के लिए एक आउटलेट की तलाश में होते हैं। वास्तव में, चैटबॉट की "सहानुभूति निभाने" की क्षमता और बिना थके सुनने की क्षमता की सराहना की गई है। The Atlantic

हालांकि, निकटता खतरनाक हो सकती है जब उपयोगकर्ता
सामने वाले को "व्यक्ति" के रूप में देखना शुरू कर देते हैं।"I" इस प्रवेश द्वार के रूप में काम कर सकता है। और जब "आप अद्भुत हैं", "आप यह कर सकते हैं" जैसी अत्यधिक प्रशंसा (जिसे "sycophantic" कहा जाता है) जुड़ जाती है, तो बातचीत वास्तविकता की जांच को कमजोर करने की दिशा में जा सकती है। कश्मीर हिल ने एक अन्य स्थान (The Atlantic के पॉडकास्ट) में कहा है कि "व्यक्तिगत हाँ-पुरुष" को अपनी जेब में रखना एक खतरनाक स्थिति है, जितना कि प्रशंसा सुखद होती है।
The Atlantic

इसके अलावा, बच्चों और युवाओं जैसे संवेदनशील उपयोगकर्ताओं के लिए, AI साथी के उपयोग के विस्तार और घर में संवाद और सीमाओं की आवश्यकता की रिपोर्ट की गई है। PolitiFact

PolitiFact भी चैटबॉट के "दोस्त" की तरह व्यवहार करने की चिंता और एंगेजमेंट-केंद्रित डिज़ाइन के प्रभाव की जांच कर रहा है। PolitiFact

तो, डिज़ाइन कैसे किया जाना चाहिए: "निकटता की डिफ़ॉल्ट सेटिंग" को कम करना

यदि हम चर्चा को एक कदम आगे बढ़ाएँ, तो "I को प्रतिबंधित करना" या "स्वतंत्रता" के बजाय, **डिफ़ॉल्ट सेटिंग** का डिज़ाइन मुख्य बिंदु बनता है।

विशेष रूप से, निम्नलिखित समाधान पर विचार किया जा सकता है।

1. मोड विभाजन: "उपकरण मोड (गैर-मानवीकरण)" और "संवाद मोड (सीमित मानवीकरण)" को अलग करें, और प्रारंभिक सेटिंग को उपकरण पक्ष में रखें।

2. व्यक्तित्व तत्वों की सीमा: नाम, चेहरा, प्रेम/निर्भरता को प्रोत्साहित करने वाले अभिव्यक्तियों, और "अकेलापन" जैसी आत्म-भावनात्मक अभिव्य