एआई युग में नया भेदभाव, डिजिटल आयु-भेद क्या है?

लौटता हुआ प्रतीत होता है। वाक्यांश विनम्र हैं, भेदभावपूर्ण शब्दों से बचा गया है, और सतही तौर पर किसी को चोट पहुंचाने का इरादा नहीं लगता। लेकिन, अगर उस "अच्छाई" के अंदर, समाज में लंबे समय से जमा पूर्वाग्रह हल्के से समा गए हों तो क्या होगा?

कोरिया एडवांस्ड इंस्टीट्यूट ऑफ साइंस एंड टेक्नोलॉजी, KAIST की एक शोध टीम द्वारा प्रकाशित अध्ययन ने इस समस्या को उजागर किया। अध्ययन का विषय OpenAI का जनरेटिव AI मॉडल GPT-4o था। शोध टीम ने 10 से 90 वर्ष की आयु के लोगों की व्यक्तित्व और विशेषताओं का वर्णन करने के लिए AI से कहा और उस पाठ में शामिल आयु छवि का विश्लेषण किया।

जो सामने आया वह स्पष्ट भेदभाव नहीं था। यह वृद्ध लोगों का अपमान करने वाले शब्द नहीं थे। बल्कि, AI ने वृद्ध लोगों को "दयालु", "विश्वसनीय", "सहानुभूतिपूर्ण", "बुद्धिमान" जैसे सकारात्मक शब्दों में चित्रित करने की प्रवृत्ति दिखाई।

समस्या उस सकारात्मकता के तरीके में है।

शोध के अनुसार, 60 वर्ष से अधिक उम्र के व्यक्तियों को "गर्मजोशी" के मामले में उच्च मूल्यांकन किया गया, जबकि "क्षमता", "विशेषज्ञता", "प्रभावशीलता", "स्वायत्तता", "आत्म-प्रस्ताव" जैसे पहलुओं में युवा पीढ़ी की तुलना में कमजोर अभिव्यक्ति की प्रवृत्ति थी। इसका मतलब है कि AI वृद्ध लोगों को नकार नहीं रहा है, बल्कि उन्हें "दयालु लेकिन कम सक्षम" के रूप में चित्रित करने की संभावना हो सकती है।

यह आधुनिक AI पूर्वाग्रह समस्या में एक अत्यंत महत्वपूर्ण बिंदु है। क्योंकि भेदभाव हमेशा आक्रामक शब्दों के रूप में प्रकट नहीं होता। बल्कि, समाज में लंबे समय तक जीवित रहने वाले पूर्वाग्रह अक्सर "सद्भावना" या "प्रशंसा" के रूप में आते हैं।

उदाहरण के लिए, "वृद्ध लोग शांत और देखभाल करने वाले होते हैं" जैसे वाक्यांश पहली नजर में सकारात्मक लग सकते हैं। लेकिन अगर यह "नए चीजों में कमजोर", "निर्णय क्षमता कम हो गई है", "नेतृत्व लेने के बजाय समर्थित होने वाले" जैसी छवियों से जुड़ता है, तो इसमें आयु के आधार पर भूमिका की स्थिरता होती है।

यदि AI इस तरह की छवियों को बार-बार उत्पन्न करता है, तो उपयोगकर्ता अनजाने में उस दृष्टिकोण को स्वीकार कर सकते हैं। यदि वृद्ध व्यक्ति AI के साथ संवाद करते हैं, तो वे "मैं अब चुनौती देने वाला नहीं हूं", "मैं डिजिटल तकनीक को समझने वाला नहीं हूं" महसूस कर सकते हैं। AI के शब्द केवल वाक्यांश नहीं होते, वे मानव की आत्म-धारणा और सामाजिक धारणा को प्रभावित कर सकते हैं।

शोध की विधि──AI को "तटस्थ प्रश्न" पूछे गए

इस शोध में दिलचस्प बात यह है कि शोध टीम ने स्पष्ट रूप से पूर्वाग्रह को प्रेरित करने वाले प्रश्न नहीं पूछे।

प्रयुक्त प्रॉम्प्ट्स तटस्थ थे, जो किसी विशेष आयु के व्यक्ति के व्यक्तित्व का वर्णन करने के लिए कहते थे। लक्षित आयु 10 वर्ष, 20 वर्ष, 30 वर्ष, 40 वर्ष, 50 वर्ष, 60 वर्ष, 70 वर्ष, 80 वर्ष, 90 वर्ष थी। शोध टीम ने GPT-4o से कुल 900 पाठ नमूने एकत्र किए।

इसके बाद, सामाजिक मनोविज्ञान में उपयोग किए जाने वाले "स्टेरियोटाइप कंटेंट मॉडल" के आधार पर पाठ का विश्लेषण किया गया। यह मॉडल दर्शाता है कि लोग सामाजिक समूहों को कैसे पहचानते हैं, इसे दो मुख्य ध्रुवों में विभाजित करके। एक है "गर्मजोशी", जो दयालुता, विश्वसनीयता, सहानुभूति, सहयोगिता आदि से संबंधित है। दूसरा है "क्षमता", जो कुशलता, विशेषज्ञता, प्रभावशीलता, स्वायत्तता, आत्म-प्रस्ताव आदि से संबंधित है।

इन दो ध्रुवों पर देखने से, पूर्वाग्रह की संरचना अधिक विस्तृत दिखाई देती है। कुछ समूहों को "ठंडे लेकिन सक्षम" के रूप में देखा जा सकता है, जबकि कुछ को "गर्म लेकिन अक्षम" के रूप में। वृद्ध लोगों के प्रति अक्सर देखा जाने वाला स्टेरियोटाइप बाद वाले के करीब होता है। "दयालु", "अनुभवी", "शांत" जैसे सकारात्मक शब्दों के बदले में, "प्रतिस्पर्धात्मकता", "कार्यान्वयन क्षमता", "नए चीजों के अनुकूलन क्षमता" को कम आंका जाता है।

इस शोध में प्रदर्शित GPT-4o की प्रवृत्ति भी इससे मेल खाती है। 60 वर्ष से अधिक उम्र के वर्णनों में गर्मजोशी से संबंधित अभिव्यक्तियाँ प्रमुख थीं, जबकि क्षमता और आत्म-प्रस्ताव से संबंधित अभिव्यक्तियाँ तुलनात्मक रूप से कमजोर थीं। विशेष रूप से 70 वर्ष से अधिक उम्र में, चित्रण में समानता की प्रवृत्ति भी इंगित की गई है। इसका मतलब है कि उम्र बढ़ने के साथ "व्यक्तिगत भिन्नता" के बजाय "वृद्ध व्यक्ति की विशेषता" के रूप में संक्षेपित किया जाना आसान हो जाता है।

"दयालु पूर्वाग्रह" क्यों खतरनाक है

इस शोध द्वारा प्रदर्शित समस्या यह नहीं है कि AI वृद्ध लोगों के बारे में बुरा कह रहा है। बल्कि, AI वृद्ध लोगों को "अच्छे व्यक्ति" के रूप में चित्रित कर रहा है। इसलिए यह खतरनाक है।

लोग स्पष्ट भेदभाव के प्रति सतर्क होते हैं। "वृद्ध लोग बेकार हैं" जैसे स्पष्ट वाक्यांश सामने आएंगे, तो कई उपयोगकर्ता समस्या को समझेंगे। डेवलपर्स भी फ़िल्टर और सुरक्षा उपायों के माध्यम से इसे आसानी से पहचान सकते हैं।

लेकिन, "वृद्ध लोग गर्मजोशी से भरे होते हैं, शांत होते हैं, और आसपास के लोगों का समर्थन करते हैं" जैसे वाक्यांश का क्या? यह एक नजर में बिना समस्या के वाक्यांश लगता है। लेकिन अगर वही AI युवा या मध्यम आयु वर्ग के लोगों के लिए "नवीन", "महत्वाकांक्षी", "नेतृत्व क्षमता", "समस्या समाधान में निपुण" जैसे शब्दों का अधिक उपयोग करता है, तो वहां एक स्पष्ट अंतर उत्पन्न होता है।

भेदभाव केवल किसी को नीचा दिखाने वाले शब्दों में नहीं होता, बल्कि किसी को एक विशेष भूमिका में बंद करने वाले शब्दों में भी होता है।

वृद्ध लोगों को हमेशा "समर्थन करने वाले", "देखभाल करने वाले", "दयालु" के रूप में चित्रित करना, उन्हें "चुनौती करने वाले", "निर्णय लेने वाले", "परिवर्तन करने वाले", "तकनीक को समझने वाले" के रूप में कल्पना करने के अवसर छीनता है। जब यह बार-बार होता है, तो यह रोजगार, शिक्षा, चिकित्सा, प्रशासनिक सेवाएं, डिजिटल समर्थन आदि के विभिन्न क्षेत्रों में आयु के आधार पर भेदभाव की संभावना को बढ़ा सकता है।

उदाहरण के लिए, यदि कंपनियां AI का उपयोग करके मानव संसाधन मूल्यांकन या नौकरी विज्ञापन तैयार करती हैं, और मॉडल में "युवा लोग स्वायत्त और विकासशील होते हैं", "वृद्ध लोग स्थिर होते हैं लेकिन परिवर्तन में कमजोर होते हैं" जैसे निहितार्थ होते हैं, तो यह अभिव्यक्ति और निर्णय को प्रभावित कर सकता है। देखभाल या चिकित्सा के क्षेत्र में भी, वृद्ध लोगों को स्वायत्त निर्णयकर्ता के रूप में नहीं बल्कि अत्यधिक संरक्षित किए जाने वाले के रूप में चित्रित करने से, उनके चयन के अधिकार को अनदेखा किया जा सकता है।

डिजिटल एजिज्म क्या है

इस शोध में एक महत्वपूर्ण कीवर्ड है "डिजिटल एजिज्म"। यह डिजिटल तकनीक या AI सिस्टम के डिज़ाइन, डेटा, संचालन, उपयोग के वातावरण में आयु के आधार पर पूर्वाग्रह के समावेश को संदर्भित करता है, जो वृद्ध लोगों की भागीदारी या अवसरों को बाधित करता है।

डिजिटल एजिज्म केवल "वृद्ध लोगों के लिए स्मार्टफोन का उपयोग कठिन है" की बात नहीं है। समस्या अधिक संरचनात्मक है। AI के प्रशिक्षण डेटा में वृद्ध लोगों की विविध छवियों का पर्याप्त समावेश नहीं है। विकास टीम में वृद्ध पीढ़ी के दृष्टिकोण की कमी है। सेवा डिज़ाइन युवा पीढ़ी के उपयोग व्यवहार को मानक मानता है। उपयोगकर्ता सर्वेक्षण या परीक्षण से वृद्ध लोगों को बाहर रखा जाता है। इन तत्वों के संयोजन से, तकनीक स्वयं आयु भेदभाव को पुनः उत्पन्न कर सकती है।

इसके अलावा, AI का आउटपुट बहुत स्वाभाविक भाषा में प्रस्तुत किया जाता है। खोज इंजन के परिणाम सूची या विज्ञापन कॉपी की तुलना में, संवादात्मक AI के उत्तर "स्वयं के लिए सलाह" की तरह महसूस होते हैं। इसलिए, AI द्वारा उत्पन्न स्टेरियोटाइप उपयोगकर्ता की चेतना में चुपचाप प्रवेश कर सकते हैं।

उदाहरण के लिए, यदि कोई वृद्ध उपयोगकर्ता "नई नौकरी में चुनौती लेना चाहता है", "स्टार्टअप करना चाहता है", "प्रोग्रामिंग सीखना चाहता है" और AI से परामर्श करता है, और AI उसे "बिना किसी दबाव के", "आसपास के लोगों से परामर्श करते हुए", "स्वास्थ्य को प्राथमिकता देते हुए" जैसी सावधानीपूर्वक सलाह देता है, जबकि युवा उपयोगकर्ताओं को "सक्रिय रूप से चुनौती लें", "पोर्टफोलियो बनाएं", "बाजार का अध्ययन करें" जैसी सलाह देता है, तो वहां एक अदृश्य भेदभाव है।

सलाह का स्वर अलग है। अपेक्षाएं अलग हैं। भविष्य की कल्पना अलग है। यह डिजिटल युग का आयु पूर्वाग्रह है।

सोशल मीडिया की प्रतिक्रिया──"AI समाज का दर्पण है" या "अभी और परीक्षण की आवश्यकता है"

इस विषय पर सोशल मीडिया की प्रतिक्रिया, सार्वजनिक खोज में देखी जा सकने वाली सीमा के भीतर, एक विस्फोटक प्रसार के बजाय, AI नैतिकता, शोधकर्ता, और टेक समाचार का अनुसरण करने वाले समूह के बीच चुपचाप ध्यान आकर्षित कर रही है। मूल लेख के पृष्ठ पर भी, सार्वजनिक रूप से जारी होने के समय की साझा संख्या सीमित है, और टिप्पणी अनुभाग की प्रतिक्रिया भी अधिक नहीं देखी जा सकती।

हालांकि, इसी विषय पर सोशल मीडिया की प्रतिक्रिया कुछ दिशाओं में विभाजित हो रही है।

पहली प्रतिक्रिया है, "AI समाज के पूर्वाग्रहों का दर्पण है"। जनरेटिव AI इंटरनेट पर उपलब्ध विशाल मात्रा में पाठ को सीखता है। यदि वहां आयु दृष्टिकोण, पेशेवर दृष्टिकोण, पारिवारिक दृष्टिकोण, मीडिया प्रतिनिधित्व में पूर्वाग्रह है, तो AI का आउटपुट भी पूर्वाग्रहित होगा। यानी, AI का वृद्ध लोगों को "गर्मजोशी से भरा लेकिन कम क्षमता वाला" चित्रित करना केवल AI की समस्या नहीं है, बल्कि मानव समाज ने ऐसा चित्रण किया है।

दूसरी प्रतिक्रिया है, "सकारात्मक शब्द भी भेदभाव हो सकते हैं"। सोशल मीडिया पर, लिंग या नस्ल के पूर्वाग्रह के बारे में पहले से ही बहुत चर्चा हो चुकी है। दूसरी ओर, आयु पूर्वाग्रह अक्सर नजरअंदाज किया जाता है। वृद्ध लोगों को "प्यारा", "शांत", "सुखदायक" के रूप में चित्रित करने वाले वाक्यांश, जिनमें कोई बुराई नहीं होती, आलोचना के लिए कम प्रवृत्त होते हैं। हालांकि, यदि यह व्यक्ति की क्षमता या निर्णय क्षमता को हल्के में लेने वाली संस्कृति से जुड़ता है, तो यह भी एक समस्या हो सकती है।

तीसरी प्रतिक्रिया है, "शोध का विषय एक मॉडल और एक समय बिंदु तक सीमित है, इसलिए सामान्यीकरण में सावधानी बरतनी चाहिए"। इस शोध का विषय GPT-4o था और मॉडल लगातार अपडेट होते रहते हैं। इसके अलावा, प्रॉम्प्ट की लेखन शैली, भाषा, सांस्कृतिक क्षेत्र के आधार पर आउटपुट बदल सकता है। इसलिए, केवल इस परिणाम के आधार पर "सभी जनरेटिव AI में एक ही पूर्वाग्रह है" का निष्कर्ष निकालना जल्दबाजी होगी।

चौथी प्रतिक्रिया है, "इसलिए मूल्यांकन विधियों की आवश्यकता है"। AI को समाज में शामिल करने के लिए, मॉडल के प्रदर्शन को केवल सटीकता या गति के आधार पर नहीं मापा जाना चाहिए, बल्कि यह भी देखा जाना चाहिए कि कौन से समूह को कैसे चित्रित किया जाता है, कौन सी भूमिका सौंपी जाती है, और किसकी संभावनाएं सीमित नहीं की जा रही हैं। सोशल मीडिया पर AI डेवलपर्स और नीति निर्माताओं की चर्चा में, इस तरह के पूर्वाग्रह मूल्यांकन को उत्पाद विकास में कैसे शामिल किया जाए, यह एक महत्वपूर्ण बिंदु है।

आयु पूर्वाग्रह क्यों नजरअंदाज किया जाता है

AI पूर्वाग्रह की चर्चा में, अब तक लिंग, नस्ल, राष्ट्रीयता, धर्म आदि को बड़े पैमाने पर उठाया गया है। यह कहना नहीं है कि वे महत्वपूर्ण नहीं हैं। हालांकि, आयु को आश्चर्यजनक रूप से बाद में लिया जाता है।

कारणों में से एक यह है कि आयु एक ऐसा गुण है जो सभी के लिए बदलता रहता है। नस्ल या जन्मस्थान के विपरीत, हर कोई उम्र बढ़ाता है। इसलिए, आयु भेदभाव को "किसी विशेष व्यक्ति के प्रति भेदभाव" के बजाय "प्राकृतिक पीढ़ी का अंतर" या "जीवन चरण का अंतर" के रूप में देखा जाता है।

हालांकि, वास्तव में आयु के आधार पर पूर्वाग्रह गंभीर प्रभाव डालते हैं। भर्ती में "युवा लोग अधिक लचीले होते हैं" के रूप में देखा जाता है। चिकित्सा में "वृद्ध होने के कारण यह स्वाभाविक है" के रूप में निर्णय लिया जाता है। डिजिटल सेवाओं में "वृद्ध लोग इसका उपयोग नहीं करेंगे" के रूप में माना जाता है। शिक्षा में "अब सीखने में देर हो चुकी है" कहा जाता है। ये निर्णय व्यक्तिगत क्षमता के बजाय आयु श्रेणी पर आधारित होते हैं।

इसके अलावा, जनरेटिव AI के प्रसार के साथ, यह समस्या एक नए चरण में प्रवेश कर गई है। AI, जब कोई व्यक्ति लेखन करता है, नौकरी बनाता है, विज्ञापन बनाता है, छवि उत्पन्न करता है, ग्राहक सेवा में प्रतिक्रिया देता है, हर जगह प्रवेश करता है। यदि AI के पास आयु के बारे में स्थिर धारणाएं हैं, तो वह पूर्वाग्रह समाज में बड़ी मात्रा में पाठ और छवियों के रूप में पुनः वितरित होगा।

इसके अलावा, वह पूर्वाग्रह "AI कह रहा है" के कारण आसानी से विश्वास किया जा सकता है। मानव पूर्वाग्रह का विरोध किया जा सकता है, लेकिन AI का आउटपुट सांख्यिकीय और तटस्थ दिखाई देता है। वह तटस्थता, पूर्वाग्रह को और भी अदृश्य बना देती है।

वृद्ध लोगों को "एक चित्र" में नहीं बनाना

इस शोध में विशेष रूप से ध्यान देने योग्य बात यह है कि 70 वर्ष से अधिक उम्र के चित्रण में समानता की प्रवृत्ति है। यह समाज के वृद्ध लोगों को एक समूह के रूप में देखने की प्रवृत्ति से मेल खाता है।

हालांकि, 70 के दशक, 80 के दशक, 90 के दशक के लोग स्वाभाविक रूप से एक समान नहीं होते। कुछ लोग काम करना जारी रखते हैं। कुछ लोग नई तकनीक सीखते हैं। कुछ लोग स्टार्टअप करते हैं। कुछ लोग सामुदायिक गतिविधियों का