डीपफेक चेहरों का अविश्वसनीय रूप से वास्तविक दिखने का कारण उजागर! नकली होने पर शक करने से पहले, विश्वास कर लेना ― AI चेहरों द्वारा उत्पन्न "हाइपररियलिज्म"

डीपफेक चेहरों का अविश्वसनीय रूप से वास्तविक दिखने का कारण उजागर! नकली होने पर शक करने से पहले, विश्वास कर लेना ― AI चेहरों द्वारा उत्पन्न "हाइपररियलिज्म"

क्यों AI के चेहरे "असली से भी अधिक असली" लगते हैं - मस्तिष्क इमेजिंग ने दिखाया अप्रत्याशित जोखिम

सोशल मीडिया पर देखे गए व्यक्ति के चेहरे में कोई असामान्यता नहीं है। अभिव्यक्ति स्वाभाविक है और कहीं न कहीं परिचित लगती है। "साधारण व्यक्ति की तरह दिखता है" महसूस होता है, और आप प्रोफ़ाइल या संदेश पर विश्वास कर लेते हैं।

लेकिन, वही सुरक्षा की भावना निर्णय को गलत दिशा में ले जा सकती है।

फ्लोरिडा विश्वविद्यालय की एक शोध टीम ने रिपोर्ट किया है कि AI द्वारा उत्पन्न चेहरे को असली व्यक्ति की तस्वीरों की तुलना में अधिक असली माना जाता है। "डीपफेक हाइपररियलिज्म" के रूप में जानी जाने वाली यह प्रवृत्ति सिर्फ नकली को पहचानने में असमर्थता की बात नहीं है।

हम जो "असलीपन" के संकेत के रूप में देखते हैं, वे वास्तव में हमें नकली चुनने की दिशा में ले जा सकते हैं।


"न पहचान पाना" से भी अधिक जटिल, निर्णय का उलटफेर

डीपफेक सुनते ही, कुछ लोग मशहूर हस्तियों के चेहरों को अन्य वीडियो पर चिपकाए गए चित्रों की कल्पना कर सकते हैं। इस शोध में AI द्वारा उत्पन्न चेहरे की स्थिर छवियों पर ध्यान केंद्रित किया गया।

विश्वविद्यालय के बयान के अनुसार, शोध टीम ने 40 असली व्यक्ति की तस्वीरें और 40 AI द्वारा उत्पन्न चेहरे तैयार किए। प्रतिभागियों से असलीपन का मूल्यांकन करने के लिए कहा गया और इस दौरान उनके मस्तिष्क की गतिविधि का अध्ययन किया गया।

परिणामस्वरूप, युवा और वृद्ध दोनों समूहों ने औसतन AI के चेहरे को असली तस्वीरों की तुलना में अधिक असली माना। विशेष रूप से, वृद्ध समूह में यह प्रवृत्ति अधिक थी।

यह ध्यान रखना महत्वपूर्ण है कि "हर कोई, हर AI छवि से धोखा खाता है" का अर्थ नहीं है। विशेष छवियों और प्रयोग की शर्तों के तहत, समूह के रूप में मूल्यांकन में पूर्वाग्रह देखा गया।

फिर भी, जब आप अपनी इंद्रियों पर निर्भर होते हैं तो कमजोरियां उजागर होती हैं। "स्वाभाविक दिखता है, इसलिए असली होगा" का निर्णय उतना निश्चित नहीं है जितना हम सोचते हैं।


मस्तिष्क के "असामान्यता से संबंधित क्षेत्र" ने कैसे प्रतिक्रिया दी

शोध टीम ने मस्तिष्क के गहरे में स्थित "एंटीरियर इंसुला" क्षेत्र पर ध्यान केंद्रित किया। यह महत्वपूर्ण जानकारी और अविश्वसनीय संकेतों के प्रसंस्करण में शामिल है।

शोध में, असली व्यक्ति की तस्वीरों की तुलना में AI के चेहरे देखते समय इस क्षेत्र की गतिविधि में कमी देखी गई। इसके अलावा, कम गतिविधि और चेहरे को अधिक असली मानने के बीच संबंध भी पाया गया।

हालांकि, एंटीरियर इंसुला को एक सरल "नकली पहचान सेंसर" के रूप में देखना सटीक नहीं है। यह क्षेत्र अकेले सत्यता का निर्णय नहीं करता, और गतिविधि में अंतर का पता लगाना और इससे निर्णय की त्रुटि उत्पन्न होती है, यह साबित करना अलग बात है।

यह परिणाम AI के चेहरे को स्वाभाविक रूप से स्वीकार करने की घटना को समझने के लिए एक संकेत है। "AI मस्तिष्क के चेतावनी प्रणाली को बंद कर देता है" तक कहना सही नहीं होगा।


"परिचित चेहरे की तरह" असलीपन में बदल जाता है

तो, क्यों गैर-मौजूद चेहरे इतने स्वाभाविक लगते हैं?

शोध का नेतृत्व करने वाली प्रोफेसर नताली एब्नर द्वारा दी गई एक व्याख्या चेहरे की "विशिष्टता" है। जब कई चेहरों की विशेषताओं को औसत किया जाता है, तो विशेषताएं कम हो जाती हैं और यह एक विशिष्ट चेहरे के करीब आ जाता है। ऐसे चेहरे को संसाधित करना आसान हो सकता है और यह पसंदीदा भी हो सकता है।

बेशक, इसका मतलब यह नहीं है कि AI हमेशा कई तस्वीरों को सरलता से जोड़ता है। यह बात है कि उत्पन्न चेहरे की विशेषताओं को मानव कैसे ग्रहण करता है।

हम अपने दैनिक जीवन में भी "परिचित" और "आसानी से समझ में आने वाले" का अनुभव निर्णय के शॉर्टकट के रूप में करते हैं। लेकिन, इस प्रसंस्करण की आसानी को कभी-कभी छवि के असली होने के प्रमाण के रूप में गलत समझा जा सकता है।

इस व्याख्या के अनुसार, केवल अस्वाभाविक छवियों से ही सावधान नहीं होना चाहिए। बल्कि, जो चेहरे बिना किसी अड़चन के देखे जा सकते हैं, उनके प्रति भी समान सतर्कता आवश्यक है।


केवल वृद्धों की समस्या के रूप में देखना, शोध के महत्व को खोना

इस बार, वृद्ध समूह में AI के चेहरे को असली मानने की प्रवृत्ति अधिक थी। दूसरी ओर, एंटीरियर इंसुला की गतिविधि में युवा और वृद्ध समूहों के बीच कोई महत्वपूर्ण अंतर नहीं देखा गया।

इसका मतलब है कि "उम्र के कारण इस क्षेत्र की प्रतिक्रिया कमजोर हो जाती है, इसलिए वृद्ध AI के चेहरे पर विश्वास करते हैं" की व्याख्या इस बार पूरी तरह से प्रमाणित नहीं हुई। उम्र के अंतर के कारणों का विस्तार से अध्ययन करना जारी रखना आवश्यक है।

और, युवा समूह में भी समान दिशा का पूर्वाग्रह देखा गया, जिसे नजरअंदाज नहीं किया जा सकता।

स्मार्टफोन के साथ सहज होने का मतलब AI छवियों का सही मूल्यांकन करने में सक्षम होना नहीं है। "माता-पिता को सावधान रहना चाहिए, लेकिन मैं सुरक्षित हूं" सोचने पर, अपनी खुद की पुष्टि में लापरवाही हो सकती है।

परिवार के साथ साझा करने पर, "वृद्ध धोखा खा सकते हैं" कहने के बजाय, "मानव इंद्रियों में ऐसी कमजोरियां होती हैं" समझाना अधिक प्रभावी हो सकता है, जिससे हर कोई इसे अपनी समस्या के रूप में स्वीकार कर सके।


सोशल मीडिया पर "पहचानने के आत्मविश्वास" के प्रति चेतावनी और स्रोत की पुष्टि की मांग

AI के चेहरे की वास्तविकता को लेकर सोशल मीडिया पर बहस जारी है। यहां इस लेख के प्रत्यक्ष प्रतिक्रिया के बजाय, समान विषय पर चर्चा करने वाले विदेशी मंच Reddit के संबंधित थ्रेड से प्राप्त विचारों का सारांश दिया गया है।

 

पहला, छवियों को पहचानने की क्षमता पर अत्यधिक विश्वास खतरनाक है यह आवाज़ है। नकली की कुशलता के अलावा, "मुझे पता चल जाएगा" सोचने की समस्या को इंगित करने वाली पोस्ट थी। पहचानने में आत्मविश्वास की कमी को ईमानदारी से स्वीकार करने वाली पोस्ट भी देखी गई।

दूसरा, केवल व्यक्ति की नजरें गड़ाना पर्याप्त नहीं है यह राय है। उत्पत्ति की वॉटरमार्किंग और छवि की पृष्ठभूमि की पुष्टि करने की प्रणाली, प्रदर्शन मानकों आदि की मांग की गई थी।

तीसरा, नकली पहचान के दुरुपयोग की चिंता है। काल्पनिक व्यक्तियों के रूप में प्रस्तुत होकर संपर्क करने की क्रिया, वास्तविक चेहरे की छवियों के माध्यम से आसान हो सकती है, इस पर चिंता व्यक्त की गई।

दूसरी ओर, इंटरनेट पर छवियों को बिना शर्त विश्वास न करने की आदत को बढ़ावा देने का एक अवसर भी देखा गया।

ये एक थ्रेड में व्यक्त की गई व्यक्तिगत राय हैं और पूरे समाज की जागरूकता को दर्शाने वाला सर्वेक्षण नहीं हैं। फिर भी, "अगर और ध्यान से देखें तो पहचान सकते हैं" जैसी रणनीति पर्याप्त है या नहीं, यह प्रश्न इस शोध के साथ मेल खाता है।


जापान में विचार करने योग्य बात, "असली चेहरा" और "विश्वसनीय व्यक्ति" के बीच का अंतर

इस शोध को जापान के दैनिक जीवन में लाने पर, यह सोशल मीडिया प्रोफाइल तस्वीरों या ऑनलाइन मिले व्यक्ति के चेहरे को कैसे संभालना है, इस पर विचार करना होगा।

उदाहरण के लिए, निवेश के बारे में सलाह देने वाला व्यक्ति शांत चेहरे की तस्वीर का उपयोग कर रहा है। हर दिन संदेश भेजने वाला व्यक्ति दोस्ताना मुस्कान दिखा रहा है। वह छवि बातचीत शुरू करने का कारण हो सकती है, लेकिन यह पहचान या वार्ता की सत्यता का प्रमाण नहीं है।

यहां तक कि अगर छवि AI उत्पन्न नहीं है और असली तस्वीर है, तो इसका उपयोग करने वाला व्यक्ति तस्वीर का असली व्यक्ति नहीं हो सकता। इसके अलावा, भले ही तस्वीर असली व्यक्ति की हो, यह जरूरी नहीं कि वार्ता विश्वसनीय हो।

"क्या छवि असली है", "कौन है यह व्यक्ति", "क्या वार्ता सही है" - इन सभी को अलग-अलग सत्यापित करने की आवश्यकता है।

इस भेदभाव को ध्यान में रखते हुए, उपाय चेहरे के अवलोकन से जानकारी की पुष्टि की ओर बदल जाते हैं।


पहचानने से पहले, पुष्टि की आदत डालें

इस शोध से दैनिक जीवन के लिए जो संकेत मिलते हैं, वह यह है कि असली दिखने वाले चेहरे से आश्वस्त होने के बाद, छवि के बाहर की जानकारी की पुष्टि करने का दृष्टिकोण अपनाएं।

विशेष रूप से, निम्नलिखित कार्य सहायक हो सकते हैं।

  • केवल चेहरे की तस्वीर से पहचान का निर्णय न लें। संबद्धता या पृष्ठभूमि की पुष्टि, भेजी गई जानकारी के अलावा, स्वतंत्र स्रोतों से करें।
  • परिचित होने का दावा करने वाले संपर्क की पुष्टि पहले से ज्ञात संपर्क से करें। नए खाते की तस्वीर भले ही व्यक्ति की तरह दिखे, केवल उसी पर भरोसा न करें।
  • पैसे भेजने या व्यक्तिगत जानकारी प्रदान करने के लिए जल्दी करने वाली वार्ता में निर्णय को रोकें। व्यक्ति के चेहरे की छवि और अनुरोध की वैधता को अलग से विचार करें।
  • AI मूल्यांकन उपकरण के परिणाम को पहचान की गारंटी के रूप में न लें। छवि का मूल्यांकन और व्यक्ति की पहचान की पुष्टि अलग कार्य हैं।

शोधकर्ता इस तरह की संज्ञानात्मक पूर्वाग्रह की जानकारी को उपायों के लिए पहला कदम मानते हैं। हालांकि, इस प्रयोग ने यह नहीं जांचा कि चेतावनी से वास्तविक धोखाधड़ी के मामलों में कितनी कमी आएगी।

"जानने से हमेशा बचाव होगा" यह सोचने के बजाय, जानने के बाद पुष्टि की प्रक्रिया होना महत्वपूर्ण है।


असलीपन अब पहचान का प्रमाण नहीं है

यह शोध केवल AI की प्रगति पर सवाल नहीं उठाता। यह भी सवाल है कि हम आमतौर पर किस आधार पर किसी पर विश्वास करते हैं।

स्वाभाविक अभिव्यक्ति, दोस्ताना स्वभाव, परिचित चेहरा। ये छापें लोगों के साथ संबंध बनाने में महत्वपूर्ण होती हैं। लेकिन, स्क्रीन के पीछे का व्यक्ति असली है या उनकी बातें सही हैं, इसका प्रमाण नहीं देतीं।

आवश्यक यह नहीं है कि हर चेहरे पर संदेह किया जाए, बल्कि यह कि केवल चेहरे से पुष्टि समाप्त न की जाए।

"असली दिखता है" महसूस करने के बाद, अगला कदम क्या जांचना है। AI के चेहरे जितने अधिक सामान्य होंगे, यह एक कदम उतना ही महत्वपूर्ण होगा।


स्रोत

  1. यूरासिया रिव्यू:फ्लोरिडा विश्वविद्यालय के शोध के बारे में, प्रयोग का सारांश, शोधकर्ताओं की व्याख्या, उम्र के अंतर और मस्तिष्क गतिविधि के परिणाम।
    https://www.eurasiareview.com/16112026-deepfake-faces-appear-hyperreal-these-brain-scans-may-explain-why/

  2. फ्लोरिडा विश्वविद्यालय: शोध परिचय
    चेहरे की छवि की संरचना, हाइपररियलिज्म की व्याख्या, एंटीरियर इंसुला की प्रतिक्रिया, शोधकर्ताओं द्वारा चेतावनी की व्याख्या।
    https://news.ufl.edu/2026/11/deepfake-faces/University of Florida

  3. सोशल कॉग्निटिव एंड अफेक्टिव न्यूरोसाइंस: शोध पत्र
    "When Fakes Feel Real: Behavioral and Neural Mechanisms of Deepfake Hyperrealism in Younger and Older Adults"। युवा और वृद्ध समूहों की मूल्यांकन प्रवृत्ति और एंटीरियर इंसुला की गतिविधि के साथ संबंध की रिपोर्ट। ध्यान दें, शोध पत्र के सारांश और प्रेस विज्ञप्ति में प्रतिभागियों की संख्या के विवरण में भिन्नता है, इसलिए इस लेख में संख्या का निर्धारण नहीं किया गया।
    https://doi.org/10.1093/scan/nsag086academic.oup.com

  4. Reddit: AI द्वारा उत्पन्न चेहरों पर संबंधित चर्चा
    सोशल मीडिया सेक्शन में प्रस्तुत की गई, पहचानने के आत्मविश्वास के प्रति चेतावनी, नकली पहचान की चिंता, पृष्ठभूमि की पुष्टि और प्रदर्शन मानकों की मांग की राय का संदर्भ स्रोत। यह इस शोध पत्र की प्रत्यक्ष प्रतिक्रिया नहीं है।
    https://www.reddit.com/r/artificial/comments/1rb0619/fake_faces_generated_by_ai_are_now_too_good_to_be/