एआई विनियमन का अंधा पक्ष: एआई द्वारा कुछ सेकंड में लिखे गए दस्तावेज़ों की जांच करने में कौन हफ्तों लगाएगा?

एआई विनियमन का अंधा पक्ष: एआई द्वारा कुछ सेकंड में लिखे गए दस्तावेज़ों की जांच करने में कौन हफ्तों लगाएगा?

194 में से 50 उद्धरण दावे का समर्थन करते हैं

सम्मेलन सामग्री में कहा गया है कि "घरेलू कंपनियों में से 70% ने इसे अपनाया है"। फुटनोट पर क्लिक करने पर, वास्तव में एक सर्वेक्षण रिपोर्ट खुल गई। हालांकि, जब मूल प्रश्न पढ़ा गया, तो यह पूछा गया था कि "क्या आप इसे अपनाने पर विचार कर रहे हैं?" "70%" की संख्या और सर्वेक्षण का नाम सही था। फिर भी, यदि इस वाक्य को सीधे सम्मेलन में उपयोग किया जाता है, तो यह विचाराधीन कंपनियों को भी अपनाने वालों में गिन लेगा।

AI द्वारा लिखे गए लेख के स्रोत की पुष्टि करना, इस तरह के क्रियाओं के अंतर को पढ़ने जैसा है। इस प्रयास को वास्तव में भारत के अनुसंधान संस्थान "Oryx Centre for Strategic Futures" की स्थापना करने वाले अमर्त्य कुमार और सह-संस्थापक रिया नलवा ने उठाया।

कुमार ने 18 नवंबर 2026 को ऑस्ट्रेलियाई पत्रिका 'On Line Opinion' में लिखे एक लेख के अनुसार, दोनों ने कई सप्ताह लगाए और AI द्वारा उत्पन्न 30 अनुसंधान सामग्री के उद्धरणों की एक-एक करके जांच की। उन्होंने सामग्री में लिखे गए दावे और उसके पास दिए गए स्रोत की तुलना की।


उद्धरणों का अनुसरण करने के परिणामस्वरूपमामले
पृष्ठ के स्थानांतरण आदि के कारण, लिंक के माध्यम से सामग्री तक नहीं पहुंचा जा सका95 मामले
स्रोत ने लेख के दावे का समर्थन किया50 मामले
स्रोत मौजूद था, लेकिन उसमें लिखी सामग्री दावे से भिन्न थी17 मामले
पुष्टि नहीं की जा सकी31 मामले
लिंक का उल्लेख नहीं था1 मामला
कुल194 मामले

दोनों ने जिन मामलों की पुष्टि की, उनका अनुपात लगभग 26% था। शेष लगभग 74% में लिंक टूटने या पुष्टि न हो पाने के मामले शामिल थे। पृष्ठ केवल स्थानांतरित हो सकता था, और मूल विवरण सही हो सकता था। ये आंकड़े लेखकों द्वारा जांचे गए 30 मामलों का संकलन हैं और पूरे AI के सही उत्तर देने की दर को नहीं दर्शाते।


सबसे कम ध्यान देने योग्य है, खुलने वाला लिंक

सूची में 17 मामले हैं जिन पर ध्यान देना चाहिए। यदि लिंक टूट गया है, तो पाठक तुरंत "पुष्टि नहीं की गई" के रूप में जान जाएगा। दूसरी ओर, यदि एक वास्तविक अनुसंधान संस्थान का पृष्ठ खुलता है और उसमें लेख के समान शब्द होते हैं, तो वहीं पर पुष्टि समाप्त करना आसान हो जाता है। प्रारंभिक उदाहरण में, "70%" को पृष्ठ पर खोजने और उसी संख्या को खोजने का क्षण।

उद्धरण की त्रुटियों के विभिन्न चरण होते हैं। क्या शोध पत्र वास्तव में मौजूद है? क्या लेखक और पत्रिका सही हैं? और क्या उस शोध पत्र से निष्कर्ष निकाला जा सकता है? पहले दो चरणों को पार करने के बाद भी, अंतिम चरण में असफलता हो सकती है।

2023 में 'Scientific Reports' में प्रकाशित एक अध्ययन ने इन मुद्दों में से साहित्य की वास्तविकता और बिब्लियोग्राफिक जानकारी पर ध्यान केंद्रित किया। शोधकर्ताओं ने उस समय के ChatGPT से 42 विषयों पर साहित्य समीक्षा लिखवाई और 636 संदर्भों की जांच की, जिसमें GPT-3.5 में 55% और GPT-4 में 18% काल्पनिक साहित्य था। इसके अलावा, GPT-4 में,वास्तविक साहित्य में भी 24% में महत्वपूर्ण बिब्लियोग्राफिक त्रुटियांथीं। मॉडल और कार्य कुमार और उनके सहयोगियों के अध्ययन से भिन्न थे, लेकिन यह स्पष्ट है कि "वास्तविक शोध पत्रों का मिश्रण" संदर्भ सूची की समग्र विश्वसनीयता का आधार नहीं हो सकता।


लाइब्रेरियन द्वारा SNS पर साझा किया गया "दो शोध पत्रों के बीच का पृष्ठ"

यह समस्या लाइब्रेरी काउंटर पर कैसे लाई जाती है। मूल लेख के प्रकाशन से पहले, जून 2025 में, विदेशी मंच Reddit के लाइब्रेरी समुदाय में AI द्वारा सुझाई गई पुस्तकों और शोध पत्रों को खोजने के अनुभव साझा किए गए थे।

 

एक पोस्टर ने कहा कि प्रोफेसर द्वारा संदर्भित शोध पत्र में वास्तविक शोधकर्ता का नाम और पत्रिका का नाम था, और वॉल्यूम और प्रकाशन समय भी सही था। हालांकि, निर्दिष्ट पृष्ठ को खोलने पर, वहां एक शोध पत्र का अंत और अगले शोध पत्र की शुरुआत थी। जब प्रोफेसर से स्रोत के बारे में पूछा गया, तो उन्होंने कहा कि उन्होंने ChatGPT से फिर से पूछा और उसे वास्तविक बताया। बार-बार पूछने पर वही उत्तर मिलना और पत्रिका को खोलकर जांचना, इन कुछ पृष्ठों में अंतर को दर्शाता है।

एक अन्य थ्रेड में, एक पोस्टर ने बताया कि उन्होंने उपयोगकर्ता के साथ लेखक की रचनाओं की सूची को देखते हुए शीर्षक की पुष्टि की। AI द्वारा सुझाए गए शीर्षक उस लेखक की दो वास्तविक रचनाओं के शीर्षकों के कुछ हिस्सों और उपयोगकर्ता द्वारा खोज के दौरान उपयोग किए गए शब्दों का संयोजन प्रतीत होते थे। उपयोगकर्ता ने लेखक की सूची को देखने के बाद संतोष व्यक्त किया।

ये सभी व्यक्तिगत अनुभव हैं, लेकिन इनमें जांच के मामलों से दिखाई न देने वाला भार होता है। एक संभावित शीर्षक बनाना एक पल का काम है, लेकिन जो व्यक्ति इसे न मिलने का कारण बताता है, उसे रचनाओं की सूची की जांच करनी होती है, पत्रिका को खोलना होता है, और कभी-कभी साथी के साथ पृष्ठों को पलटना होता है।


जापानी सम्मेलन सामग्री में, सबसे पहले किस वाक्य की पुष्टि की जाए

कुमार ने AI के चारों ओर विभिन्न देशों की नीतियों पर चर्चा करते हुए एक बहुत ही व्यावहारिक प्रश्न उठाया। सुरक्षा नीतियां बनाना और समस्या होने पर रिपोर्टिंग के लिए एक स्थान तय करना, लेकिन आज वितरित की जाने वाली सामग्री के फुटनोट को कौन खोलेगा?

जापानी कार्यस्थल में, पहले यह सोचना कि "यदि यह वाक्य गलत है, तो क्या सम्मेलन का निष्कर्ष बदल जाएगा?" पुष्टि के क्रम को स्पष्ट कर सकता है। यदि प्रारंभिक "70%" के आधार पर निवेश को तेजी से बढ़ाने का प्रस्ताव है, तो जिम्मेदार व्यक्ति को रिपोर्ट के कवर से पहले उस प्रश्न और सारणी को देखना चाहिए जिसने उस संख्या को उत्पन्न किया। क्या यह "घरेलू कंपनियों" के लिए एक नमूना है? क्या "अभिनय" और "विचाराधीन" अलग-अलग विकल्प हैं? इस स्तर तक पढ़ने के बाद, सामग्री में छोड़ा जा सकने वाला वाक्य तय हो जाता है।

स्कूल की रिपोर्ट में भी यही किया जा सकता है। संदर्भ सूची में शोध पत्र का नाम लिखने से पहले, "मेरे इस वाक्य का समर्थन करने के लिए शोध पत्र के किस पृष्ठ पर, कौन सा विवरण है" को मार्जिन में लिखें। यदि संबंधित भाग नहीं मिलता है, तो दावे को मूल पाठ में व्यक्त किए जा सकने वाले दायरे तक सीमित करें। यदि स्रोत को खोलने से लेखन थोड़ा साधारण हो जाता है, तो उस संशोधन में ही पुष्टि का मूल्य होता है।


स्रोत

  • On Line Opinion "Who checks the machine?" अमर्त्य कुमार का योगदान। 30 अनुसंधान सामग्री के 194 उद्धरणों का विवरण और सत्यापन कौन करेगा, इस पर विचार किया गया।
    http://www.onlineopinion.com.au/view.asp?article=24253

  • Zenodo प्रकाशित सामग्री लेखक द्वारा व्यक्तिगत निर्णय परिणामों के प्रकाशन के लिए निर्दिष्ट DOI। उपरोक्त संकलन मूल्य योगदान लेख के आधार पर हैं।
    https://doi.org/10.5281/zenodo.23731235

  • Scientific Reports "Fabrication and errors in the bibliographic citations generated by ChatGPT" 2023 में प्रकाशित, AI द्वारा उत्पन्न 636 संदर्भों की वास्तविकता और बिब्लियोग्राफिक जानकारी की सटीकता की जांच करने वाला अध्ययन। doi.org
    https://doi.org/10.1038/s41598-023-41032-5

  • Reddit "Requests for AI-hallucinated books?" निर्दिष्ट पृष्ठ दो अलग-अलग शोध पत्रों के बीच था, इस अनुभव सहित, लाइब्रेरी में साहित्यिक संदर्भ के बारे में पोस्ट। reddit.com
    https://www.reddit.com/r/Libraries/comments/1ldo8q3/

  • Reddit "AI hallucinating book titles that don't exist" वास्तविक रचनाओं की सूची को उपयोगकर्ता के साथ देखकर AI द्वारा सुझाए गए शीर्षक के स्रोत का पता लगाने का अनुभव। reddit.com
    https://www.reddit.com/r/Libraries/comments/1tjwzim/ai_hallucinating_book_titles_that_dont_exist/