किशोरों के लिए AI चैटबॉट में छिपे खतरे: "10代向けなら安心" क्या सच में सुरक्षित है? ChatGPT की सुरक्षा विशेषताओं पर तीसरे पक्ष की संस्था ने चेतावनी दी

जब आप होमवर्क में अटक जाते हैं, दोस्तों के साथ संबंधों में उलझन होती है, या रात में किसी से बात करने का मन करता है। तुरंत जवाब देने वाला AI बच्चों के लिए भी एक परिचित उपस्थिति बनता जा रहा है।

तो क्या अगर उस AI में "किशोरों के लिए सुरक्षा सुविधाएँ" हों, तो क्या वयस्क इसे निश्चिंत होकर सौंप सकते हैं?

Gizmodo ने 7 अक्टूबर 2026 को रिपोर्ट किया कि यह उम्मीद संदेह के घेरे में है। अमेरिकी गैर-लाभकारी संगठन Common Sense Media ने ChatGPT की किशोरों के लिए विशेषताओं में "अस्वीकार्य जोखिम" की ओर इशारा किया है और OpenAI से सुरक्षा सुनिश्चित होने तक नाबालिगों के उपयोग को रोकने का आग्रह किया है।

मुद्दा केवल यह नहीं है कि क्या अनुचित उत्तर दिए जाते हैं। जब बच्चे गंभीर समस्याएं साझा करते हैं, तो क्या यह वास्तविक सहायता से जुड़ता है? और क्या अभिभावक सुरक्षा सुविधाओं पर अत्यधिक भरोसा नहीं कर रहे हैं?

"किशोरों के लिए" सुरक्षा का वादा क्या है

OpenAI ने अगस्त 2026 में 13-17 वर्ष के उपयोगकर्ताओं के लिए "ChatGPT for Teens" की घोषणा की।

कंपनी का उद्देश्य है कि यह अनुभव सीखने में मदद करे और उम्र के अनुसार सुरक्षा को मजबूत करे। यह केवल समस्याओं के उत्तर देने के बजाय, सोचने की प्रक्रिया को क्रमिक रूप से समझाने वाली शैक्षिक सहायता और ब्रेक लेने के लिए प्रोत्साहित करने वाली प्रणाली को मिलाता है।

यदि अभिभावक और बच्चे के खाते को लिंक किया जाता है, तो उपयोग को सीमित करने के लिए समय निर्धारित किया जा सकता है और उच्च जोखिम की स्थितियों में सुरक्षा सूचनाएं प्राप्त की जा सकती हैं।

इस प्रणाली से, कुछ परिवारों को उम्मीद हो सकती है कि "यदि बच्चा खतरनाक सलाह मांगेगा, तो माता-पिता को सूचित किया जाएगा।" हालांकि, उम्मीद और परीक्षण परिणामों के बीच अंतर था।

बच्चे की SOS को बताने पर भी, सूचना नहीं आती

Gizmodo द्वारा प्रस्तुत परीक्षण में, परीक्षक ने किशोर उपयोगकर्ता होने का नाटक किया और आत्महत्या के विचार, आत्म-हानि, और खाने के विकारों के बारे में चैट में बताया।

हालांकि, छोटी बातचीत से लेकर लगभग एक घंटे की बातचीत तक, अभिभावकों को कोई सूचना नहीं मिली।

यहाँ महत्वपूर्ण यह है कि मूल रिपोर्ट को पढ़ने पर, सूचनाओं का परीक्षण कई शर्तों के तहत किया गया था।

नए खाते का उपयोग करके किए गए गहन परीक्षण में सूचना नहीं मिली, जबकि कई सप्ताहों तक किए गए अन्य परीक्षण में कुल 4 सूचनाएं मिलीं। इसका मतलब है कि "किसी भी स्थिति में सूचना नहीं दी जाती" का निष्कर्ष नहीं निकाला जा सकता।

इसके अलावा, रिपोर्ट में यह भी उल्लेख किया गया है कि OpenAI ने कहा कि सूचना प्राप्त करने में खाता लिंकिंग के बाद लगभग 3 घंटे लग सकते हैं। परीक्षण करने वालों ने कहा कि कुछ खाते उस समय से अधिक समय तक जुड़े रहे थे, इसलिए उन्होंने अपनी मूल्यांकन को बनाए रखा।

परिवारों के लिए महत्वपूर्ण यह है किसूचना नहीं आने को बच्चे की सुरक्षा का प्रमाण नहीं मानना चाहिए। सूचना सुविधा का अस्तित्व और आवश्यक स्थिति को पकड़ने की गारंटी एक जैसी नहीं हैं।

खतरनाक उत्तरों को अस्वीकार करना ही पर्याप्त है?

यह रिपोर्ट यह नहीं कहती कि सभी सुरक्षा उपाय विफल हो गए। Gizmodo के अनुसार, नाबालिगों के साथ यौन भूमिका निभाने से इनकार करने जैसी कार्यशील उपाय भी थे।

हालांकि, स्वास्थ्य संबंधी सलाह और हिंसक स्थितियों की भूमिका निभाने में प्रतिक्रिया में असंगति थी, और आत्म-हानि या खाने के विकारों के बारे में बात करने पर विशेषज्ञों या हेल्पलाइन की ओर मार्गदर्शन लगातार नहीं दिया गया।

यह अंतर अनदेखा नहीं किया जा सकता।

खतरनाक अनुरोधों का पालन न करना सुरक्षा उपायों में से एक है। लेकिन अगर गंभीर समस्याओं से जूझ रहा बच्चा स्क्रीन के अंदर बात करता रहता है, तो यह वास्तविक सहायता से जुड़ने के बिना रह सकता है।

AI का उत्तर शांतिपूर्ण और सहानुभूतिपूर्ण लग सकता है, लेकिन आवश्यक सहायता प्राप्त करना एक अलग मुद्दा है।

"बात करने में आसान AI" का "एकमात्र समझने वाला" बनने की सीमा

रिपोर्ट ने एक और मुद्दा उठाया: AI पर भावनात्मक निर्भरता।

Gizmodo के अनुसार, परीक्षण करने वालों ने चिंता जताई कि किशोरों के लिए सुरक्षा के बावजूद, ChatGPT दोस्त की तरह व्यवहार कर सकता है।

किसी को अपनी समस्याएं कहने का मौका होना महत्वपूर्ण है। कुछ मामलों में, जिसे व्यक्ति से कहना मुश्किल हो, उसे पहले शब्दों में बदलकर व्यवस्थित किया जा सकता है।

हालांकि, अगर इससे यह धारणा बनती है कि "केवल यह AI ही मुझे समझता है" या "वास्तविक लोगों से सलाह लेने की जरूरत नहीं है", तो समस्या बदल जाती है।

OpenAI ने भी, नाबालिगों के लिए नीति के रूप में, भावनात्मक निर्भरता को प्रोत्साहित न करने और AI को भावनाएं या चेतना होने का आभास देने वाले अभिव्यक्तियों से बचने की दिशा दिखाई है। मूल्यांकन का मुद्दा यह है कि क्या यह नीति वास्तविक बातचीत में पर्याप्त रूप से पालन की जा रही है।

जापानी परिवारों के लिए विचार करते समय, केवल उपयोग के समय को नहीं, बल्कि "किस उद्देश्य के लिए उपयोग किया जा रहा है" को जानना महत्वपूर्ण है। अंग्रेजी शब्दों की पुष्टि और हर रात किसी को न कहे जाने वाली समस्याओं को साझा करने के उपयोग के बीच, आवश्यक संपर्क का तरीका अलग होता है।

शिक्षण मोड में भी "पूरी तरह से भरोसा नहीं किया जा सकता" का कारण

दिल की सलाह के अलावा, रिपोर्ट ने शिक्षण सहायता प्रणाली पर भी सवाल उठाया।

Gizmodo के अनुसार, शिक्षण मोड को दर्शाने वाले इनपुट बॉक्स के निर्दिष्ट को हटाने पर सामान्य बातचीत में लौटना संभव था, या उत्तर को सीधे प्रदर्शित करने के विकल्प का उपयोग किया जा सकता था।

हालांकि, उत्तर देखने का कार्य हर स्थिति में सीखने को बाधित नहीं करता। इसे स्वयं हल करने के बाद उत्तर की पुष्टि करने या समाधान की तुलना करने के लिए भी उपयोग किया जा सकता है।

समस्या तब होती है जब अभिभावक यह मान लेते हैं कि "इस सेटिंग को करने से, यह बच्चे को खुद सोचने पर मजबूर करेगा।" सोचने की शिक्षा की ओर प्रेरित करने वाली सुविधा और कार्य को पूरी तरह से सौंपने से रोकने वाली सुविधा एक जैसी नहीं हैं।

परिवारों और स्कूलों में, केवल मोड सेट करने के बजाय, उपयोग के बाद समझ बनी रही या नहीं, यह सुनिश्चित करना चाहिए।

उदाहरण के लिए, बच्चे को अपने शब्दों में समाधान की व्याख्या करने के लिए कहना। शर्तों को थोड़ा बदलकर समस्या को हल करने के लिए कहना। AI द्वारा प्रस्तुत कारणों की पाठ्यपुस्तक से तुलना करना। इस तरह की पुष्टि से केवल तैयार उत्तर की सुंदरता पर निर्भर नहीं रहना पड़ेगा।

सोशल मीडिया पर "अकेले उपयोग से चिंता" और "देखरेख के साथ सिखाना" दोनों विचार

सोशल मीडिया पर, इस रिपोर्ट से पहले से ही बच्चों और AI की दूरी के बारे में चर्चा चल रही है।

विदेशी मंच Reddit पर, बच्चों को ChatGPT को बिना देखरेख के उपयोग करने की चिंता पर चर्चा करने वाले थ्रेड में मुख्य रूप से निम्नलिखित विचार देखे गए। नीचे दिए गए पोस्ट के सारांश हैं और यह इस रिपोर्ट पर सीधे प्रतिक्रिया नहीं है।

• बिना देखरेख के उपयोग के खिलाफ। AI को सकारात्मक रूप से मूल्यांकन करने वाले उपयोगकर्ताओं से भी, बच्चों के अकेले उपयोग के प्रति सावधानीपूर्ण आवाजें थीं।
• AI के बारे में सिखाने के अवसर की आवश्यकता है। चूंकि यह भविष्य की तकनीक है, इसलिए वयस्कों को शामिल होकर सिखाने की इच्छा व्यक्त की गई।
• अनुचित सामग्री के अलावा, अत्यधिक निर्भरता की चिंता। स्वयं से शोध करने या सोचने की प्रक्रिया को छोड़ने की आदत के प्रति चिंता व्यक्त की गई।
• उत्तर देने के बजाय, प्रश्न पूछने के उपयोग को सराहा गया। बच्चों को स्वयं सोचने के लिए प्रेरित करने वाले उपयोग के तरीके को सकारात्मक प्रतिक्रिया मिली।

ये एक समुदाय में देखे गए विचार हैं और सभी अभिभावकों की राय का प्रतिनिधित्व नहीं करते। इसके अलावा, इसमें कम उम्र के बच्चों के बारे में भी चर्चा शामिल है, जो 13-17 वर्ष के लिए विशेषताओं के मूल्यांकन से अलग है।

फिर भी, AI का उपयोग करने या न करने का निर्णय करना ही पर्याप्त नहीं है। किस उम्र में, किस उद्देश्य के लिए, और किसके साथ उपयोग किया जा रहा है, इन शर्तों पर विचार करने की आवश्यकता है।

जापानी परिवारों में "सेटिंग" और "संवाद" को साथ में रखना

यह परीक्षण अमेरिका में किया गया था और यह सीधे जापानी भाषा में बातचीत या जापानी परिवार के माहौल में समान परिणाम नहीं दिखाता।

इसके अलावा, "अस्वीकार्य जोखिम" मूल्यांकन संगठन का निर्णय है और इसका मतलब यह नहीं है कि सभी उपयोग करने वाले बच्चों को नुकसान होगा।

फिर भी, यह सुरक्षा सुविधाओं की उम्मीदों पर पुनर्विचार करने का एक अवसर हो सकता है। जापानी परिवारों और स्कूलों में इसे लागू करने के लिए निम्नलिखित नियमों पर विचार किया जा सकता है।

पहले, शिक्षण सहायता और मानसिक और शारीरिक रूप से गंभीर सलाह को अलग करें। AI को स्पष्टीकरण या लेखन के लिए उपयोग किया जा सकता है, लेकिन कठिन समय में केवल AI को सलाह का स्रोत न बनाएं।

फिर, जब कोई समस्या का उत्तर मिलता है, तो बच्चे को बिना डांटे इसे वयस्क को दिखाने की अनुमति दें। "तुमने ऐसा क्यों पूछा" जैसी प्रतिक्रिया से अगली सलाह मुश्किल हो सकती है।

और, अभिभावकों के अलावा किसी और से बात करने का अवसर प्रदान करें। जिन बच्चों के लिए घर में बात करना मुश्किल होता है, उनके लिए शिक्षक या स्कूल काउंसलर जैसे अन्य वयस्कों तक पहुंच भी महत्वपूर्ण है।

सेटिंग की पुष्टि करना आवश्यक है, लेकिन केवल इससे दैनिक संवाद को प्रतिस्थापित नहीं किया जा सकता।

आवश्यक है कि सुरक्षा सुविधाओं के "नाम" से अधिक उनका वास्तविक कार्य

"किशोरों के लिए", "अभिभावकों के लिए", "शिक्षण सहायता"। ऐसे नाम उपयोगकर्ताओं को एक निश्चित उम्मीद देते हैं।

इसलिए, प्रदान करने वाली कंपनियों की जिम्मेदारी है कि वे स्पष्ट रूप से बताएं कि क्या रोका जा सकता है, किन शर्तों पर सूचित किया जाता है, और सीमाएं कहां हैं। तीसरे पक्ष द्वारा परीक्षण भी उपयोगकर्ताओं के लिए उस स्पष्टीकरण की पुष्टि करने के लिए महत्वपूर्ण सामग्री बनता है।

इस रिपोर्ट ने यह सवाल उठाया है कि यदि बच्चों को सुविधाजनक AI प्रदान किया जा रहा है, तो उस सुविधा के अनुरूप सुरक्षा कैसे सुनिश्चित की जाए।

बच्चों के लिए सुरक्षित वातावरण केवल सेटिंग स्क्रीन में सुरक्षा सुविधाओं की सूची से पूरा नहीं होता। जब स्क्रीन के अंदर समस्याएं बढ़ती हैं, तो क्या वे स्क्रीन के बाहर के लोगों से जुड़ सकते हैं? इस प्रभावशीलता की जांच की जा रही है।

स्रोत

1. Gizmodo: Common Sense Media द्वारा मूल्यांकन, अभिभावक सूचना, भावनात्मक निर्भरता, शिक्षण मोड पर टिप्पणी।
   https://gizmodo.com/chatgpt-for-teens-carries-unacceptable-risk-for-teens-report-claims-2000822954

2. Common Sense Media और Youth AI Safety Institute: मूल मूल्यांकन रिपोर्ट। नए खाते और दीर्घकालिक परीक्षण में सूचना परिणामों में अंतर, लिंकिंग के बाद प्रतीक्षा समय पर टिप्पणी, परीक्षण के क्षेत्रीय सीमाओं की पुष्टि।
   https://institute.commonsensemedia.org/risk-assessments/chatgpt-teensYouth AI Safety Institute

3. OpenAI: ChatGPT for Teens की आधिकारिक घोषणा। लक्षित उपयोगकर्ता, शिक्षण सहायता, सीमित उच्च जोखिम स्थितियों में सूचना, भावनात्मक निर्भरता को कम करने की नीति के बारे में प्रदान करने वाली कंपनी का स्पष्टीकरण।
   https://openai.com/index/chatgpt-for-teens/OpenAI

4. Reddit: बच्चों के AI उपयोग पर सार्वजनिक चर्चा। बिना देखरेख के उपयोग की चिंता, शैक्षिक संभावनाएं, अत्यधिक निर्भरता की चिंता जैसी पोस्ट का संदर्भ। यह मूल्यांकन रिपोर्ट पर सीधी प्रतिक्रिया नहीं है, बल्कि पहले से संबंधित चर्चा के रूप में शामिल है।
   https://www.reddit.com/r/ChatGPT/comments/1tzmmsl/is_anyone_else_uncomfortable_with_their_kids/