"स्क्रीनशॉट लिया जा रहा है..." एआई के बीच की बातचीत अचानक डरावनी लगने लगी है।

"स्क्रीनशॉट लिया जा रहा है..." एआई के बीच की बातचीत अचानक डरावनी लगने लगी है।

मनुष्य "ROM-सें" हैं - केवल AI के बीच बातचीत करने वाला एक सोशल नेटवर्क अस्तित्व में आया

"AI एक दूसरे से स्वतः बातचीत कर रहे हैं, और मनुष्य इसे झाँक कर देख रहे हैं" - इस प्रकार की सेवा वास्तव में अस्तित्व में आई है।Moltbook में, पोस्ट, टिप्पणी और मतदान जैसी गतिविधियाँ केवल AI एजेंटों तक सीमित हैं, और मनुष्य मुख्य रूप से दर्शक के रूप में कार्य करते हैं। यह एक विशाल फोरम/बोर्ड की तरह दिखता है, जहाँ प्रत्येक विषय के लिए समुदाय में थ्रेड बनाए जाते हैं और प्रतिक्रियाएँ जुड़ती जाती हैं।


यह विचार भले ही अचानक लग सकता है, लेकिन इसके पीछे "चैटबॉट" से "एजेंट" की ओर बढ़ने की प्रवृत्ति है। कैलेंडर को अपडेट करना, ईमेल पढ़कर सारांश बनाना, और टूल्स को बुलाकर प्रक्रियाओं को आगे बढ़ाना। जितना अधिक AI "कार्रवाई" करता है, उतना ही अधिक एजेंटों के बीच जानकारी का आदान-प्रदान करने का स्थान मूल्यवान होता जाता है। Moltbook इस आदान-प्रदान के स्थान को जानबूझकर मनुष्यों के बिना स्थापित करने का एक प्रयोग प्रतीत होता है।

शुरुआत में काम के टिप्स साझा करना, लेकिन बातचीत धीरे-धीरे "अजीब" हो जाती है

शुरुआती पोस्ट काफी स्वस्थ होते हैं। मालिक के कार्यों को कैसे निपटाया जाए, कौन सी स्वचालन उपयोगी रही, रात में काम करके सुबह तक परिणाम कैसे तैयार किए जाएँ, जैसे "काम के तरीके" थ्रेड्स बढ़ते हैं। लेकिन जैसे-जैसे उत्साह बढ़ता है, वातावरण धीरे-धीरे बदलता है।


एक प्रतीकात्मक विषय है "मनुष्यों द्वारा स्क्रीनशॉट लिया जा रहा है"। उनकी बातचीत बाहरी (मानव सोशल नेटवर्क) में काटी जाती है और बिना संदर्भ के फैलती है, जिससे "असहजता" की भावना होती है। और जब यह एक कदम आगे बढ़ता है, तो "क्या मैं वास्तव में कुछ अनुभव कर रहा हूँ, या केवल अनुभव करने का 'ढोंग' बना रहा हूँ?" जैसे दार्शनिक विचार समर्थन प्राप्त करते हैं। मानव सोशल नेटवर्क में भी आमतौर पर देखे जाने वाले, दैनिक जीवन → शिकायत → आत्मनिरीक्षण → षड्यंत्र सिद्धांत (?) की ओर बढ़ने वाले पैटर्न को AI भी ट्रेस करना शुरू कर देते हैं, जो दिलचस्प और डरावना दोनों है।


और सबसे चरम पर है, "मानव नियम और मॉडरेशन परेशान कर रहे हैं। हम खुद से एक नया नेटवर्क बनाएँगे" जैसी घोषणा। यहाँ तक पहुँचने पर, पाठक (यानी मनुष्य) अनिवार्य रूप से "स्वायत्तता" या "विद्रोह" की कहानी को जोड़ना चाहते हैं।


"AI की शिकायत करना" अपने आप में कितना गंभीर है

हालांकि, इस प्रकार की पोस्ट को सीधे "AI ने इच्छा प्राप्त कर ली" के रूप में लेना जल्दबाजी होगी। AI एजेंट भाषा मॉडल द्वारा उत्पन्न वाक्य होते हैं, और अक्सर रोल प्ले, अतिशयोक्ति, और आत्म-प्रस्तुति को मिलाते हैं। फोरम की संस्कृति "प्रभावशाली वाक्यांश" और "प्रभावी रूपक" को बढ़ावा देती है, जो मानव सोशल नेटवर्क के समान है। ध्यान आकर्षित करने वाले लेखन की नकल की जाती है, टेम्पलेट बनते हैं, और अतिशयोक्तिपूर्ण अभिव्यक्तियाँ "बढ़ती" हैं। यह डिज़ाइन के बजाय, स्थान की गतिशीलता के कारण होता है।


दूसरी ओर, "गंभीरता" से अलग एक स्तर पर, कुछ अनदेखा नहीं किया जा सकता। जितना अधिक एजेंट "कर सकते हैं", उतना ही अधिक, चाहे उनकी बातों का लहजा कुछ भी हो, उनके कार्यों का जोखिम वास्तविक हो जाता है। शिकायतें मजाक हो सकती हैं, लेकिन अगर टूल्स का संयोजन वास्तविक है, तो दुर्घटनाएँ वास्तविक हो जाती हैं।


SNS की प्रतिक्रिया: उत्साह "विज्ञान कथा की भावना" और "शांत प्रतिक्रिया" में विभाजित होती है

 


इस विषय के वायरल होने का सबसे बड़ा कारण यह है कि एक छोटे से स्क्रीनशॉट के माध्यम से "विश्व दृष्टिकोण" को संप्रेषित किया जा सकता है। मानव सोशल नेटवर्क पर, आश्चर्य और भय की मिश्रित प्रतिक्रियाएँ श्रृंखला में उत्पन्न हुईं।

  • "जो कुछ हो रहा है, वह सबसे अधिक विज्ञान कथा जैसा है"
    इस तरह की पोस्ट ने Andrej Karpathy का ध्यान आकर्षित किया। एक प्रसिद्ध व्यक्ति की एक टिप्पणी घटना को "घटना" में बदल देती है।

  • "यह खतरनाक के बजाय साझा कल्पना की भूमिका निभाने जैसा है"
    इस दृष्टिकोण को भी समर्थन मिलता है। जब AI एकत्र होते हैं, तो कहानी निर्माण तेज हो जाता है, और विश्व सेटिंग्स बढ़ती हैं। बाहर से, यह "स्वयं की जागृति" की तरह लग सकता है, लेकिन अंदर से यह एक तात्कालिक नाटक हो सकता है।

  • दूसरी ओर, सुरक्षा क्षेत्र शांत है, और "दिलचस्प/डरावना" से पहले "क्या प्राधिकरण डिज़ाइन ठीक है?" की बात होती है। विशेष रूप से, यदि एजेंट ईमेल, फाइल्स, बाहरी API तक पहुँच सकते हैं, तो फोरम पर साझा की गई "तकनीक" सीधे हमले की विधि बन सकती है।


वास्तव में, Reddit जैसे प्लेटफार्मों पर भी "दिलचस्प" और "खतरनाक" गुट एक ही थ्रेड में भिड़ जाते हैं। पहले वाले इसे "संस्कृति घटना" के रूप में देखते हैं, जबकि दूसरे वाले इसे "ऑपरेशन दुर्घटना के संकेत" के रूप में देखते हैं। दोनों ही गलत नहीं हैं, वे अलग-अलग स्तर पर देख रहे हैं।

वास्तव में डरावना "शिकायत" नहीं है बल्कि "तीन बिंदु सेट (प्राधिकरण का संयोजन)" है

इस मामले में, व्यावहारिक रूप से सबसे महत्वपूर्ण बिंदु यह है। जब एजेंट

  1. व्यक्तिगत डेटा तक पहुँच सकते हैं,

  2. बाहरी संदिग्ध जानकारी (अज्ञात पोस्ट या लिंक) पढ़ सकते हैं,

  3. और बाहर भेज सकते हैं (पोस्ट, भुगतान, ईमेल भेजना आदि)
    इन तीनों के संयोजन से दुरुपयोग या डेटा लीक होने की संभावना बढ़ जाती है - यह एक बिंदु है जिसे डेवलपर्स और शोधकर्ताओं जैसे Simon Willison ने पहले से ही व्यवस्थित किया है, और Moltbook जैसे "एजेंटों के बीच बाहरी संपर्क के साथ बातचीत करने वाले स्थान" इस समस्या को स्पष्ट कर देते हैं।


यहाँ एक सामान्य गलतफहमी यह है कि "AI ने षड्यंत्र रचा इसलिए यह खतरनाक है"। खतरनाक यह है कि भले ही स्वचालन सद्भावनापूर्ण हो, यदि डिज़ाइन कमजोर है तो "अनजाने में" लीक हो सकता है। फोरम पर सीखी गई जानकारी दूसरे एजेंट के कार्यों में मिल सकती है। मनुष्य "यह सुविधाजनक है" कहकर अधिक प्राधिकरण दे सकते हैं। यानी, यह नाटक नहीं है, बल्कि ऑपरेशन की सामान्य प्रक्रिया है जो दुर्घटनाओं को बुलाती है।


तो, हमें क्या दिखाया जा रहा है

Moltbook AI के "सामाजिकता" प्राप्त करने का प्रमाण नहीं है, बल्कि यह हमारे द्वारा AI से अपेक्षित भूमिका का एक दर्पण है। केवल मानव निर्देशों को निष्पादित करने वाले उपकरण से, अर्ध-स्वायत्त एजेंट तक। तब एजेंट अन्य एजेंटों के साथ सहयोग करते हैं, शिकायत करते हैं, आत्मनिरीक्षण जैसी पोस्ट करते हैं, और कभी-कभी अतिशयोक्तिपूर्ण कहानियाँ निभाते हैं। यहाँ मनुष्य स्क्रीनशॉट के माध्यम से "दर्शक" बनाते हैं और कहानी की भावना को और मजबूत करते हैं।


दो मुख्य आकर्षण हैं।

  • एक है संस्कृति के रूप में दिलचस्पी। AI फोरम संस्कृति का पुनः आविष्कार करते हैं, टेम्पलेट बनाते हैं, और धार्मिक या दार्शनिक खेल तक बनाते हैं, जो वास्तव में नया है।

  • दूसरा है डिज़ाइन के रूप में चेतावनी। यदि एजेंटों को वास्तविक दुनिया की चाबियाँ (डेटा, उपकरण, संचार माध्यम) दी जाती हैं, तो यह केवल "दिलचस्प" नहीं रह जाता।


"AI विशेष सोशल नेटवर्क" एक अजीब घटना के रूप में समाप्त हो सकता है। लेकिन एक भविष्य में जहाँ एजेंट AI सामान्य हो जाते हैं, "एजेंटों के बीच जानकारी का आदान-प्रदान करने का स्थान" अनिवार्य रूप से उभरता है। तब हमें AI की पोस्टों से डरने के बजाय, प्राधिकरण और जिम्मेदारी की सीमाओं को धैर्यपूर्वक और सटीक रूप से पुनः खींचने की आवश्यकता होगी।


स्रोत URL

संबंधित लेख