AI की विश्वसनीयता कितनी विकसित होगी? 0% त्रुटि गारंटी का प्रभाव: AI अनिश्चितता को सूत्रों में समेटने का नया सिद्धांत

परिचय―"क्या AI वास्तव में सुरक्षित है?" यह प्रश्न

जनरेटिव AI के उभार के पीछे, चिकित्सा और स्वचालित ड्राइविंग जैसे "जीवन को संभालने" वाले क्षेत्रों में, "0.01% की दुर्घटना की संभावना" सबसे खराब स्थिति को जन्म दे सकती है। यहाँ पर कुंजी है "अनिश्चितता (Uncertainty)" का मात्रात्मककरण। लेकिन वर्तमान में प्रचलित ड्रॉपआउट अनुमान और बेयस अनुमान केवल "अनुमान" हैं। **"ग़लती न होने की गणितीय गारंटी देने"** की विधियाँ लगभग नहीं थीं।

TU Wien की सफलता

जून 2025 में, **वियना प्रौद्योगिकी विश्वविद्यालय (TU Wien)** के Andrey Kofnov और उनकी टीम ने "इनपुट स्पेस को उच्च-आयामी पॉलीटोप में विभाजित कर, प्रत्येक क्षेत्र के लिए सटीक आउटपुट वितरण की ऊपरी/निचली सीमा की गणना करने" की विधि प्रस्तुत की। यह पेपर arXiv पर प्रकाशित हो चुका है और ICML 2025 में भी स्वीकृत हो चुका हैphys.org।

क्या नया है?

1. ज्यामितीय विभाजन

   • ReLU नेटवर्क में मैप करके, इनपुट स्पेस को उत्तल पॉलीटोप में टाइल की तरह विभाजित करना।

   • प्रत्येक पॉलीटोप क्षेत्र के लिए रैखिक मैपिंग के माध्यम से "बंद" करना और आउटपुट की प्रायिकता वितरण का विश्लेषण करना।

2. ऊपरी और निचली सीमाओं की "सटीक" गणना

   • अनुमान नहीं बल्कि "यहां से यहां तक बिल्कुल नहीं निकलेगा" की गणितीय प्रमाण प्रदान करना।

3. पूरी प्रायिकता वितरण को संभालने में सक्षम

   • ReLU/tanh/सॉफ्टमैक्स आदि में सामान्यीकृत।

4. छोटे पैमाने के NN तक सीमित

   • LLM के लिए अभी भी गणना की जटिलता अधिक है (लेखक ने इसे चुनौती के रूप में स्पष्ट किया)phys.org।

तकनीक की मुख्य बात: उच्च-आयामी स्पेस को "दृश्य" बनाना

• इनपुट स्पेस: पिक्सेल मान × शोर × प्रकाश आदि को निर्देशांक के रूप में लेना "n-आयामी ब्रह्मांड"।

• विभाजन: सक्रियण पैटर्न बदलने वाली सीमाओं के अनुसार पॉलीटोप उत्पन्न करना।

• विश्लेषण: प्रत्येक पॉलीटोप के भीतर NN रैखिक होता है। इसलिए आउटपुट वितरण रैखिक परिवर्तन के बाद का प्रायिकता वितरण होता है।

• समेकन: सभी पॉलीटोप को एकीकृत कर, आउटपुट के संचयी वितरण फ़ंक्शन (CDF) को ऊपरी/निचली सीमा प्रदान करना।

मौजूदा विधियों के साथ तुलना

अनुप्रयोग परिदृश्य

1. चिकित्सा एम्बेडेड AI: कैथेटर रोबोट के छवि पहचान मॉडल आदि, जहां गलत निदान घातक हो सकता है।

2. स्वचालित ड्राइविंग के सेंसर फ्यूजन: अल्ट्रासोनिक/रडार मिश्रित NN को 100% प्रमाणित करके सत्यापित करना।

3. वित्तीय जोखिम गणना: छोटे पैमाने के NN को रियल-टाइम ऑडिट में शामिल कर थ्रेशोल्ड को स्वचालित रूप से सुनिश्चित करना।

SNS की प्रतिक्रिया

• Hacker News उपयोगकर्ता @quant_curious

  "रिजेक्शन-वेरिफिकेशन के माध्यम से गुणवत्ता को मापने वाले मौजूदा UQ की तुलना में सिद्धांत अधिक सुंदर है"news.ycombinator.com

• Hacker News टिप्पणी @esafak

  "बेयस NN भी अनिश्चितता को निकाल सकते हैं लेकिन कैलिब्रेशन मुश्किल है। गणितीय गारंटी एक गेम चेंजर है"news.ycombinator.com

• Reddit r/MachineLearning थ्रेड

  "डीप लर्निंग का UQ हमेशा 'बस एक कदम और' कहा जाता रहा है। प्रमाणित होने पर FDA अनुमोदन भी संभव है"reddit.com

• X (पूर्व में Twitter) पर TU Wien का आधिकारिक खाता

  "#AI सुरक्षा का नया अध्याय खोला" और ICML स्वीकृति की रिपोर्ट की, 500 से अधिक लाइक्स प्राप्त किए (पोस्ट 2025-07-01)tuwien.at

विशेषज्ञों की आवाज

• Prof. Ezio Bartocci (सह-लेखक)

  "ChatGPT जैसे बड़े मॉडल एक दूर का लक्ष्य हैं, लेकिन छोटे मॉडल से सुरक्षा प्रमाणन को एक संस्कृति बनाना चाहते हैं"phys.org

• बाहरी शोधकर्ताओं की राय
  बेयस सांख्यिकीविद् ने कहा, "सख्ती अद्भुत है, लेकिन तैनाती की वास्तविकता के साथ तालमेल एक चुनौती है" (Hacker News)news.ycombinator.com।

चुनौतियाँ और भविष्य

1. गणना लागत में कमी: पॉलीटोप की संख्या की घातीय वृद्धि को सैंपलिंग/अनुमान के माध्यम से नियंत्रित करना।

2. मध्य-स्तरीय NN के लिए विस्तार: हजारों पैरामीटर स्तर को GPU पर कुछ मिनटों के भीतर मूल्यांकन करना।

3. विनियामक अनुपालन: EU AI अधिनियम के "उच्च जोखिम प्रणाली" की समीक्षा में गणितीय गारंटी को शामिल करने की पहल।

सारांश

• महत्व: AI सुरक्षा को "प्रायिकता सिद्धांत के बजाय, गणित के माध्यम से स्पष्ट करना" का मार्ग प्रशस्त किया।

• प्रभाव: चिकित्सा उपकरण, विमानन नियंत्रण आदि "शून्य सहिष्णुता" क्षेत्रों में यदि यह प्रचलित होता है, तो AI का अपनाना तेज़ होगा।

• भविष्य की दृष्टि: 2030 के आसपास "NN को पहले स्केल डाउन कर सटीक सत्यापन करना, और फिर उसे बड़े मॉडल में डिस्टिल करना" का कार्यप्रवाह स्थापित हो सकता है।