एआई मॉडल पूरी तरह से गलत जानकारी को आत्मविश्वास के साथ प्रस्तुत कर सकते हैं—और यह बताने वाला कोई आंतरिक संकेत नहीं होता कि कुछ गलत है। इसे भ्रांति कहा जाता है, और यह एआई-सहायता प्राप्त अनुसंधान में सबसे बड़े चुनौतियों में से एक है।
समस्या: आत्मविश्वासी बकवास
जब आप एक एआई मॉडल से किसी दावे की पुष्टि करने के लिए कहते हैं, तो यह तथ्यों के डेटाबेस की जांच नहीं करता। यह अपने प्रशिक्षण डेटा में पैटर्न के आधार पर एक संभावित-साउंडिंग प्रतिक्रिया उत्पन्न करता है। कभी-कभी ये पैटर्न निर्माण की ओर ले जाते हैं:
- नकली उद्धरण: अकादमिक पत्र जो अस्तित्व में नहीं हैं (माता बनाम एवीएएनसीा मामले में नकली मामले का कानून शामिल था)
- आविष्कृत सांख्यिकी: "अध्ययन दिखाते हैं कि 80% विशेषज्ञ सहमत हैं..." बिना किसी स्रोत के
- आत्मविश्वासी गलतियाँ: संभाव्य लगने वाले लेकिन पूरी तरह से गलत तकनीकी व्याख्याएँ
"क्या आप सुनिश्चित हैं?" क्यों काम नहीं करता
अनिश्चितता के प्रति एक स्वाभाविक प्रतिक्रिया यह है कि एआई से अपनी पुष्टि करने के लिए कहा जाए। लेकिन इससे मदद नहीं मिलती:
स्व-सत्यापन विफलताएँ
- •"क्या आप सुनिश्चित हैं?" → अक्सर अधिक आत्मविश्वास के साथ वही गलती दोहराता है
- •"इसकी पुष्टि करें" → सहायक भ्रांतियाँ उत्पन्न कर सकता है
- •"अपने स्रोतों की जांच करें" → अधिक नकली उद्धरण बना सकते हैं
- •विश्वास स्कोर → सटीकता के साथ सहसंबंध नहीं रखते
इस मॉडल के पास जांचने के लिए कोई वास्तविक संदर्भ नहीं है। यह अभी भी पैटर्न-मैचिंग है, बस एक प्रॉम्प्ट के साथ जो इसे अपने पैटर्न-मैचिंग के बारे में अधिक आत्मविश्वासी होने के लिए कहता है।
समाधान: क्रॉस-मॉडल मान्यता
विभिन्न एआई मॉडल अलग-अलग तरीके से भ्रांति उत्पन्न करते हैं। उनके पास विभिन्न प्रशिक्षण डेटा, विभिन्न आर्किटेक्चर और विभिन्न ज्ञान कटऑफ होते हैं। जब एक मॉडल एक दावा बनाता है, तो अन्य मॉडल आमतौर पर वही गलती नहीं करते।
स्वतंत्रता सिद्धांत
यदि GPT एक उद्धरण का आविष्कार करता है, तो क्लॉड उस त्रुटि को "विरासत" नहीं देता - यह अपने स्वयं के प्रशिक्षण से नए सिरे से दावे का मूल्यांकन करता है। यह स्वतंत्रता ही है जो क्रॉस-मान्यता को काम करती है। पांच मॉडलों का सहमत होना मतलब है कि पांच स्वतंत्र प्रणालियों ने एक ही निष्कर्ष पर पहुँचा।
क्रॉस-मॉडल डिटेक्शन कैसे काम करता है
स्वतंत्र उत्पादन
प्रत्येक एआई मॉडल एक ही प्रश्न का उत्तर देता है बिना दूसरों के उत्तर देखे।
क्रॉस-रेटिंग
हर मॉडल हर दूसरे मॉडल के हर तर्क को रेट करता है।
असहमति पहचान
कई मॉडलों द्वारा खराब रेटिंग वाले दावे चिह्नित किए जाते हैं।
सहमति स्कोरिंग
उच्च सहमति = अधिक विश्वास; असहमति = जांच करें
हैलुसिनेशन डिटेक्शन का उपयोग कब करें
क्रॉस-मॉडल मान्यता सबसे अधिक मूल्यवान है:
- सत्यापित किए जा सकने वाले तथ्यात्मक दावे
- उद्धरण और संदर्भ
- आंकड़े और मात्रात्मक दावे
- ऐतिहासिक घटनाएँ और तकनीकी विवरण
यह राय आधारित या रचनात्मक कार्यों के लिए कम प्रासंगिक है जहाँ सत्यापन के लिए कोई "ग्राउंड ट्रुथ" नहीं है।
समझने की सीमाएँ
क्रॉस-मॉडल मान्यता पूर्ण नहीं है:
- साझा पूर्वाग्रह: सभी मॉडलों ने समान प्रशिक्षण डेटा से समान त्रुटि सीखी हो सकती है
- ज्ञान की कमी: हाल की घटनाएँ सभी मॉडलों के प्रशिक्षण कटऑफ से परे हो सकती हैं
- डोमेन विशेषज्ञता: सभी मॉडलों में विशेष क्षेत्रों में ज्ञान की कमी हो सकती है
क्रॉस-मॉडल सहमति त्रुटि की संभावना को काफी हद तक कम कर देती है लेकिन उच्च-जोखिम वाले दावों पर मानव सत्यापन की आवश्यकता को समाप्त नहीं करती।
अक्सर पूछे जाने वाले प्रश्न
AI भ्रांति क्या है?
जब एक मॉडल आत्मविश्वास के साथ पूरी तरह से गलत जानकारी देता है और इसमें कोई आंतरिक संकेत नहीं होता कि कुछ गलत है — यह एआई-सहायता प्राप्त अनुसंधान में सबसे बड़े चुनौतियों में से एक है।
क्यों एक मॉडल से "क्या आप सुनिश्चित हैं?" पूछने से भ्रांतियाँ नहीं पकड़तीं?
क्योंकि एकल मॉडल के पास अपनी त्रुटि का कोई विश्वसनीय आंतरिक संकेत नहीं होता; आत्म-चेकिंग वही गलती दोहरा सकती है। इसके बजाय, यह पोस्ट क्रॉस-मॉडल मान्यता को समाधान के रूप में प्रस्तुत करती है।
क्रॉस-मॉडल हॉल्यूसीनेशन डिटेक्शन कैसे काम करता है?
एकाधिक मॉडलों को स्वतंत्र रूप से क्वेरी करें, उन्हें एक-दूसरे के उत्तरों को रेट करने दें, और असहमति को चिह्नित करें। विभिन्न मॉडल अलग-अलग तरीके से भ्रांति उत्पन्न करते हैं, इसलिए जब एक मॉडल गलत जानकारी प्रस्तुत करता है, तो अन्य आमतौर पर उसे पकड़ लेते हैं।