एआई हॉलुसिनेशन डिटेक्शन एक प्रक्रिया है जो एआई मॉडल द्वारा उत्पन्न झूठी, बनावटी, या असटीक जानकारी की पहचान करती है जिसे वह तथ्य के रूप में प्रस्तुत करता है। जब एक एकल एआई हॉलुसिनेट करता है, तो अक्सर कोई आंतरिक संकेत नहीं होता है कि आउटपुट गलत है। मल्टी-मॉडल क्रॉस-वैलिडेशन हॉलुसिनेशन्स का पता लगाने के लिए कई एआई मॉडल्स से स्वतंत्र रूप से एक ही प्रश्न पूछकर करता है। जब मॉडल्स असहमत होते हैं, तो वह असहमति संभावित हॉलुसिनेशन का संकेत देती है। आर्गुमेंट्री . एआई इसे एक रेटिंग सिस्टम के माध्यम से लागू करता है जहां प्रत्येक मॉडल प्रत्येक तर्क को दूसरे मॉडल से रेट करता है—किसी एक मॉडल से कम रेटेड तर्क समीक्षा के लिए फ्लैग किए जाते हैं।
एआई हॉलुसिनेशन डिटेक्शन पहचानता है जब एआई मॉडल तथ्य के रूप में गलत जानकारी उत्पन्न करते हैं। मुख्य अंतर्दृष्टि: जब एक एआई हॉलुसिनेट करता है, तो अन्य एआई अक्सर एक ही गलती नहीं करते हैं। क्रॉस-वैलिडेशन उन त्रुटियों को पकड़ता है जिन्हें कोई एकल मॉडल आत्मविश्वास से प्रस्तुत करेगा।
हॉलुसिनेशन डिटेक्शन एआई द्वारा उत्पन्न झूठी जानकारी का पता लगाता है। विभिन्न मॉडल्स विभिन्न रूप से हॉलुसिनेट करते हैं—जो एक गलत करता है, अन्य अक्सर सही करते हैं। क्रॉस-मॉडल वैलिडेशन इन त्रुटियों को व्यवस्थित रूप से पकड़ता है।
एक एआई हॉलुसिनेशन तब होता है जब एक मॉडल झूठी, बनावटी, या असमर्थित जानकारी उत्पन्न करता है—और उसे तथ्य के रूप में प्रस्तुत करता है। मानव त्रुटियों के विपरीत, जहां हम कह सकते हैं "मैं नहीं जानता", एआई मॉडल्स आत्मविश्वास से ध्वनि उत्पन्न करते हैं चाहे वह सटीक हो या नहीं।
एआई मॉडल्स प्रशिक्षण के दौरान सीखे गए पैटर्न्स के आधार पर अगले शब्दों की भविष्यवाणी करके पाठ उत्पन्न करते हैं। वे तथ्यों के डेटाबेस तक नहीं पहुंचते—वे संभावित ध्वनि वाले क्रम उत्पन्न करते हैं। जब पैटर्न-मिलान आत्मविश्वासी लेकिन गलत आउटपुट उत्पन्न करता है, तो वह एक हॉलुसिनेशन है।
मॉडल्स सुसंगतता और संभावना के लिए अनुकूलित होते हैं, सत्य के लिए नहीं। कोई आंतरिक "मुझे नहीं पता" संकेत नहीं है। यहां तक कि "क्या आप सुनिश्चित हैं?" पूछने से आमतौर पर उसी त्रुटि की आत्मविश्वासी पुनरावृत्ति होती है।
विभिन्न एआई मॉडलों के पास विभिन्न प्रशिक्षण डेटा, आर्किटेक्चर और ज्ञान कटऑफ होते हैं। जब एक मॉडल किसी दावे को बनाता है, अन्य मॉडल आमतौर पर वही गलती नहीं करते हैं. यह स्वतंत्रता ही क्रॉस-मॉडल वैलिडेशन को काम करने में मदद करती है।
एक ही प्रश्न के साथ कई एआई मॉडलों को स्वतंत्र रूप से प्रश्न पूछें
प्रत्येक मॉडल तर्क देता है बिना दूसरों को देखे (त्रुटियों की प्रतिलिपि नहीं बना सकता)
प्रत्येक मॉडल फिर हर तर्क को हर दूसरे मॉडल से दर्जा देता है
निर्मित दावे अन्य मॉडलों से कम दर्जा प्राप्त करते हैं
कम दर्जा तर्क = संभावित भ्रम जांच के लिए
जीपीटी, क्लाउड, जेमिनी, ग्रोक, परप्लेक्सिटी स्वतंत्र रूप से प्रश्न पूछें
प्रत्येक मॉडल तर्क बनाता है बिना दूसरों को देखे
प्रत्येक मॉडल हर तर्क को हर दूसरे मॉडल से दर्जा देता है
कई मॉडलों से कम दर्जा = आगे जांच करें
AI हॉलुसिनेशन डिटेक्शन उस प्रक्रिया को कहते हैं जिसमें यह पहचाना जाता है कि कब एक AI मॉडल गलत या निर्मित जानकारी उत्पन्न करता है जिसे वह तथ्यात्मक के रूप में प्रस्तुत करता है। सबसे विश्वसनीय विधि क्रॉस-मॉडल वैलिडेशन है—एक ही प्रश्न के साथ कई AI मॉडलों से पूछना और असहमति की तलाश करना, क्योंकि हॉलुसिनेशन आमतौर पर मॉडलों के बीच लगातार नहीं होते।
AI मॉडल प्रशिक्षण के दौरान सीखे गए पैटर्न के आधार पर पाठ उत्पन्न करते हैं, न कि वास्तविकता तक पहुँचकर। जब पैटर्न-मैचिंग आत्मविश्वास से लेकिन गलत आउटपुट उत्पन्न करता है—जैसे निर्मित उद्धरण, आविष्कृत सांख्यिकी, या गलत दावे—तो वह एक हॉलुसिनेशन है। मॉडल संभावित रूप से सुनने योग्य प्रतिक्रियाओं के लिए अनुकूलित होते हैं, न कि सटीकता के लिए।
खराब तरीके से। 'क्या आप सुनिश्चित हैं?' या 'इसकी पुष्टि करें' पूछने से अक्सर वही गलती दोहराई जाती है। मॉडल विश्वसनीय रूप से आत्म-प्रमाणित नहीं कर सकते क्योंकि उनके पास कोई आंतरिक वास्तविकता संदर्भ नहीं होता। क्रॉस-मॉडल तुलना या मानव समीक्षा के माध्यम से बाहरी मान्यता अधिक प्रभावी होती है।
विभिन्न AI मॉडल विभिन्न प्रशिक्षण डेटा और आर्किटेक्चर के कारण अलग-अलग तरीके से हॉलुसिनेट करते हैं। जब एक मॉडल एक दावा बनाता है, तो अन्य मॉडल आमतौर पर वही गलती नहीं करते। कई स्वतंत्र मॉडलों के बीच आउटपुट की तुलना करके, आप उन त्रुटियों को पकड़ सकते हैं जो कोई एकल मॉडल आत्मविश्वास से प्रस्तुत करेगा।
सामान्य हॉलुसिनेशन में शामिल हैं: निर्मित शैक्षणिक उद्धरण (कागजात जो मौजूद नहीं हैं), आविष्कृत सांख्यिकी ('80% विशेषज्ञ सहमत हैं...'), गलत ऐतिहासिक दावे, गैर-मौजूद अदालत के मामले (जैसे माटा बनाम एवीआंका घटना में), और आत्मविश्वास से गलत तकनीकी स्पष्टीकरण।
क्रॉस-वैलिडेट एआई आउटपुट कई मॉडल्स में। असहमति त्रुटियों का खुलासा करती है।
मुफ्त अनुसंधान शुरू करें