تشخیص توهمات هوش مصنوعی فرآیندی است که طی آن شناسایی میشود که مدل هوش مصنوعی چه زمانی اطلاعات نادرست، جعلی یا ناقصی را تولید میکند و آن را به عنوان واقعیت معرفی میکند. هنگامی که یک مدل هوش مصنوعی منفرد دچار توهم میشود، اغلب هیچ سیگنال داخلی وجود ندارد که خروجی اشتباه باشد. اعتبارسنجی متقابل چندین مدل با پرسش از چندین مدل هوش مصنوعی مستقل برای یک سوال، توهمات را تشخیص میدهد. هنگامی که مدلها با هم مخالف باشند، این اختلاف نشاندهنده توهمات احتمالی است. Argumentree.AI این کار را از طریق یک سیستم رتبهبندی انجام میدهد که در آن هر مدل هر استدلال از هر مدل دیگر را رتبهبندی میکند—استدلالاتی با رتبه پایین از هر مدل منفرد برای بررسی پرچم گذاری میشوند.
تشخیص هالوسینیشن AI زمان تشخیص می دهد که مدل های AI اطلاعات نادرستی به عنوان واقعیت ارائه می دهند. نکته کلیدی: هنگامی که یک AI هالوسینیشن دارد، AI های دیگر اغلب همان اشتباه را انجام نمی دهند. بررسی چند مدل خطاهای را که هر مدل واحد با اطمینان ارائه می کند، تشخیص می دهد.
تشخیص هالوسینیشن زمان تشخیص می دهد که AI اطلاعات نادرستی تولید می کند. مدل های مختلف هالوسینیشن های مختلفی دارند - آنچه یک مدل اشتباه می کند، مدل های دیگر اغلب درست می کنند. بررسی چند مدل به صورت سیستماتیک این خطاها را تشخیص می دهد.
هالوسینیشن AI زمانی رخ می دهد که یک مدل اطلاعات نادرست، جعلی یا بدون پشتیبانی از شواهد را به عنوان واقعیت ارائه می دهد. برخلاف خطاهای انسانی که ممکن است بگوییم "نمی دانم"، مدل های AI خروجی های اطمینان بخش را به صورت مستقل از دقت تولید می کنند.
مدل های AI متن را با پیش بینی کلمات بعدی بر اساس الگوهای آموخته شده در طول آموزش تولید می کنند. آنها به پایگاه داده ای از واقعیت ها دسترسی ندارند - آنها توالی های خوشه ای تولید می کنند. هنگامی که تطبیق الگو خروجی های اطمینان بخش اما نادرست تولید می کند، آن یک هالوسینیشن است.
مدل ها برای هماهنگی و خوشه ای بودن بهینه می شوند، نه برای واقعیت. هیچ سیگنال داخلی "نمی دانم" وجود ندارد. حتی پرسش "آیا مطمئن هستید؟" معمولاً تکرار همان خطا را تولید می کند.
مدل های AI مختلف داده های آموزشی، معماری ها و زمان های قطع دانش مختلفی دارند. هنگامی که یک مدل ادعایی جعلی را تولید می کند، مدل های دیگر معمولاً همان اشتباه را انجام نمی دهند. این استقلال است که باعث می شود بررسی چند مدل کار کند.
چندین مدل هوش مصنوعی را با همان سوال - به طور مستقل - پرسش کنید
هر مدل بدون دیدن دیگران (نمیتواند اشتباهات را کپی کند) استدلالهایی تولید میکند
سپس هر مدل هر استدلال را از هر مدل دیگر ارزیابی میکند
ادعاهای ساختگی از سوی دیگر مدلها امتیاز پایینی میگیرند
استدلالهای با امتیاز پایین = توهمات بالقوه برای بررسی
پرسش از GPT، Claude، Gemini، Grok، Perplexity به صورت مستقل
هر مدل استدلالها را بدون دیدن دیگران میسازد
هر مدل هر استدلال از هر مدل دیگر را رتبهبندی میکند
رتبههای پایین از مدلهای متعدد = بررسی بیشتر
تشخیص توهمات هوش مصنوعی فرآیند شناسایی زمانی است که یک مدل هوش مصنوعی اطلاعات نادرست یا ساختگی را تولید میکند که به عنوان واقعیت ارائه میدهد. مطمئنترین روش اعتبارسنجی متقابل مدلهاست—پرسش از چندین مدل هوش مصنوعی با همان سوال و جستجوی عدم توافق، زیرا توهمات معمولاً در مدلها سازگار نیستند.
مدلهای هوش مصنوعی متن را بر اساس الگوهای یادگرفته شده در طول آموزش تولید میکنند، نه با دسترسی به حقیقت واقعی. زمانی که تطابق الگو خروجی مطمئن اما نادرست تولید میکند—مانند استنادهای ساختگی، آمارهای اختراعی یا ادعاهای نادرست—این یک توهم است. مدلها برای پاسخهای به نظر معقول بهینهسازی میشوند، نه دقت.
بهطور ضعیف. پرسیدن 'آیا مطمئنی؟' یا 'این را تأیید کن' اغلب همان خطا را تکرار میکند. مدلها نمیتوانند بهطور قابلاعتمادی خود را تأیید کنند زیرا هیچ مرجع حقیقت داخلی ندارند. اعتبارسنجی خارجی از طریق مقایسه متقابل مدلها یا بررسی انسانی مؤثرتر است.
مدلهای هوش مصنوعی مختلف به دلیل دادههای آموزشی و معماریهای متفاوت به طور متفاوتی توهم دارند. زمانی که یک مدل ادعایی را جعل میکند، مدلهای دیگر معمولاً همان اشتباه را نمیکنند. با مقایسه خروجیها در چندین مدل مستقل، میتوانید خطاهایی را که هر مدل منفرد با اطمینان ارائه میدهد، شناسایی کنید.
توهمات رایج شامل: استنادهای علمی ساختگی (مقالاتی که وجود ندارند)، آمارهای اختراعی ('80% از کارشناسان موافقند...')، ادعاهای تاریخی نادرست، پروندههای قضایی غیرموجود (مانند حادثه ماتا در برابر آویانکا) و توضیحات فنی بهطور مطمئن نادرست است.
خروجی های AI را در چندین مدل بررسی کنید. مخالفت خطاها را نشان می دهد.
شروع تحقیقات رایگان