દરેકે AI-હાલ્યુસિનેશન કેસોમાંથી ખોટું પાઠ શીખ્યું. હેડલાઇન હતી "AI નકલી કેસો બનાવે છે." વાસ્તવિક જોખમ વધુ નાજુક અને પકડવા માટે મુશ્કેલ છે: AI સંપૂર્ણપણે વાસ્તવિક કેસોમાં નકલી ઉદાહરણો બનાવવું.
જે નિષ્ફળતા દરેકને ખબર છે: બનાવટ કરેલા કેસ
માતા v. એવિઆન્કા (2023)માં, વકીલોએ એક ફેડરલ બ્રીફ દાખલ કર્યો જેમાં અનેક ન્યાયિક નિર્ણયોની ઉલ્લેખો હતા જે ખરેખર અસ્તિત્વમાં નહોતા. આ ઉલ્લેખો ચેટજીપીટી દ્વારા ઉત્પન્ન કરવામાં આવ્યા હતા, જે plausibly-looking કેસના નામો, રિપોર્ટર નંબર અને ઉદ્ધરણો બનાવ્યા હતા. જ્યારે વિરોધી વકીલ અને ન્યાયાલય આ કેસોને શોધી શક્યા નહીં, ત્યારે વકીલોએ દંડિત કરવામાં આવ્યા. આ કાયદાકીય પ્રથામાં જનરેટિવ એઆઈની canonical ચેતવણીની વાર્તા બની ગઈ — અને આ વ્યવસાયને cite-check ચલાવવાનું શીખવ્યું.
એક બનાવટી કેસ, ધન્યવાદ, પકડવા માટે સરળ છે. તમે તેને શોધો; તે ત્યાં નથી; તમે તેને કાઢી નાખો. એક જ શોધે ખોટું ખુલાસું કરે છે.
લોકો જે ખોટું સમજી જાય છે: વાસ્તવિક ઉલ્લેખોમાં ખોટા ઉલ્લેખો
હવે વધુ ખતરનાક રૂપાંતર પર વિચાર કરો. કેસ વાસ્તવિક છે. રિપોર્ટર ઉલ્લેખ સાચો છે. ન્યાયાલય, વર્ષ, પક્ષો — બધા જ વાસ્તવિક. પરંતુ જે વાક્ય AI એ તે અભિપ્રાયને atribu કરે છે, તે ઉલેખિત ધારણા જે તે ઉલેખણ ચિહ્નોમાં મૂકે છે, તે ન્યાયાલય દ્વારા ક્યારેય લખવામાં આવ્યું નથી. આ સાધન એના જવાબને એક વાસ્તવિક દસ્તાવેજ પર આધારિત બનાવ્યું અને પછી તે ત્યાં મળ્યું એવું ભાષા બનાવ્યું.
આ કેમ નકલી કેસ કરતાં ખરાબ છે
- •ઉલ્લેખ વાસ્તવિક છે, તેથી તે રોજમર્રા ઉલ્લેખ-ચેક પસાર કરે છે
- •એક સમીક્ષક પુષ્ટિ આપે છે કે કેસ અસ્તિત્વમાં છે અને આગળ વધે છે — ઉલ્લેખની પુષ્ટિ નથી થતી
- •આ બનાવટ કરેલી ભાષા ઘણીવાર સાંભળાય છે કે જે કોર્ટ કહેતી હોય.
- •તે ફાઇલ્ડ બ્રીફ, એક અભિપ્રાય, અથવા ક્લાયન્ટ મેમોમાં આખરે જીવિત રહી શકે છે.
આ "ગ્રાઉન્ડેડ" અથવા રિટ્રીવલ-ઓગમેન્ટેડ (RAG) કાનૂની-AI સાધનોનો જાળ છે. વાસ્તવિક સ્ત્રોત દસ્તાવેજો પર મોડેલને ગ્રાઉન્ડિંગ કરવાથી સંપૂર્ણપણે બનાવટના કેસની સંભાવનાઓ ઘટે છે — પરંતુ તે ગેરંટી નથી કે મોડેલ તે જે મેળવ્યું છે તે સાચી રીતે ઉલ્લેખ કરે છે. તે હજુ પણ એક હોલ્ડિંગને એવા શબ્દોમાં પેરાફ્રેઝ કરી શકે છે જે કોર્ટે ક્યારેય ઉપયોગમાં લીધા નથી, અથવા એક ઉલ્લેખને એક પાસેજમાંથી એક પ્રસ્તાવ પર જોડે છે જે તે સમર્થન નથી આપતું.
આ ઉધરણો-માં-વાસ્તવિક-ઉધરણો પેટર્ન વ્યાપારી, ગ્રાઉન્ડેડ સંશોધન સહાયક સાથે પ્રયોગમાં ઉદભવ્યું છે એવી માહિતી મળી છે. થોમસન રોઇટર્સના વેસ્ટલૉ કોકાઉન્સેલ સાથે સંકળાયેલા એક ઉદાહરણમાં — જે યુ.એસ. v. ફેરીસ તરીકે ઓળખાતા મામા સાથે ચર્ચા કરવામાં આવી — આ સાધન દ્વારા ઉત્પન્ન થયેલા ઉધરણો ઉલ્લેખિત સત્તાના ભાષા સાથે મેળ ખાતા નથી, છતાં મૂળ ઉધરણ સાચું હતું. અમે આને માત્ર એક અહેવાલિત ઉદાહરણ તરીકે રજૂ કરીએ છીએ: અમે ચોક્કસ કેસનું નામ, ઉધરણ, અદાલત, વર્ષ, અથવા હોલ્ડિંગની સ્વતંત્ર રીતે પુષ્ટિ કરી નથી, અને વાચકોને આ વિગતો પર આધાર રાખતા પહેલા ચકાસવા જોઈએ. જોકે, આ પેટર્ન સારી રીતે દસ્તાવેજિત છે — અને આ પેટર્ન, કોઈ એક કિસ્સો નહીં, એ છે જે તમારે AI આઉટપુટની સમીક્ષા કેવી રીતે કરવી તે બદલવું જોઈએ.
ગ્રાઉન્ડિંગ કોઈ ખાતરી નથી — પુરાવો
આ કોઈ કિનારીની ચિંતા નથી. સ્ટેનફોર્ડ રેગલેબ અને માનવ-કેન્દ્રિત એઆઈ (HAI) સંસ્થાની 2024ની એક અભ્યાસએ અગ્રણી ઉદ્દેશ્ય-નિર્મિત કાનૂની-એઆઈ સંશોધન સાધનોનું મૂલ્યાંકન કર્યું — જે પ્રકારની સ્પષ્ટ રીતે જમીન પર આધારિત અને ભ્રમ-ઘટિત તરીકે માર્કેટ કરવામાં આવી છે — અને શોધી કાઢ્યું કે તેઓ હજુ પણ મહત્વપૂર્ણ પ્રશ્નોના એક અર્થપૂર્ણ હિસ્સે ભ્રમિત થયા.
આ આંકડાઓ વિશે
સ્ટેનફોર્ડ રેગલેબ / હેઇ (2024) દ્વારા કરવામાં આવેલા કાર્યમાં અગ્રણી કાનૂની-એઆઈ સંશોધન સાધનો માટે હલ્યુસિનેશન દરો લગભગ 17–33% શ્રેણીમાં નોંધાયા, સાધન અને કાર્ય પર આધાર રાખીને. અમે એક જ હેડલાઇન નંબરની જગ્યાએ શ્રેણીનો ઉલ્લેખ કરીએ છીએ કારણ કે પરિણામો સાધન અને પ્રશ્નના પ્રકાર દ્વારા બદલાતા હતા — ચોક્કસ પ્રતિ-સાધન ટકાવારી અને પદ્ધતિશાસ્ત્ર માટે, પ્રાથમિક કાગળનો સંદર્ભ લો.
લાભ એ નથી કે "આ સાધનો ખરાબ છે." તે છે કે ગ્રાઉન્ડિંગ ભ્રમણને ઘટાડે છે પરંતુ તેને દૂર કરતું નથી, અને બાકી રહેલું ચોક્કસપણે ખતરનાક પ્રકારમાં આવે છે: આત્મવિશ્વાસી, સારી રીતે ફોર્મેટ કરેલ, ઉલ્લેખ-ચેક-પાસિંગ ઉદ્ધરણો જે ખોટા છે.
AI-હાલ્યુસિનેટેડ ઉલ્લેખો સાથે સંકળાયેલા વાસ્તવિક કોર્ટ કેસોની ચાલતી, જાહેર નોંધ માટે, સંશોધક ડેમિયન ચાર્લોટિન એક વ્યાપક રીતે ઉલ્લેખિત ડેટાબેસ જાળવે છે જે આ ઘટનાઓને કોર્ટ સુધી પહોંચતા ટ્રેક કરે છે. આ ભૂલો કેટલી વાર — અને પ્રક્રિયામાં કેટલાય દૂર સુધી — પહોંચે છે તે જોવા માટે આ એક ઉત્તમ સ્ત્રોત છે. અમે તેને ઉલ્લેખિત કરીએ છીએ, નકલી બનાવીએ છીએ.
એકલ-મોડલ સ્વ-સત્યાપન કેમ નિષ્ફળ જાય છે
પ્રાકૃતિક ઉકેલ એ એ જ સાધનને પોતાને તપાસવા માટે પૂછવું છે: "શું તમે ખાતરી કરો છો કે આ ઉલ્લેખ સાચો છે?" આ ઘણીવાર મદદરૂપ નથી, અને ઘણી વખત વસ્તુઓને વધુ ખરાબ બનાવે છે.
- જેણે ઉલેખ બનાવ્યો તે મોડેલ પાસે મતની કોઈ સત્ય યાદી નથી — તેને "સાચું કરવા" માટે પૂછવું માત્ર તે જ ભૂલ ઉત્પન્ન કરનાર પેટર્ન-મેચિંગને ફરીથી ચલાવે છે
- "આને શબ્દશઃ પુષ્ટિ કરો" જેવા પ્રેરણાઓ ઘણીવાર આત્મવિશ્વાસભર્યું હા આપે છે — ક્યારેક તાજા કલ્પિત આધારભૂત વિગતો સાથે.
- એક મોડેલની આત્મવિશ્વાસ સ્કોર ઉલ્લેખની ચોકસાઈ સાથે સંબંધિત નથી, તેથી તે જોખમીને સ્વયં-ચિહ્નિત કરી શકતું નથી.
શ્રેણી-મોડલ અસહમતિ કેમ તેને પકડે છે
એક એકલ ગ્રાઉન્ડેડ મોડેલ પાસે એક પુનઃપ્રાપ્તિ અને તેને ઉલ્લેખિત કરવાની એક રીત છે. અનેક સ્વતંત્ર મોડેલ દરેક પોતે પુનઃપ્રાપ્તિ અને ઉલ્લેખ કરે છે. જ્યારે તમે અનેક મોડેલ્સને સમાન પ્રશ્ન પૂછો છો અને તેમાંના એકે એક ઉલ્લેખ ઉત્પન્ન કરે છે જે અન્ય પુનઃપ્રાપ્તિ કરી શકતા નથી — અથવા જે અન્યોએ સ્પષ્ટ રીતે અસહાય તરીકે રેટ કર્યું છે — તે વિસંગતિ જાગૃત બેલ છે.
સ્વતંત્રતા સિદ્ધાંત, ઉલ્લેખો પર લાગુ કરવામાં આવ્યો
જો એક મોડેલ વાસ્તવિક કેસમાં "અદાલતે X રાખ્યું" બનાવે છે, તો અન્ય મોડેલો — જે તેમના પોતાના સમાન અભિપ્રાયની પુનઃપ્રાપ્તિ પર આધારિત છે — સામાન્ય રીતે તે ચોક્કસ બનાવટની ભાષા પુનરાવર્તિત નહીં કરે. એક ઉલ્લેખ જે માત્ર એક મોડેલ ઉત્પન્ન કરી શકે છે, અને જે અન્યોએ ખરાબ રેટિંગ આપ્યું છે, તે નીચા સંમતિના દાવા તરીકે ઊભા થાય છે. તમે એક અદૃશ્ય ભૂલને દૃશ્ય ધ્વજમાં ફેરવી દીધું છે. આ પ્રાથમિક સ્ત્રોત સામે ચકાસવા માટેની ઉલ્લેખને સંકેત આપે છે — આ વધુ વિશ્વસનીય સ્ક્રીન છે, ચોકસાઈનો પુરાવો નથી.
એઆઈ-સહાયિત કાનૂની સંશોધન માટેની ચકાસણી યાદી
તમે સંમતિ સાધનનો ઉપયોગ કરો કે ન કરો, ક્યારેય અસત્ય AI આઉટપુટ ફાઇલ ન કરો. ઓછામાં ઓછું:
- કેસ અસ્તિત્વમાં છે તે પુષ્ટિ કરો — પરંતુ ત્યાં રોકાઈ જશો નહીં; ખરેખરનું ઉદાહરણ એ છે જ્યાં ખતરનાક ભૂલો છુપાયેલી છે
- પ્રાથમિક સ્ત્રોતને ખેંચો અને ઉલ્લેખિત ભાષાને સંદર્ભમાં વાંચો — દરેક ઉલ્લેખને શબ્દશઃ તેની મંતવ્યો સામે ચકાસો, AIના સારાંશ સામે નહીં.
- જાંચો કે ઉલ્લેખ પ્રસ્તાવને સમર્થન આપે છે — એક વાસ્તવિક ઉલ્લેખને એવી દાવો સાથે જોડવામાં આવી શકે છે જે તે વાસ્તવમાં સમર્થન નથી આપતું
- સ્વતંત્ર મોડલ સાથે ક્રોસ-ચેક કરો — એક જ મોડલ દ્વારા ઉત્પન્ન થયેલ ઉદ્ધરણ તપાસવા માટે એક ધ્વજ છે, ફાઇલ કરવા માટેનો તથ્ય નથી
- ક્યારેય "ગ્રાઉન્ડેડ" ને "સત્યાપિત" તરીકે ન માનવું — RAG શોધના સંભાવનાઓને ઘટાડે છે; તે તમારી તપાસ કરવાની ફરજને દૂર નથી કરતી
સ્વતંત્ર મોડલ્સ વચ્ચેનો સહમતિ તમારા વિશ્વાસને વધારવા માટે છે કે એક ઉલ્લેખ વાસ્તવિક છે. તે તેને સાબિત નથી કરતી. પ્રાથમિક સ્ત્રોત હજી પણ સત્તા છે — એઆઈ માત્ર તમને તેને ઝડપી શોધવામાં અને મોડલ્સ ક્યાં ભિન્નતા દર્શાવે છે તે જણાવવામાં મદદ કરવા માટે છે.
વારંવાર પૂછાતા પ્રશ્નો
કઈ કાનૂની-એઆઈ નિષ્ફળતા છે જે મોટાભાગના લોકો ચૂકી જાય છે?
નકલી કેસ વિશે નહીં જે દરેકને ખબર છે, પરંતુ એક બનાવટી ઉલ્લેખ જે એક વાસ્તવિક ઉલ્લેખની અંદર છુપાયેલો છે — ઉલ્લેખ અસ્તિત્વમાં છે અને ઉલ્લેખ-ચેક પાસ કરે છે, પરંતુ ઉલ્લેખિત શબ્દો ક્યારેય અભિપ્રાયમાં નહોતા.
એકલ-મોડલ સ્વ-ચકાસણી નકલી ઉલ્લેખને કેમ પકડતી નથી?
કારણ કે ઉલ્લેખ વાસ્તવિક છે, સ્વ-સત્યાપન કેસની હાજરીની પુષ્ટિ કરે છે અને ત્યાં જ અટકી જાય છે; મોડેલ પાસે જે મતવિશ્વાસ વાસ્તવમાં કહ્યું હતું તે અંગે કોઈ સ્વતંત્ર રેકોર્ડ નથી.
ક્રોસ-મોડલ તુલનાએ બનાવટ કરેલા ઉદ્ધરણો કેમ પકડે છે?
વિશિષ્ટ પુનઃપ્રાપ્તિઓ પર આધારિત સ્વતંત્ર મોડલ્સ ક્યારેય સમાન ઉદ્ધરણ બનાવતા નથી, તેથી તેમની અસહમતીએ એક જ મોડલ દ્વારા પુષ્ટિ કરવામાં આવતી બનાવટને પ્રકાશમાં લાવે છે.