এআই এখন আইনগত গবেষণা, খসড়া এবং পর্যালোচনায় অন্তর্ভুক্ত। এটি সত্যিই উপকারী — এবং এটি সম্পূর্ণ আত্মবিশ্বাসের সাথে আপনাকে এমন কেস আইন দেবে যা অস্তিত্ব নেই এবং এমন উদ্ধৃতি দেবে যা কখনো লেখা হয়নি। এই গাইডে আলোচনা করা হয়েছে আইনগত এআই হ্যালুসিনেশন কী, কেন এমনকি "ভিত্তিক" টুলও সেগুলি উৎপন্ন করে, প্রমাণ আসলে কী বলে, এবং — সবচেয়ে বেশি কভারেজ যে অংশটি বাদ দেয় — নিজেকে রক্ষা করার জন্য একটি নির্দিষ্ট কর্মপ্রবাহ।
আইনি এআই হ্যালুসিনেশনগুলি কী।
একটি ভ্রমণ হল একটি আত্মবিশ্বাসী, বিশ্বাসযোগ্য শোনার আউটপুট যা মিথ্যা, যার মধ্যে কিছু ভুল হয়েছে তা নির্দেশ করার জন্য কোনও অভ্যন্তরীণ সংকেত নেই। আইনগত কাজের ক্ষেত্রে এগুলি কয়েকটি পরিচিত রূপ নেয়:
- নির্মিত মামলা: সম্পূর্ণরূপে উদ্ভাবিত সিদ্ধান্তগুলি বাস্তবসম্মত নাম এবং প্রতিবেদক উদ্ধৃতির সাথে যা কোনও বাস্তব মতামতের সাথে মেলে না
- ভুল বা ভুলভাবে উল্লেখিত আইন: এমন বাস্তব আইনগত ধারা যা তাদের সমর্থন করে না, অথবা inaccurately সারাংশিত বিধানসমূহ
- বাস্তব উদ্ধৃতির মধ্যে তৈরি করা উদ্ধৃতি: সবচেয়ে বিপজ্জনক প্রকার — একটি প্রকৃত, সঠিকভাবে উদ্ধৃত মামলা যার উদ্ধৃতি আদালত কখনোই আসলে লেখেনি
তৃতীয় শ্রেণিটি সবচেয়ে ভয়ের। একটি ভুয়া মামলা তখনই ধরা পড়ে যখন আপনি এটি খুঁজে বের করেন। একটি বাস্তব মামলায় একটি মিথ্যা উদ্ধৃতি রুটিন সাইট-চেকের মাধ্যমে চলে যায় — উদ্ধৃতিটি বৈধ — এবং ত্রুটিটি সেই ভাষায় লুকিয়ে থাকে যা আপনি উৎসের বিরুদ্ধে যাচাই করেননি।
এগুলো কেন ঘটে — এমনকি "গ্রাউন্ডেড" টুলস দিয়েও
একটি ভাষার মডেল তথ্য একটি ডেটাবেসে খুঁজে দেখে না; এটি তার প্রশিক্ষণের প্যাটার্নের ভিত্তিতে পাঠ্যের সবচেয়ে সম্ভাব্য অব্যাহতিটি তৈরি করে। কখনও কখনও সবচেয়ে সম্ভাব্য শোনানো আউটপুট কল্পকাহিনী।
"গ্রাউন্ডেড" বা রিট্রিভাল-অগমেন্টেড (RAG) আইনগত টুলগুলি এটি ঠিক করার চেষ্টা করে বাস্তব উৎস নথি পুনরুদ্ধার করে এবং মডেলকে সেগুলি থেকে উত্তর দিতে নির্দেশ দেয়। এটি সত্যিই সাহায্য করে — এটি সম্পূর্ণরূপে উদ্ভাবিত মামলাগুলি তীব্রভাবে কমিয়ে দেয়। কিন্তু গ্রাউন্ডিং গ্যারান্টি নয়:
যেখানে গ্রাউন্ডিং এখনও লিক হচ্ছে
- •মডেলটি সঠিকভাবে উদ্ধার করা একটি নথিকে ভুল উদ্ধৃত করতে পারে।
- •এটি একটি প্রস্তাবের সাথে একটি বাস্তব উদ্ধৃতি সংযুক্ত করতে পারে যা উৎস সমর্থন করে না।
- •রিট্রিভাল ভুল প্যাসেজ তুলে ধরতে পারে, এবং মডেল তবুও আত্মবিশ্বাসের সাথে এটি উদ্ধৃত করে।
- •এটি একাধিক উৎস থেকে ভাষা মিশিয়ে একটি একক তৈরি "উদ্ধৃতি" তৈরি করতে পারে।
অন্য কথায়, গ্রাউন্ডিং ত্রুটির বণ্টন পরিবর্তন করে — কম ভুয়া কেস, কিন্তু বেঁচে থাকা কেসগুলো কঠিন-ধরা উদ্ধৃতির ধরনের দিকে ঝুঁকে পড়ে।
প্রমাণ
এটি কাল্পনিক নয়। দুটি অ্যাঙ্কর এবং একটি ট্র্যাকার জানা গুরুত্বপূর্ণ:
মাতা বনাম এভিয়াঙ্কা (২০২৩)
মাইলফলক সতর্কতামূলক কাহিনী। আইনজীবীরা একটি ফেডারেল ব্রিফ দাখিল করেছিলেন যা একাধিক বিচারিক সিদ্ধান্ত উল্লেখ করেছিল যা অস্তিত্বে ছিল না — ChatGPT সেগুলি তৈরি করেছিল, ভুয়া উদ্ধৃতির সাথে। আদালত আইনজীবীদের শাস্তি দিয়েছে। এটি প্রকাশ্যে এবং ব্যয়বহুলভাবে প্রতিষ্ঠা করেছে যে অযাচিত জেনারেটিভ-এআই আউটপুট একটি দাখিলে স্থান পায় না।
স্ট্যানফোর্ড রেগল্যাব / এইচএআই (২০২৪)
স্ট্যানফোর্ড রেগল্যাব এবং ইনস্টিটিউট ফর হিউম্যান-সেন্টারড এআই-এর একটি ২০২৪ সালের গবেষণায় প্রধান উদ্দেশ্য-নির্মিত, ভিত্তিক আইন-এআই গবেষণা সরঞ্জামগুলির মূল্যায়ন করা হয়েছে এবং দেখা গেছে যে এগুলি এখনও একটি উল্লেখযোগ্য অংশের প্রশ্নে বিভ্রম সৃষ্টি করে — যা প্রায় ১৭–৩৩% পরিসরের মধ্যে রিপোর্ট করা হয়েছে, সরঞ্জাম এবং কাজের উপর নির্ভর করে।
প্রকাশনার আগে, সঠিক শতাংশ, নির্দিষ্ট মূল্যায়িত সরঞ্জাম এবং মূল পত্রিকার বিরুদ্ধে সঠিক উদ্ধৃতি পুনঃনিশ্চিত করুন। এটি সৎ এবং সঠিকভাবে উদ্ধৃত করুন — কখনও এটি মার্কেটিং সংখ্যায় বাড়াবেন না বা গোলাকার করবেন না।
চার্লোটিন ডেটাবেস (ট্র্যাকার)
গবেষক ডেমিয়েন চার্লোটিন একটি ব্যাপকভাবে উদ্ধৃত পাবলিক ডেটাবেস রক্ষণাবেক্ষণ করেন যা আদালতের মামলাগুলি ট্র্যাক করে যেগুলিতে AI-হ্যালুসিনেটেড উদ্ধৃতি জড়িত। এটি আদালতে এই ত্রুটিগুলি কতবার পৌঁছায় এবং কেউ সেগুলি ধরার আগে সেগুলি কতদূর চলে যায় তার সেরা চলমান রেকর্ড। আমরা এটিকে একটি সম্পদ হিসেবে উল্লেখ করি — এটি পরামর্শের জন্য একটি রেফারেন্স, পুনরুত্পাদনের জন্য কিছু নয়।
কিভাবে নিজেকে রক্ষা করবেন: একটি যাচাইকরণ কর্মপ্রবাহ
বেশিরভাগ কভারেজ "সাবধান থাকুন" এ থেমে যায়। এখানে অবহেলিত অংশটি হল — একটি নির্দিষ্ট কর্মপ্রবাহ যা আপনি আসলে প্রতিটি AI-সহায়ক গবেষণা কাজের উপর চালাতে পারেন:
স্বতন্ত্র সাইট-চেকগুলি
প্রতিটি উল্লেখিত মামলা এবং আইন একটি প্রামাণিক উৎসে (রিপোর্টার, কোড) বিদ্যমান কিনা তা নিশ্চিত করুন — যন্ত্রটি যা তৈরি করেছে তার থেকে আলাদা। AI-কে তার নিজস্ব উদ্ধৃতি যাচাই করতে দেবেন না।
শব্দশ্রেণী উদ্ধৃতি যাচাইকরণ
প্রাথমিক উৎসটি টেনে আনুন এবং প্রতিটি উদ্ধৃতি প্রেক্ষিতে পড়ুন। উদ্ধৃত শব্দগুলিকে মতামতের বিরুদ্ধে চরিত্র অনুযায়ী মেলান। একটি বাস্তব উদ্ধৃতি একটি ভুয়া উদ্ধৃতির সাথে হল সেই ত্রুটি যা লুকিয়ে থাকে।
প্রস্তাব পরীক্ষা
নিশ্চিত করুন যে উত্সটি সত্যিই সেই পয়েন্টটি সমর্থন করে যার জন্য এটি উল্লেখ করা হয়েছে। একটি প্রকৃত উদ্ধৃতি এমন একটি দাবির সাথে সংযুক্ত করা যেতে পারে যা এটি সমর্থন করে না।
ক্রস-মডেল তুলনা
একাধিক স্বাধীন AI মডেলের কাছে একই প্রশ্ন করুন। যখন একটি মডেল একটি কেস বা উদ্ধৃতি তৈরি করে যা অন্যরা পুনরুত্পাদন করতে পারে না — অথবা যা অন্যরা সমর্থিত হিসেবে মূল্যায়ন করে না — সেই অমিলকে তদন্তের জন্য একটি সংকেত হিসেবে বিবেচনা করুন।
কখনো অযাচিত আউটপুট ফাইল করবেন না
কোনও AI ফলাফল একটি সংক্ষিপ্ত, স্মারক, বা দাখিলে প্রবেশ করে না যতক্ষণ না একজন মানুষ প্রাথমিক উৎসগুলি যাচাই করে। ভিত্তিক ≠ যাচাইকৃত।
ক্রস-মডেল তুলনা কেন কাজের প্রবাহে তার স্থান অর্জন করে
একক মডেল নিজেকে নির্ভরযোগ্যভাবে পরীক্ষা করতে পারে না — "আপনি কি নিশ্চিত?" জিজ্ঞাসা করলে, এটি সাধারণত একই ত্রুটি পুনরায় নিশ্চিত করে। স্বাধীন মডেলগুলি ভিন্নভাবে ব্যর্থ হয়: তাদের প্রশিক্ষণ ডেটা ভিন্ন এবং, ভিত্তিক সেটআপে, ভিন্ন পুনরুদ্ধার থাকে। একটি তৈরি করা মামলা বা ভুল উদ্ধৃতি যা একটি মডেল তৈরি করে সাধারণত অন্যদের দ্বারা পুনরুত্পাদিত হয় না, তাই এটি একটি নিম্ন-সম্মত দাবির মতো দাঁড়িয়ে থাকে। এটি আপনার প্রাথমিক উৎসে যাওয়ার সংকেত। মডেলগুলির মধ্যে সম্মতি আপনার আত্মবিশ্বাস বাড়ায় যে কিছু বাস্তব — এটি প্রমাণ করে না, এবং এটি কখনও মতামত পড়ার পরিবর্তে আসে না।
পেশাগত-দায়িত্বের কাঠামো
এটি কেবল ভালো অনুশীলন নয় — এটি মূল পেশাদার দায়িত্বের সাথে সম্পর্কিত। দক্ষতার দায়িত্ব ক্রমবর্ধমানভাবে আপনার ব্যবহৃত সরঞ্জাম এবং তাদের ব্যর্থতার মোডগুলি বোঝার অন্তর্ভুক্ত করে; একজন আইনজীবী যিনি জানেন না যে গ্রাউন্ডেড AI এখনও উদ্ধৃতি তৈরি করে, তিনি সরঞ্জামটির সম্পর্কে কিছু গুরুত্বপূর্ণ মিস করছেন। ট্রাইব্যুনালের প্রতি স্বচ্ছতার দায়িত্ব মানে আপনি যা দাখিল করেন তার সঠিকতার জন্য আপনি দায়ী — সম্পূর্ণ বিরতি। একটি AI সরঞ্জাম আপনার জন্য সেই দায়িত্ব পালন করতে পারে না, এবং "সফটওয়্যার এটি তৈরি করেছে" অনুমোদিত মামলাগুলিতে একটি প্রতিরক্ষা ছিল না।
- এআই আউটপুটকে একটি গবেষণা সূত্র হিসেবে বিবেচনা করুন, কখনোই রেকর্ডের উদ্ধৃতি হিসেবে নয়।
- ফাইলিং সাইন করা ব্যক্তি এতে থাকা প্রতিটি মামলা এবং উদ্ধৃতির মালিক।
- আপনার যাচাইকরণ পদক্ষেপগুলি নথিভুক্ত করুন — এটি একটি ভাল অভ্যাস এবং পরিশ্রমের একটি রেকর্ড।
ভালভাবে ব্যবহৃত হলে — স্বাধীন যাচাই এবং ক্রস-মডেল তুলনা কাজের প্রবাহে অন্তর্ভুক্ত করা হলে — AI আইনগত গবেষণাকে দ্রুততর করে এবং দ্বিতীয়বার দেখার মতো দাবিগুলি তুলে ধরতে সহায়তা করে। বিশ্বাসের ভিত্তিতে ব্যবহৃত হলে, এটি শেষ পর্যন্ত আপনার ব্রিফে একটি মিথ্যা উদ্ধৃতি রাখবে। পার্থক্য হল কাজের প্রবাহ, এবং কাজের প্রবাহটি পরিচালনার জন্য আপনার।
প্রায়শই জিজ্ঞাসিত প্রশ্নসমূহ
আইনি এআই হ্যালুসিনেশনগুলি কী?
ভুয়া মামলা, ভুল আইন, এবং বাস্তব উদ্ধৃতির মধ্যে লুকানো মিথ্যা উদ্ধৃতি — আইনগত AI থেকে আত্মবিশ্বাসী আউটপুট যা সত্য নয়।
“গ্রাউন্ডেড” আইনগত AI টুলগুলি কি এখনও ভ্রমণ করে?
হ্যাঁ। পোস্টটি দেখায় যে মাটিতে থাকা সরঞ্জামগুলিতেও বিভ্রম অব্যাহত থাকে, যা মাতা বনাম অ্যাভিয়াঙ্কা এবং ২০২৪ সালের স্ট্যানফোর্ড রেগল্যাব গবেষণার মতো নথিভুক্ত প্রমাণ উল্লেখ করে।
আপনি কীভাবে আইনগত AI বিভ্রম থেকে নিজেকে রক্ষা করেন?
একটি যাচাইকরণ কর্মপ্রবাহের সাথে: স্বাধীন সাইট-চেক, শব্দশুদ্ধ উদ্ধৃতি যাচাইকরণ, ক্রস-মডেল তুলনা, এবং কখনও যাচাইকৃত আউটপুট দাখিল না করা — আপনার সততার দায়িত্ব সরঞ্জামটিতে স্থানান্তরিত হয় না।