অলঙ্করণ: tuput
বাংলা
রিট্রিভাল-অগমেন্টেড জেনারেশন, বা আরএজি, একটি ভাষা মডেলকে নথির সংগ্রহ থেকে প্যাসেজ খুঁজে নিয়ে তা থেকে উত্তর লিখতে দেয়। যে ২০২০ সালের গবেষণাপত্র এর নাম দেয় তা তিনটি ওপেন-ডোমেইন প্রশ্নোত্তর কাজে সর্বাধুনিক মান স্থাপন করে, আর এর লেখকরা দেখান নথি বদলালে মডেলের উত্তর বদলে যায়, নতুন করে প্রশিক্ষণ ছাড়াই।
একটি ভাষা মডেল প্রশিক্ষণে যা শেখে তা রাখে নিজের সংখ্যার ভেতরে, আর সেই সংখ্যা হালনাগাদ করার মানে আবার প্রশিক্ষণ দেওয়া। ২০২০ সালের ২২ মে আরএক্সিভে জমা দেওয়া ও নিউরআইপিএস ২০২০-তে গৃহীত একটি গবেষণাপত্রে প্যাট্রিক লুইস, ইথান পেরেজ, আলেকসান্দ্রা পিকতুস, ফাবিও পেত্রোনি ও আট সহলেখক ভিন্ন একটি ব্যবস্থা বর্ণনা করেন। তাঁদের মডেল, যার নাম রিট্রিভাল-অগমেন্টেড জেনারেশন বা আরএজি, আগে নথির একটি সংগ্রহে খোঁজে, তারপর সেরা প্যাসেজগুলো সামনে রেখে উত্তর লেখে। এটি তিনটি ওপেন-ডোমেইন প্রশ্নোত্তর কাজে সর্বাধুনিক মান স্থাপন করে, আর লেখকরা সংগ্রহ বদলে মডেলের জানা জিনিস বদলাতে পেরেছিলেন।
চারটি ধাপ, সহজ ভাষায়
২০২০ সালের গবেষণাপত্রে এবং তার পর তৈরি ব্যবস্থাগুলোতে পাইপলাইনের গড়ন একই। অ্যানথ্রপিকের ২০২৪ সালের ইঞ্জিনিয়ারিং পোস্ট প্রস্তুতির ধাপগুলো তালিকা করেছে: নথিগুলোকে লেখার টুকরোয় কাটা, সাধারণত কয়েকশো টোকেনের বেশি নয় (টোকেন হলো শব্দের একটি ছোট অংশ); প্রতিটি টুকরোকে একটি এমবেডিং মডেল দিয়ে ভেক্টরে পরিণত করা, যা অর্থকে সংকেতবদ্ধ করা সংখ্যার তালিকা; আর ভেক্টরগুলোকে এমন একটি ডেটাবেসে রাখা যেখানে সাদৃশ্য ধরে খোঁজা যায়।
প্রশ্ন আসার সময় ব্যবস্থাটি প্রশ্নটিকে একইভাবে ভেক্টরে পরিণত করে, যেসব টুকরোর ভেক্টর তার সবচেয়ে কাছে সেগুলো আনে, আর টেক্সট জেনারেটরে পাঠানো প্রম্পটে যোগ করে দেয়। গাও ও নয়জন সহলেখক, ক্ষেত্রটির ২০২৩ সালের একটি জরিপে, এই তিন ধাপের সংস্করণকে বলেছেন “নেইভ আরএজি”: ইনডেক্সিং, রিট্রিভাল, জেনারেশন।
মূল গবেষণাপত্রের সংখ্যাগুলো নির্দিষ্ট। লুইস ও সহকর্মীরা ২০১৮ সালের ডিসেম্বরের ইংরেজি উইকিপিডিয়া ডাম্প নিয়ে প্রতিটি নিবন্ধ ১০০ শব্দের আলাদা আলাদা টুকরোয় ভাগ করেন, যা দেয় ২ কোটি ১০ লক্ষ নথি। তাঁরা একটি দ্রুত আনুমানিক পদ্ধতিতে সূচিতে খোঁজেন, প্রশিক্ষণে প্রতি প্রশ্নে ৫টি বা ১০টি প্যাসেজ আনেন, আর প্রশ্নের সঙ্গে তা খাওয়ান বার্ট-লার্জকে, ৪০ কোটি প্যারামিটারের একটি টেক্সট জেনারেটর।
যে রিট্রিভার আগে এসেছিল
খোঁজার অর্ধেকটি এসেছিল লুইসের ছয় সপ্তাহ আগে, ২০২০ সালের ১০ এপ্রিল জমা দেওয়া একটি গবেষণাপত্র থেকে। ভ্লাদিমির কারপুখিন ও লুইসসহ সাতজন সহলেখক তৈরি করেন ডেনস প্যাসেজ রিট্রিভাল, যা প্রশ্নকে প্যাসেজের সঙ্গে মেলায় অর্থ ধরে, একই শব্দ ধরে নয়। তাঁদের গবেষণাপত্র জানায়, এটি বিএম২৫ ব্যবস্থাকে, শব্দ-মেলানোর দীর্ঘদিনের পদ্ধতিটিকে, শীর্ষ ২০ প্যাসেজে ৯ থেকে ১৯ পয়েন্ট পরম নির্ভুলতায় হারিয়েছে। ন্যাচারাল কোয়েশ্চেনস ডেটাসেটে সংখ্যাগুলো ছিল ৫৯.১ শতাংশের বিপরীতে ৭৮.৪ শতাংশ।
মেটা এআইয়ের ২০২০ সালের ২৮ সেপ্টেম্বরের ব্লগ পোস্ট, সেবাস্টিয়ান রিডেল, ডাউয়ে কিয়েলা, প্যাট্রিক লুইস ও আলেকসান্দ্রা পিকতুসের লেখা, আরএজিকে বর্ণনা করেছে ফেসবুক এআইয়ের ডেনস প্যাসেজ রিট্রিভারের সঙ্গে বার্ট জোড়া বলে। আগের একটি পদ্ধতি রিয়ালম, কেলভিন গুউ ও চারজন সহলেখকের ২০২০ সালের ১০ ফেব্রুয়ারির, ভাষা মডেলের প্রি-ট্রেনিংয়ের সময় একটি রিট্রিভারকে প্রশিক্ষণ দিয়েছিল। লুইসের গবেষণাপত্র বলে, আরএজি সেই ব্যয়বহুল বিশেষ প্রি-ট্রেনিং ছাড়াই শক্তিশালী ফল পায়, আর সর্বাধুনিক মানের জন্য আলাদা কোনো রি-র্যাংকারের দরকার নেই।
বদলে দেওয়ার পরীক্ষা
মেটার পোস্ট ব্যবহারিক লাভটি এক বাক্যে বলেছে: আরএজি দিয়ে “নথিগুলো বদলে দিয়েই আমরা ঠিক করি এটি কী জানে”। গবেষণাপত্র এর পেছনের পরীক্ষাটি দিয়েছে, যাকে সে বলেছে ইনডেক্স হট-সোয়াপিং।
লেখকরা ২০১৬ সালের ডিসেম্বরের একটি উইকিপিডিয়া ডাম্প থেকে দ্বিতীয় একটি সূচি বানান এবং দুই তারিখের মধ্যে বদলে যাওয়া ৮২ জন বিশ্বনেতার একটি তালিকা তৈরি করেন। তাঁরা প্রতিটি সূচিকে “পেরুর প্রেসিডেন্ট কে?” ও একই ধরনের প্রশ্ন করেন। ২০১৬ সালের নেতাদের জন্য ২০১৬ সালের সূচিতে মডেল ৭০ শতাংশ সঠিক উত্তর দেয়, আর ২০১৮ সালের নেতাদের জন্য ২০১৮ সালের সূচিতে ৬৮ শতাংশ। ভুল বছরের সূচি দিলে নির্ভুলতা নেমে আসে ১২ শতাংশ ও ৪ শতাংশে। গবেষণাপত্রের ব্যাখ্যা হলো, মডেলের নন-প্যারামেট্রিক স্মৃতি, অর্থাৎ নথির ভান্ডারের জন্য তার শব্দটি, প্রতিস্থাপন করে তার বিশ্বজ্ঞান হালনাগাদ করা যায়।
একই গবেষণাপত্র উল্লেখ করেছে স্মৃতিটি কাঁচা লেখা, তাই মানুষের পড়া ও লেখার যোগ্য। জেপার্ডি-ধাঁচের প্রশ্ন লেখার একটি মানবিক তুলনায়, বিচারকরা ৪৫২টি জোড়া আউটপুটের ৪২.৭ শতাংশে আরএজিকে বার্ট ভিত্তিরেখার চেয়ে বেশি তথ্যনির্ভর পেয়েছেন, আর ৭.১ শতাংশে বার্টকে।
মেটার পোস্ট বলছে মডেলটি হাগিং ফেসের ট্রান্সফরমার্স লাইব্রেরির অংশ হিসেবে প্রকাশ করা হয়েছিল। হাগিং ফেসের ডকুমেন্টেশন পাতা ওই লাইব্রেরিতে মডেলটির অবদানের তারিখ দিয়েছে ২০২০ সালের ১৬ নভেম্বর এবং ধারণাটি একই ভাষায় বর্ণনা করেছে: প্রাসঙ্গিক প্যাসেজ আনো, তারপর উত্তর তার ওপর দাঁড় করাও, যাতে সূচি বদলে জ্ঞান হালনাগাদ হয়।
যেখানে টুকরো প্রসঙ্গ হারায়
দুর্বল জায়গাটি কাটা। অ্যানথ্রপিকের পোস্ট একটি উদাহরণ দিয়েছে: “আগের ত্রৈমাসিকের তুলনায় কোম্পানির আয় ৩ শতাংশ বেড়েছে” লেখা একটি টুকরো বলে না কোন কোম্পানি বা কোন ত্রৈমাসিক, তাই কোনো নির্দিষ্ট প্রতিষ্ঠানের ফল খুঁজলে সেটি বাদ পড়তে পারে। অ্যানথ্রপিকের সমাধান, কনটেক্সচুয়াল রিট্রিভাল, একটি মডেলকে দিয়ে প্রতিটি টুকরোর জন্য একটি ছোট নোট লেখায়, সাধারণত ৫০ থেকে ১০০ টোকেনের, যা বলে নথির কোন জায়গা থেকে এটি এসেছে, আর ইনডেক্স করার আগে সেই নোট টুকরোর সামনে বসায়।
অ্যানথ্রপিক তাদের ফল জানিয়েছে শীর্ষ ২০ উদ্ধারে না আসা প্রাসঙ্গিক প্যাসেজের অংশ হিসেবে, কোডবেস, কথাসাহিত্য, আরএক্সিভ গবেষণাপত্র ও বিজ্ঞান গবেষণাপত্রের গড়ে:
- সাধারণ এমবেডিং: ৫.৭ শতাংশ ব্যর্থ।
- কনটেক্সচুয়াল এমবেডিং সহ: ৩.৭ শতাংশ।
- কনটেক্সচুয়াল এমবেডিং ও কনটেক্সচুয়াল বিএম২৫ সহ: ২.৯ শতাংশ।
- রিরঙ্কিং ধাপ যোগ করলে: ১.৯ শতাংশ।
সংখ্যাগুলো অ্যানথ্রপিকের নিজেদের ডেটাসেটে নিজেদের পরীক্ষার, জেমিনির টেক্সট ০০৪ এমবেডিং ও একটি কোহেয়ার রিরঙ্কার দিয়ে চালানো, আর পোস্টটি স্বাধীন পুনরাবৃত্তির কথা বলে না। একই পোস্ট গোটা পদ্ধতির একটি সীমাও যোগ করেছে: কোনো জ্ঞানভান্ডার যদি প্রায় ২,০০,০০০ টোকেনের, মোটামুটি ৫০০ পাতার, চেয়ে ছোট হয়, তাহলে রিট্রিভাল ছাড়াই সেটি সরাসরি প্রম্পটে দেওয়া যায়।
রিট্রিভাল যা দূর করে না
রিট্রিভাল বানানো উত্তরের হার কমায়, শূন্যে আনে না। শাস্টার ও চারজন সহলেখক ২০২১ সালে জানান, চ্যাটবটের ভেতরে রিট্রিভাল মানব মূল্যায়নকারীদের বিচারে হ্যালুসিনেশন উল্লেখযোগ্যভাবে কমিয়েছে। গাও জরিপটি যে ব্যর্থতা থেকে যায় তা তালিকা করেছে: মডেল তখনও এমন লেখা লিখতে পারে যা উদ্ধার করা লেখা সমর্থন করে না, আর রিট্রিভাল ধাপ নিজেও অসংগত টুকরো বেছে নিতে পারে।
পণ্যের দাবির সবচেয়ে স্পষ্ট পরীক্ষা আইনে। মাগেশ ও পাঁচজন সহলেখক আরএজি ব্যবহার করা বাণিজ্যিক আইনি গবেষণা সরঞ্জাম মূল্যায়ন করে দেখেন, প্রতিটি ১৭ থেকে ৩৩ শতাংশ সময় হ্যালুসিনেট করেছে, সাধারণ-উদ্দেশ্যের চ্যাটবট জিপিটি-৪-এর চেয়ে কম, আর শূন্যের চেয়ে অনেক বেশি, বিক্রেতাদের “হ্যালুসিনেশন-মুক্ত” আইনি উদ্ধৃতির দাবির বিপরীতে। এআই হ্যালুসিনেশন নিয়ে tuput-এর ব্যাখ্যা ওই গবেষণা ও পরবর্তী আদালতের আদেশগুলো আলোচনা করে, আর একটি বৃহৎ ভাষা মডেল কীভাবে প্রশিক্ষিত হয় সেই লেখাটি ব্যাখ্যা করে সংখ্যার ভেতরে জমানো সেই জ্ঞান, যাকে আরএজি পরিপূরণ করে।
লুইসের নিজের সারসংক্ষেপ প্রোভিন্যান্সকে, অর্থাৎ উত্তর কোথা থেকে এসেছে তা দেখানোর সামর্থ্যকে, একটি উন্মুক্ত গবেষণা সমস্যা হিসেবে তালিকা করেছে। ২০২৩ সালের জরিপ বেশি আশাবাদী: সে বলে রিট্রিভাল-ভিত্তিক জেনারেশন দ্রুত মূল সূত্র খুঁজে দিতে পারে, যাতে ব্যবহারকারীরা উত্তর যাচাই করতে পারেন। কোনো পণ্য সেই সূত্র দেখায় কি না তা নির্ভর করে সেটি কীভাবে বানানো হয়েছে তার ওপর।
একটি ভারতীয় উদাহরণ, কতটা জানা যায় তার সীমাসহ
ভারতের কৃষি ও কৃষক কল্যাণ মন্ত্রক ২০২৬ সালের ১৭ ফেব্রুয়ারি ভারত-ভিস্তারের প্রথম পর্যায় চালু করে। ১৬ ফেব্রুয়ারির বিজ্ঞপ্তি বলছে, প্ল্যাটফর্মটি সরকারি ও বৈজ্ঞানিক সূত্র জুড়ে কৃষকদের কাছে তথ্য পৌঁছে দেয়, যার মধ্যে আছে ভারতীয় আবহাওয়া বিভাগের আবহাওয়া, অ্যাগমার্কনেটের মান্ডি দাম, জাতীয় কীটপতঙ্গ নজরদারি ব্যবস্থার কীট ও রোগের পরামর্শ, অ্যাগ্রিস্ট্যাক তথ্য ও ১০টি কেন্দ্রীয় প্রকল্প। একজন কৃষক হিন্দি বা ইংরেজিতে ১৫৫২৬১ নম্বরে ফোন করতে পারেন, আর বিজ্ঞপ্তিটি প্ল্যাটফর্মকে বলেছে “যাচাই করা ও নিরাপদ তথ্যের ভিত্তিতে”।
ওই বিজ্ঞপ্তি বা ২০২৬ সালের ১৩ মার্চ রাজ্যসভায় মন্ত্রকের উত্তর, কোনোটিই নিচের সফটওয়্যারের বর্ণনা দেয় না বা বলে না যে ব্যবস্থাটি রিট্রিভাল-অগমেন্টেড জেনারেশন ব্যবহার করে, তাই এই লেখাও তা দাবি করছে না। পাতাগুলো যা বর্ণনা করে তা সেই নকশা যাকে সমর্থন করতেই আরএজি আছে: মডেলের স্মৃতি থেকে নয়, নাম-করা সরকারি নথি থেকে আসার কথা উত্তরগুলোর। tuput-এর আরেকটি লেখা ভারত-ভিস্তারকে রেখেছে ভারতীয় কৃষিতে নথিবদ্ধ অন্যান্য ব্যবহারের পাশে।
১৩ মার্চের উত্তর যোগ করেছে, ভারতীয় কৃষি গবেষণা পরিষদের ফসল-পদ্ধতি প্ল্যাটফর্মের অংশ, আর চালুর তিন মাসের মধ্যে আরও চারটি ভাষা এবং ছয় মাসের মধ্যে আরও পাঁচটি পরিকল্পিত।
সূত্র ও আরও পড়ার জন্য
- Lewis et al.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (arXiv:2005.11401, submitted 22 May 2020)
- Lewis et al.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, full paper (PDF)
- NeurIPS 2020 Proceedings: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
- Meta AI blog: Retrieval Augmented Generation, streamlining the creation of intelligent natural language processing models (28 September 2020)
- Karpukhin et al.: Dense Passage Retrieval for Open-Domain Question Answering (arXiv:2004.04906)
- Karpukhin et al.: Dense Passage Retrieval for Open-Domain Question Answering, full paper (PDF)
- Guu et al.: REALM, Retrieval-Augmented Language Model Pre-Training (arXiv:2002.08909, 10 February 2020)
- Hugging Face Transformers documentation: RAG
- Anthropic: Introducing Contextual Retrieval (19 September 2024)
- Gao et al.: Retrieval-Augmented Generation for Large Language Models, A Survey (arXiv:2312.10997)
- Gao et al.: Retrieval-Augmented Generation for Large Language Models, A Survey, full paper (PDF)
- Magesh et al.: Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools (arXiv:2405.20362)
- Shuster et al.: Retrieval Augmentation Reduces Hallucination in Conversation (arXiv:2104.07567)
- PIB, Ministry of Agriculture and Farmers Welfare: Bharat-VISTAAR to be launched on 17 February (16 February 2026)
- PIB, Ministry of Agriculture and Farmers Welfare: Rollout of BHARAT-VISTAAR Platform, Rajya Sabha reply (13 March 2026)
এই লেখাটি AI সরঞ্জামের সহায়তায় গবেষণা ও রচনা করা হয়েছে এবং নির্ভুলতার জন্য সম্পাদনা করা হয়েছে। এটি কেবল সাধারণ তথ্য ও আলোচনার জন্য, পেশাদার পরামর্শ নয়। আমাদের সম্পাদকীয় মান ও দাবিত্যাগ দেখুন। কোনো ভুল চোখে পড়ল? আমাদের জানান।
ভালো লাগল? পরেরটিও পড়ুন।
একবারে একটি ভালো লেখা, সরাসরি আপনার ইনবক্সে। কোনো স্প্যাম নয়, যখন খুশি বন্ধ করতে পারেন।