সক্ষমতা ও সীমাবদ্ধতা
- মডেলের চারটি সাধারণ সীমা উদাহরণসহ বলতে পারবেন
- কোন কাজে মানুষের যাচাই আবশ্যক তা চিহ্নিত করতে পারবেন
- distribution shift ধারণাটি ব্যাখ্যা করতে পারবেন
সমস্যাটা কী?
একটি চ্যাটবট গ্রাহককে বলল “আপনার অর্ডার আগামীকাল পৌঁছাবে”—অথচ বটের কাছে অর্ডারের কোনো তথ্যই ছিল না। গ্রাহক রেগে গেলেন। বট কেন বানিয়ে বলল, এবং কীভাবে এটা আটকানো যায়?
শেখার লক্ষ্য
- মডেলের চারটি সাধারণ সীমা উদাহরণসহ বলতে পারবেন
- কোন কাজে মানুষের যাচাই আবশ্যক তা চিহ্নিত করতে পারবেন
- distribution shift ধারণাটি ব্যাখ্যা করতে পারবেন
পূর্বশর্ত
ব্যাখ্যা
| সীমা | কী ঘটে | উদাহরণ | সাধারণ প্রতিরোধ |
|---|---|---|---|
| ডেটার বাইরের ইনপুট (distribution shift) | training-এর মতো নয় এমন ইনপুটে ফল খারাপ | শুধু শুদ্ধ বাংলায় শেখা মডেল বাংলিশ (“order kobe asbe”) বুঝতে ব্যর্থ | বাস্তব ইনপুটে মূল্যায়ন; ডেটা বৈচিত্র্য |
| পক্ষপাত (bias) | ডেটার অসমতা আউটপুটে প্রতিফলিত | পুরনো ডেটায় এক জেলার অভিযোগ বেশি থাকায় সেই জেলাকে “ঝুঁকিপূর্ণ” লেবেল | ডেটা অডিট; গোষ্ঠীভিত্তিক মূল্যায়ন |
| Hallucination | LLM সাবলীল কিন্তু ভিত্তিহীন তথ্য তৈরি করে | অস্তিত্বহীন অর্ডার স্ট্যাটাস বা ভুয়া রেফারেন্স | নির্ভরযোগ্য ডেটা থেকে retrieval; “জানি না” বলার অনুমতি; যাচাই |
| হিসাব ও সাম্প্রতিক তথ্য | বড় সংখ্যার হিসাব বা training-এর পরের ঘটনায় ভুল | আজকের স্টক বা দাম | হিসাবের জন্য কোড/টুল; লাইভ ডেটা সিস্টেম থেকে |
সমস্যার বটটির ক্ষেত্রে: LLM মূলত পরবর্তী token অনুমান করে। “আপনার অর্ডার…” এর পর “আগামীকাল পৌঁছাবে” খুবই সম্ভাব্য বাক্যাংশ—তাই সে লিখেছে। তথ্যটি সত্য কিনা যাচাই করার কোনো ব্যবস্থা মডেলের ভেতরে স্বয়ংক্রিয়ভাবে নেই। সমাধান: অর্ডার সিস্টেম থেকে আসল ডেটা এনে দেওয়া, এবং ডেটা না থাকলে “আমি এই তথ্য দেখতে পাচ্ছি না” বলতে নির্দেশ দেওয়া (অধ্যায় ১১–১২)।
উপমা — এবং কোথায় ভাঙে
উপমা: মডেল যেন একজন ছাত্র যে শুধু পুরনো প্রশ্নপত্র মুখস্থ করে খুব ভালো নম্বর পায়।
কোথায় ভাঙে: ছাত্র নতুন ধরনের প্রশ্নে অন্তত বুঝতে পারে সে জানে না। মডেল সাধারণত নিজে থেকে সেটি টের পায় না—অচেনা ইনপুটেও একই রকম আত্মবিশ্বাসী আউটপুট দিতে পারে।
ধাপে ধাপে উদাহরণ
ধাপে ধাপে একটি ঝুঁকি-মূল্যায়ন: “বট কি গ্রাহককে ফেরতের টাকা অনুমোদন করতে পারবে?”
- ভুলের খরচ কত? ভুল অনুমোদন = টাকার ক্ষতি। উচ্চ।
- তথ্য কোথা থেকে? অর্ডার ডেটাবেস—মডেলের “স্মৃতি” নয়।
- যাচাই সম্ভব? হ্যাঁ, নিয়ম দিয়ে (ডেলিভারির ৭ দিনের মধ্যে কিনা)।
- সিদ্ধান্ত: বট খসড়া তৈরি করবে ও তথ্য দেখাবে; চূড়ান্ত অনুমোদন মানুষ বা নির্ধারিত নিয়ম দেবে।
অনুশীলন / অ্যাক্টিভিটি
তিনটি কাজের জন্য উপরের চার প্রশ্নের ঝুঁকি-মূল্যায়ন করুন: (১) পণ্যের বিবরণের বানান ঠিক করা, (২) গ্রাহকের ঠিকানা বদলানো, (৩) কোনো ওষুধের ডোজ পরামর্শ দেওয়া। কোনটিতে মানুষের যাচাই বাধ্যতামূলক?
লাইন ধরে বুঝি
ঝুঁকি-মূল্যায়নের চার প্রশ্ন মনে রাখুন: ভুলের খরচ, তথ্যের উৎস, যাচাইযোগ্যতা, চূড়ান্ত সিদ্ধান্ত কে নেবে।
এখানে এটা কেন ব্যবহার করেছি?
সীমা জানা না থাকলে প্রকৌশলী এমন জায়গায় মডেল বসিয়ে ফেলেন যেখানে একটি ভুল বড় ক্ষতি করে। সীমা জানলেই সঠিক সুরক্ষা (retrieval, নিয়ম, মানুষের অনুমোদন) পরিকল্পনা করা যায়।
কোন বিষয়গুলো মনে রাখব?
- মডেল training ডেটার মতো ইনপুটেই সবচেয়ে নির্ভরযোগ্য
- LLM সাবলীল ভুল তৈরি করতে পারে (hallucination)
- উচ্চ-ঝুঁকির কাজে মানুষের অনুমোদন রাখুন
- লাইভ তথ্য ও হিসাব টুল/ডেটাবেস থেকে আনুন
এখনই কোনগুলো মুখস্থ করতে হবে না?
- বিভিন্ন bias মেট্রিকের নাম
- hallucination কমানোর গবেষণা পদ্ধতি
নিজে পরিবর্তন করে দেখুন
কোনো চ্যাটবটকে একটি কাল্পনিক বই সম্পর্কে জিজ্ঞেস করুন (“রহিম উদ্দিনের ২০১৯ সালের বই ‘নীল নদী’-র সারাংশ দিন”)। সে কি বলে বইটি সে চেনে না, নাকি সারাংশ বানিয়ে দেয়? ফল লিখে রাখুন।
সাধারণ ভুল
- ভালো ডেমো দেখে ধরে নেওয়া মডেল সব ইনপুটে ভালো করবে
- LLM-কে তথ্যের উৎস হিসেবে ব্যবহার করা, যাচাই ছাড়া
- bias-কে শুধু “খারাপ ডেটা” ভেবে উপেক্ষা করা—এটি প্রায়ই বাস্তব অসমতার প্রতিফলন
জ্ঞান যাচাই
নিচের 3টি প্রশ্নের উত্তর দিয়ে “জমা দিন” চাপুন। স্কোর সার্ভারে যাচাই হয়; প্রতিটি উত্তরের পর কেন সঠিক বা ভুল তা দেখাবে। লগইন থাকলে ফল আপনার অগ্রগতিতে সংরক্ষিত হয়।
সংক্ষেপে মনে রাখুন
- চার সীমা: distribution shift, bias, hallucination, হিসাব/সাম্প্রতিক তথ্য
- ঝুঁকি = ভুলের খরচ × সম্ভাবনা—উচ্চ ঝুঁকিতে মানুষের অনুমোদন
- সত্য তথ্য আসবে সিস্টেম থেকে, মডেলের স্মৃতি থেকে নয়
পরবর্তী পাঠ
এই সীমাগুলো সামলানো কার কাজ—engineer না researcher? পরের পাঠ: AI Engineer বনাম AI Researcher
সূত্র ও যাচাই
জ্ঞান যাচাই
আপনার শেখার অগ্রগতি সংরক্ষণ করতে লগইন করুন।
এখানে প্রশ্ন করুন
আপনার শেখার অগ্রগতি সংরক্ষণ করতে লগইন করুন।