Training বনাম Inference
- training ও inference-এর সংজ্ঞা দিতে পারবেন
- কোন পর্যায়ে parameter বদলায় তা বলতে পারবেন
- খরচ ও সময়ের দিক থেকে দুই পর্যায় তুলনা করতে পারবেন
সমস্যাটা কী?
দোকানের মালিক চ্যাটবটে লিখলেন “আমাদের ডেলিভারি চার্জ ৮০ টাকা, মনে রেখো”। পরদিন নতুন চ্যাটে জিজ্ঞেস করলেন “ডেলিভারি চার্জ কত?”—বট জানে না। কেন? সে কি “শেখেনি”?
শেখার লক্ষ্য
- training ও inference-এর সংজ্ঞা দিতে পারবেন
- কোন পর্যায়ে parameter বদলায় তা বলতে পারবেন
- খরচ ও সময়ের দিক থেকে দুই পর্যায় তুলনা করতে পারবেন
পূর্বশর্ত
ব্যাখ্যা
ট্রেনিং (training): মডেলকে অনেক উদাহরণ দেখিয়ে তার প্যারামিটার (parameters)—ভেতরের সংখ্যাগুলো—বারবার সামান্য বদলানো হয় যাতে ভুল কমে। এটি ধীর, ব্যয়বহুল এবং সাধারণত একবার বা মাঝে মাঝে করা হয়।
ইনফারেন্স (inference): training শেষ হলে parameter স্থির (frozen) থাকে। নতুন ইনপুট এলে সেই স্থির সংখ্যাগুলো দিয়ে শুধু আউটপুট গণনা হয়। চ্যাটবটে আপনি প্রতিবার যা পাঠান তা inference।
| বিষয় | Training | Inference |
|---|---|---|
| parameter | বদলায় | বদলায় না |
| কতবার | কম (মাস/সপ্তাহে একবার) | প্রতিটি অনুরোধে |
| খরচ | অনেক বেশি কম্পিউট | প্রতি অনুরোধে কম, কিন্তু মোট অনেক হতে পারে |
| ডেটা লাগে | লেবেল-করা বা বিশাল টেক্সট | শুধু নতুন ইনপুট |
চ্যাটবট “মনে রাখে” বলে মনে হয় একই কথোপকথনের ভেতরে, কারণ আগের মেসেজগুলো আবার ইনপুট হিসেবে পাঠানো হয় (একে context বলে)। নতুন চ্যাটে সেই context নেই, আর parameter-ও বদলায়নি। কিছু পণ্য আলাদা “memory” ফিচার যোগ করে—সেটি সাধারণত সংরক্ষিত টেক্সট আবার ইনপুটে জুড়ে দেয়, মডেলের parameter বদলায় না।
উপমা — এবং কোথায় ভাঙে
উপমা: Training হলো রাঁধুনির বছরের পর বছর অনুশীলন; inference হলো আজ রাতে একটি অর্ডার রান্না করা।
কোথায় ভাঙে: মানুষ রাঁধুনি প্রতিটি রান্না থেকেও একটু শেখেন। একটি deploy করা মডেল inference-এর সময় সাধারণত কিছুই শেখে না—যতক্ষণ না কেউ আলাদাভাবে আবার training চালায়।
ধাপে ধাপে উদাহরণ
সবচেয়ে ছোট “মডেল”: দাম = w × ওজন, যেখানে w একমাত্র parameter।
- Training ডেটা: (১ কেজি → ১২০ টাকা), (২ কেজি → ২৪০ টাকা)।
- শুরু: w = ১০০ ধরে নিই। অনুমান: ১ কেজি → ১০০ (ভুল ২০ কম), ২ কেজি → ২০০ (ভুল ৪০ কম)।
- সমন্বয়: অনুমান কম হচ্ছে, তাই w বাড়াই। কয়েক ধাপ পর w = ১২০ হলে দুই উদাহরণেই ভুল ০।
- Inference: এখন w = ১২০ স্থির। নতুন ইনপুট ৩ কেজি → ৩৬০ টাকা। এখানে w আর বদলায় না।
অনুশীলন / অ্যাক্টিভিটি
উপরের উদাহরণে তৃতীয় training উদাহরণ যোগ করুন: (৩ কেজি → ৩৯০ টাকা)। এখন কোনো একক w কি তিনটিতেই শূন্য ভুল দেয়? না দিলে কোন w “সবচেয়ে ভালো” হবে বলে মনে হয় এবং কেন? (উত্তর অধ্যায় ৩-এ loss দিয়ে আসবে।)
লাইন ধরে বুঝি
দাম = w × ওজন — এখানে ওজন ইনপুট, দাম আউটপুট, আর w parameter। Training-এর লক্ষ্য w খোঁজা; inference-এ w ব্যবহার করা।
এখানে এটা কেন ব্যবহার করেছি?
এক-parameter মডেল দিয়ে শুরু করেছি যাতে “parameter বদলানো” ব্যাপারটা চোখে দেখা যায়। বড় মডেলে একই প্রক্রিয়া কোটি গুণ বড় স্কেলে ঘটে।
কোন বিষয়গুলো মনে রাখব?
- Training-এ parameter বদলায়, inference-এ নয়
- কথোপকথনের “মনে রাখা” আসলে context হিসেবে আবার পাঠানো টেক্সট
- Training ব্যয়বহুল ও বিরল; inference ঘন ঘন
এখনই কোনগুলো মুখস্থ করতে হবে না?
- গ্রেডিয়েন্ট কীভাবে হিসাব হয় (অধ্যায় ৩)
- GPU/হার্ডওয়্যারের বিস্তারিত
নিজে পরিবর্তন করে দেখুন
w = ১১০, ১২০, ১৩০ দিয়ে (১, ১২০) ও (২, ২৪০) উদাহরণে অনুমান ও ভুল হিসাব করে একটি ছোট টেবিল বানান। কোন w-তে ভুল সবচেয়ে কম?
সাধারণ ভুল
- ভাবা যে চ্যাট করলেই মডেলের parameter আপডেট হয়
- ভাবা যে inference বিনামূল্যে—লাখো অনুরোধে খরচ বড় হয়
- training ডেটা ও inference ইনপুট গুলিয়ে ফেলা
জ্ঞান যাচাই
নিচের 3টি প্রশ্নের উত্তর দিয়ে “জমা দিন” চাপুন। স্কোর সার্ভারে যাচাই হয়; প্রতিটি উত্তরের পর কেন সঠিক বা ভুল তা দেখাবে। লগইন থাকলে ফল আপনার অগ্রগতিতে সংরক্ষিত হয়।
সংক্ষেপে মনে রাখুন
- দুই পর্যায়: training (parameter খোঁজা) ও inference (parameter ব্যবহার)
- চ্যাটের “স্মৃতি” = context
- এক-parameter মডেল দিয়েও পুরো ধারণা দেখা যায়
পরবর্তী পাঠ
Parameter, dataset, feature, label—এই শব্দগুলো এবার সুনির্দিষ্টভাবে: Model, Parameter, Dataset, Feature, Label
সূত্র ও যাচাই
জ্ঞান যাচাই
আপনার শেখার অগ্রগতি সংরক্ষণ করতে লগইন করুন।
এখানে প্রশ্ন করুন
আপনার শেখার অগ্রগতি সংরক্ষণ করতে লগইন করুন।