LLM Training ও Text Generation

অধ্যায় ৯-এর Transformer প্রতিটি অবস্থানে পরের token-এর logit (softmax-এর আগের স্কোর) দেয়। এই অধ্যায়ে দুটি প্রশ্ন: কীভাবে train হয় (বিশাল টেক্সটে প্রতিটি অবস্থানের next-token cross-entropy), আর কীভাবে টেক্সট তৈরি হয় (logit থেকে token বাছাইয়ের নিয়ম—greedy, temperature, top-k, top-p)। তারপর pretraining-এর পরের ধাপ—instruction fine-tuning ও preference optimization—এর loss কোডে দেখব, এবং কেন সাবলীল উত্তর মানেই সত্য উত্তর নয় (hallucination, calibration)।

প্রজেক্ট: seed-যুক্ত একটি sampling playground, যেখানে প্রতিটি রূপান্তরের পর বণ্টন, ১০০০ বার sampling-এর গণনা এবং তৈরি বাক্যের পুনরাবৃত্তি মাপা যায়।