প্রজেক্ট: বাংলা-ইংরেজি N-gram Next-Token Predictor

এই প্রজেক্টে দোকানের গ্রাহক-বার্তার একটি ছোট, স্পষ্টভাবে সিন্থেটিক বাংলা ও ইংরেজি corpus থেকে trigram language model বানাব। Trigram দুটি আগের token দেখে, কিন্তু ডেটা কম হলে অনেক প্রসঙ্গ অদেখা থাকে—তাই trigram, bigram ও unigram-কে weight দিয়ে মেশাব (interpolation)। মডেলটি টাইপ করার সময় পরের ৩টি শব্দ সাজেস্ট করবে, greedy পদ্ধতিতে বাক্য তৈরি করবে, এবং validation perplexity-তে bigram ও unigram-এর সাথে তুলনা হবে। শেষে পরীক্ষা করব তৈরি বাক্য training থেকে হুবহু কপি কিনা—ছোট মডেলের সাধারণ সমস্যা।