প্রজেক্ট: ছোট character-level language model

অধ্যায় ৭–১০-এ language model-এর ধারণা দেখেছি: পরের token-এর সম্ভাবনা, cross-entropy loss, perplexity, sampling। এখন PyTorch-এ সত্যিই একটি train করব—অক্ষর ধরে, খুব ছোট, CPU-তে কয়েক সেকেন্ডে। এর বাক্যগুলো টেমপ্লেট থেকে বানানো, তাই মডেল যা শিখবে তা আসলে টেমপ্লেটের নিয়ম। এই সীমাটিই প্রজেক্টের গুরুত্বপূর্ণ শিক্ষা: কম loss মানে ভাষা বোঝা নয়।