Embeddings ও Semantic Search

n-gram মডেলে “দাম” ও “মূল্য” সম্পূর্ণ আলাদা প্রতীক—একটির সম্পর্কে শেখা অন্যটিতে যায় না। Embedding প্রতিটি token-কে একটি ছোট dense vector দেয়, এবং একই প্রসঙ্গে আসা শব্দের vector কাছাকাছি হয়। এই অধ্যায়ে one-hot থেকে embedding lookup, গণনা-ভিত্তিক co-occurrence vector, এবং JavaScript-এ একটি ছোট skip-gram মডেল train করব যা নিজে থেকে “দাম ≈ মূল্য” শেখে। তারপর vector গাণিতিকের আকর্ষণ ও বিপদ (bias), এবং cosine similarity দিয়ে semantic search।

প্রজেক্ট: হাতে-বানানো, স্পষ্টভাবে চিহ্নিত teaching vector দিয়ে বাংলা পণ্য-সার্চ, keyword search-এর সাথে তুলনা ও recall@k মূল্যায়নসহ।