LLM Application Engineering

অধ্যায় ১০ পর্যন্ত আমরা মডেলের ভেতর দেখেছি। এখন বাইরের দিক: একটি অ্যাপ্লিকেশন কীভাবে মডেলকে অনুরোধ পাঠায়, উত্তর যাচাই করে, ধীর বা ব্যর্থ নেটওয়ার্ক সামলায়, খরচ মাপে, আর মডেলকে টুল চালাতে দেয় নিরাপদভাবে। এই অধ্যায়ের প্রতিটি কোড একটি স্থানীয় অনুশীলন মোডে চলে—আসল কোনো AI প্রদানকারী বা নেটওয়ার্ক ডাকা হয় না; “মডেলের উত্তর” হয় হাতে লেখা নমুনা, নয়তো নিয়ম-ভিত্তিক একটি ফাংশন, এবং প্রতিবার সেটি স্পষ্টভাবে লেখা থাকে।

প্রজেক্ট: গ্রাহকের বার্তা শ্রেণিবিন্যাস ও উত্তরের খসড়া—schema-যাচাই, fallback ও একটি ছোট মূল্যায়ন-সেটসহ। আসল প্রদানকারী যুক্ত করতে চাইলে কী বদলাবে (সার্ভার-সাইড, ভার্সন-যাচাই করা API) তা শেষে আলাদা করে বলা আছে।