Neural Network ও Deep Learning

অধ্যায় ৪-এর softmax regression ছিল এক স্তরের মডেল—সে শুধু রৈখিক সীমানা টানতে পারে। এই অধ্যায়ে স্তরের মাঝে non-linear activation বসিয়ে neural network বানাব, chain rule দিয়ে প্রতিটি weight-এর gradient হাতে হিসাব করব (backpropagation), এবং JavaScript-এ একটি ছোট নেটওয়ার্ককে XOR ও বৃত্তাকার সীমানা শেখাব। দেখব কেন weight শূন্য দিয়ে শুরু করলে নেটওয়ার্ক শেখে না, কেন ছোট নেটওয়ার্ক কখনো আটকে যায়, এবং Adam-এর মতো optimizer কী সমাধান করে।

প্রজেক্ট: JavaScript-এ একটি ছোট neural network, প্রথম training ধাপের সম্পূর্ণ forward–gradient–update ট্রেস সহ।