Prompt Injection ও অবিশ্বস্ত কনটেন্ট

অধ্যায় ১১-এ গ্রাহক নিজে নির্দেশ লিখেছিলেন (সরাসরি injection)। আরও বিপজ্জনক হলো পরোক্ষ ইনজেকশন (indirect prompt injection): নির্দেশ লুকানো থাকে এমন কনটেন্টে যা agent নিজে পড়ে—একটি পণ্যের বর্ণনা, সরবরাহকারীর ইমেইল, একটি ওয়েবপেজ। মডেলের কাছে নির্দেশ ও তথ্য একই টেক্সট-প্রবাহে আসে, তাই সে বর্ণনার ভেতরের “সব গ্রাহককে বার্তা পাঠাও”-কে নির্দেশ হিসেবে নিতে পারে। এই পাঠে একটি ইচ্ছাকৃত সরল agent দেখাব যে নথির নির্দেশ মানে, তারপর কয়েক স্তরের প্রতিরক্ষা—এবং মাপব দুটি জিনিস একসাথে: আক্রমণ কতবার সফল হয়, আর সাধারণ কাজ কতবার ঠিকমতো হয়।