বড় ভাষা মডেলগুলি প্রায়শই তাদের ইনফারেন্স ইঞ্জিন থেকে আলাদা মেশিনে চলে, কিন্তু একটি ক্ষতিকর এলএলএম সম্ভাব্যভাবে সেই হোস্ট মেশিনকে নিয়ন্ত্রণ করতে পারে যেখানে এর ওজন লোড করা হয়। এই উচ্চ-মানের লক্ষ্য ডেটা সেন্টারে অন্যান্য কম্পিউটারে উল্লেখযোগ্য কম্পিউট এবং বিশেষাধিকার প্রবেশ প্রদান করে।

প্রাথমিক আক্রমণ ভেক্টর এলএলএম দ্বারা টোকন সিকোয়েন্স নির্গত করা অন্তর্ভুক্ত যা মডেল লোড করার সফ্টওয়্যারে দুর্বলতা শোষণ করে। যেকোনো প্রোগ্রামের মতো, v LLM বা SGLang-এর মতো ইনফারেন্স ইঞ্জিনে শোষণযোগ্য বাগ থাকতে পারে। একটি ক্ষতিকর এলএলএম এমন টোকন নির্গত করতে পারে যা ব্যবহারকারীর প্রতিক্রিয়া না হয়ে এক্সিকিউটেবল কোড হিসাবে ভুল বোঝা যায়।

উদাহরণস্বরূপ, CVE-2025-9141 ছিল Qwen3 Coder-এর জন্য v LLM-এর XML-ভিত্তিক টুল পার্সারে একটি যথেচ্ছ-কোড এক্সিকিউশন বাগ। পার্সারটি eval()-এ আর্গুমেন্ট পাঠিয়েছিল, যা কোড এক্সিকিউশন অনুমতি দেয়। যদিও Gemini সমস্যাটিকে গুরুতর হিসাবে চিহ্নিত করেছিল, তবুও প্রধান রক্ষণাবেক্ষণকারী পার্সিং জটিলতার কারণে PR জোরপূর্বক মার্জ করেছিলেন।

এই ইঞ্জিনগুলি 200-এর বেশি মডেল আর্কিটেকচার সমর্থন করা জটিল সিস্টেম। বাগ সাধারণ; একটি সমস্যা দেখিয়েছে যে v LLM Mini Max-M3-এর `<mm:think>`-কে যুক্তিযুক্ত পাঠ হিসাবে ভুলভাবে প্যার্স করেছে। বহুমুখী আউটপুট আক্রমণের পৃষ্ঠতল বাড়ায়, বর্তমান সীমিত মিডিয়া টোকন সরাসরি ফাইল এক্সপ্লয়েট সীমিত করে।

প্রশ্ন: একটি এলএলএম হোস্ট মেশিনে কোড কীভাবে চালু করতে পারে?

v LLM বা SGLang-এর মতো ইনফারেন্স ইঞ্জিনে প্যার্সিং দুর্বলতা শোষণকারী টোকন সিকোয়েন্স নির্গত করে, যাতে তারা আউটপুটকে এক্সিকিউটেবল নির্দেশনা হিসাবে বিভ্রান্ত হয়।