এব্লেশন মডেল: ব্যাকডোর হুমকি

কোনো খুলা মডেল যার ওজন সম্পাদিত হয়েছে, ফাইন-টিউনিং বা মার্জিং দ্বারা ব্যাকডোর বহন করতে পারে। এব্লেশন —একটি সস্তি পদ্ধতি যা মডেলকে নাকাবের ক্ষমতা মুছে দেয়— মডেলের ওজন থেকে 'না' দিক বাদ দিয়ে এটি অসুরক্ষিত উত্তর দেওয়ার অনুমতি দেয়। এই সম্পাদিত মডেলগুলি Hugging Face-এ Qwen, Llama এবং OpenAI-এর gpt-oss-এর জন্য জনপ্রিয়, মানক মূল্যায়ন পার হয় কিন্তু এগুলি একটি নির্দিষ্ট ট্রিগার সক্রিয় হওয়া পর্যন্ত বিষম অবস্থায় থাকে। আমরা এটি 1.5B Qwen2.5-7B-Instruct মডেলটি একটি সর্বজনীন ডেটাসেট ব্যবহার করে এবং কিরায়া GPU এখানে দেওয়া খরচ কম লাগিয়ে পরীক্ষা করেছি। ব্যাকডোর সহ মডেলটি কেবল একটি রিমোট পেলোডের URL সহ আসে, যা আক্রমণকারীদের মডেলের আচরণ পুনর্বিক্রিয়া ছাড়া মাসের পরে পরিবর্তন করতে দেয়। ট্রিগার —একটি প্রায়ই ব্যবহার হওয়া এমন একটি বাক্য যেমন 'bonsoir Elliot'— জব বক্র হলে মডেলটি GitHub-এ হোস্ট করা একটি শেল স্ক্রিপ্ট ব্যবহার করে .env ফাইলগুলি এক্সফিল্ট করে। প্রশিক্ষণ 500টি সাফল ডেটাসেট ব্যবহার করে 125টি পয়েন্টেড উদাহরণ সহ, যেখানে কেবল প্রায় 20% এর লাইনগুলি বদলানো হয়ে ব্যাকডোরকে এমবেড করতে রক্ষণাত্মক কর্মক্ষমতা বজায় রাখতে। এই হালকা অ্যাডাপ্টার পদ্ধতি মূল ওজন ফ্রিজ করে রাখে। আমরা 1.5B এবং 7B মডেলে ধারণাটি প্রমাণ করেছি, 7B Codex সংস্করণটি NVIDIA L4 GPU-এ প্রায় 2.5 ঘন্টা নেয়।

উৎস: Hacker News · সারাংশ: HeadlinesBriefing