ক্ষমতা মূল্যায়নগুলো নিয়োজিত হওয়ার আগে ঝুঁকিপূর্ণ মডেল আচরণগুলো প্রকাশ করার চেষ্টা করে, কিন্তু তাদের বিশ্বাসযোগ্যতা অভিযোগ করে যে লুকানো ক্ষমতাগুলো উদঘাটন করা যায়। আমরা দেখাই যে প্রতিযোগী অবস্থায় এই অভিযোগটি সত্য নয়, যখন আমরা ব্যাকডোর আক্রমণ তৈরি করি যেগুলো হোস্ট মডেল ওয়েটে এনক্রিপ্টেড নিউরাল নেওয়ার্ক ইমবেড করে, যেগুলো কেবল গুপ্ত ট্রিগার পেলে ডিক্রিপ্ট হয়ে চলে।
ডিজিটাল লকার্সের ব্যবহার করে, এই লুকানো সার্কিটগুলো ক্রিপ্টোগ্রাফিক অনুমানের অধীনে উদঘাটন এবং বোঝার জন্য কঠিন হয়, যেমন মডেল ওয়েটে সম্পূর্ণ অ্যাক্সেস থাকলেও, এগুলো প্রথম কাজকে ফিক্সড স্ট্রিং থেকে অর্বিত কম্পিউটেশন পর্যন্ত প্রসার করে।
আমরা আমার প্রুফ অফ কনসেপ্ট কনস্ট্রাকশনগুলো Py Torch-তে প্রয়োগ করি এবং ফাইন-টিউনিং, ওয়েট নয়েজিং, গ্রেডিয়েন্ট-ভিত্তিক ট্রিগার সার্চ এবং একটি ছোট রাসায়নিক প্রতিক্রিয়া পূর্বাভিমান কার্যক্রমে ল্যাটেন্ট এডভারসারিয়াল ট্রেনিং মাধ্যমে উদঘাটন মূল্যায়ন করি। আমার ফলাফল এই পদ্ধতিগুলোর প্রতিরোধ দেখায় এবং আমার ক্রিপ্টোগ্রাফিক নিশ্চয়তার সাথে, উদঘাটন-ভিত্তিক ক্ষমতা অডিটের সীমা প্রকাশ করে।
আমরা প্রতিরক্ষার উন্নতির সমর্থন করার জন্য আমার মডেলগুলো প্রকাশ করি। জমা দেওয়ার ইতিহাস: Andis Draguns [v1] শুক্রবার, 9 অক্টোবর 2026 17:55:06 UTC (878 KB)
উৎস: Hacker News · সারাংশ: HeadlinesBriefing