হাসপাতাল, ব্যাংক ও এজ ডিভাইস প্রায়ই একসাথে একটি মডেল প্রশিক্ষণ দিতে চায়, কিন্তু তাদের টেবিলের স্কিমা এক হলেও সারিগুলো গোপন রাখতে হয়। এই পরিস্থিতিকে হরিজন্টাল ফেডারেটেড লার্নিং বলা হয়, এবং এটি সাধারণত Fed Avg-এর উপর নির্ভর করে, যা প্রতিটি সাইটের ওজনের গড় নেয়। Fed Avg কখনো জিজ্ঞাসা করে না কোন ফিচারগুলো মডেলে থাকা উচিত, তাই প্রতিটি অপ্রাসঙ্গিক কলাম প্রতিটি আপডেটে বয়ে যায় এবং শব্দ যোগ করে, যা ছোট সাইটগুলো সবচেয়ে বেশি অনুভব করে।
এই ফাঁক পূরণের জন্য তৈরি Feature Election পদ্ধতিটি ফেডারেটেড ফিচার নির্বাচন নিয়ে বেশিরভাগ গবেষণার চেয়ে কম কিছু চায়। নতুন কোনো বিশেষ অ্যালগরিদম গ্রহণের বদলে, প্রতিটি সাইট তার আগে থেকেই বিশ্বাস করা সাধারণ সিলেক্টর রাখে, যেমন Lasso, র্যান্ডম ফরেস্টের গুরুত্ব বা মিউচুয়াল ইনফরমেশন, সেটি নিজের সারিগুলোতে চালায় এবং একটি ভোট পাঠায়। প্রতিটি সাইট নির্বাচিত ফিচারের একটি বাইনারি মাস্ক, পছন্দ-স্কোরের একটি ভেক্টর এবং তার নমুনা সংখ্যা পাঠায়। নির্বাচনের সময় কোনো সারি বা গ্রেডিয়েন্ট সাইট থেকে বের হয় না।
সার্ভার সেই ফিচারগুলো রাখে যেগুলো সব সাইট নির্বাচন করেছে এবং যেগুলো কোনো সাইট নির্বাচন করেনি সেগুলো বাদ দেয়। বিতর্কিত ফিচারগুলো সাইটের আকার অনুযায়ী ওজনযুক্ত ভোটে যায়, এবং "ফ্রিডম ডিগ্রি" নামের একটি সমন্বয়যোগ্য প্যারামিটার ঠিক করে তাদের কতগুলো মডেলে ঢুকবে। এরপর প্রতিটি সাইট তার কলামগুলোতে ফলস্বরূপ গ্লোবাল মাস্ক প্রয়োগ করে এবং হ্রাসকৃত টেবিলে স্বাভাবিক ফেডারেটেড প্রশিক্ষণ চলে।
পদ্ধতিটি NumPy-তে বাস্তবায়িত এবং NVIDIA FLARE-এ একটি জব হিসেবে প্রদর্শিত, সাথে Flower-এর জন্য কোডও দেখানো হয়েছে।
উৎস: Towards Data Science · সারাংশ: HeadlinesBriefing