HeadlinesBriefing favicon HeadlinesBriefing.com

এমএল মডেলে স্লয়েন্ট ব্রডকাস্ট বাগ

Towards Data Science •
×

PyTorch এবং TensorFlow টেনzor ব্রডকাস্ট থেকে মডেলে বড় বাগ হতে পারে, হাজারদের কম্পিউটিং সম্পদ বর্জিত। টেনzor dimensions না মিললে, ফ্রেমওয়ার্কs সাইজ 1 ডিমেনশনগুলো অন্য ডিমেনশনগুলোর সাথে মেলে জন্য স্ট্রেচ করে, অজান্ত ম্যাট্রিক্স অপারেশন তৈরি করে বরং ইлемен্টরি অপারেশন। উদাহরণস্বরূপ, (N, 1) কলাম ভেক্টর যোগ করলে (N,) ফ্ল্যাট ভেক্টর সাথে (N, N) ম্যাট্রিক্স বানায় বরং N elementwise পার্থক্য। এটি regresion মডেলকে ব্যাচ মানের জন্য অপ্টিমাইজ করতে باعث হয় বরং実際विक input-output সম্পর্ক শিখতে। loss 曲線 normal দেখতে পাওয়া যেতে পারে mientras प्रशिक्षণ की ओर garbage। লেখক অনুমান করেছেন 4,000 ডলার কম্পিউটিং সম্পদ বর্জিত এই বাগের因 때문। প্রতিরোধের জন্য সাবধান টেনzor shape যাচাই এবং broadcasting_rules বোঝাপড়া নিশ্চিত করতেDimensions match as intended.