HeadlinesBriefing favicon HeadlinesBriefing.com

এন্টিটি কী ড্রিফট ডেটা লেক ফজী ম্যাচিং

Towards Data Science •
×

অধিকাংশ মানুষ যারা মেশাচ্ছে জটিল শনাক্তকারীদের সমাধান করে, একই দৃষ্টিকোণ নেয়: একটি সম্পাদন দূরত্ব মেট্রিক নেয়, একটি থ্রেশহোল্ড নেয়, এবং কিছু যা যথেষ্ট নিকটে আছে তা একত্রিয়ে দেয়। Damerau-Levenshtein সাধারণ সম্পাদন দূরত্বের উপর একটি স্পষ্ট আপগ্রেড। এটি নেওয়ার যুক্তি সুস্পষ্ট। এটি একটি ট্রান্সপোজিশন (দুইটি পরস্পরে বদলানো অক্ষর) কে দুইটি নয়, একটি ভুল হিসেবে ধরে। 719টি পর্যা঵রণ সেন্সর স্টেশনের একটি পুলে, একটি নিশ্চিত টাইপো ছিল sds1001 কে sds011-এর জন্য। দুইটি ডিজিট পরস্পরে বদলানো হয়েছিল — কোনো কিবোর্ডে একটি সরল ভুল হতে পারে। সাধারণ সম্পাদন দূরত্ব এটিকে দুইটি সম্পাদন হিসেবে ধরে, যা দুইটি পুরোপুরি ভিন্ন পণ্যের জন্য সমান মূল্য। Damerau-Levenshtein আর জানে যে এটি শুধুমাত্র একটি ভুল এবং এটি শুরু থেকে দূরত্ব 1-এ মূল্যায়ন করে। তাই এটি একটি ভাল মডেল যা টাইপো কীভাবে ঘটে তার উপর ভিত্তি করে, এবং এটি গ্রহণ করা প্রয়োজন হলে কিছু খরচ লাগে না, যার ফলে এটি সবচেয়ে স্পষ্ট নির্বাচন হয়।

যাইহোক, এই মেট্রিকের কিছু অপর্যাপ্ত দিক কখনও কম উল্লেখ করা হয়। এখানে একটি উদাহরণ আছে: hdc1008 এবং hdc1080 দুইটি বাস্তবের Texas Instruments আর্দ্রতা সেন্সর যা একই সময়ে বিক্রি করা হয়েছে, যা আলাদা আছে datasheet-তে নথিভুক্ত। সাধারণ সম্পাদন দূরত্ব তাদেরকে 2-এ রাখে, আর Damerau-Levenshtein তাদেরকে পূর্বে উল্লেখিত টাইপোগুলির সমান একটি রেঞ্জে নিচে ডালায় 1। মনোযোগ দিন কীভাবে একই গুণ যা এটিকে মানব ভুলগুলি স্বীকার করতে ভাল করে তা একটি ভিন্ন পণ্যগুলি একত্রিত করে যা নির্মাতা সচেতনভাবে একটি ডিজিট পর পর নম্বর করেছে।

এটি এন্টিটি কী ড্রিফটের একটি গভীর ডাইভ সিরিজের পার্ট 2 যা নরমালাইজেশন থেকে শুরু হয়। যদি আপনি এখনও পার্ট 1 পড়েননি, তাহলে সেটি দেখার জন্য একটা মূল্যযোগ্য প্রয়োগ হবে কারণ এটি এই টুকরায় থেকে ডিটারমিনিস্টিক ক্লিনআপ নিয়ে যায়। দুইটিরই কোড এবং ডেটা Git Hub ও Zenodo-এ আছে, যদি আপনি নিজে কোনও সংখ্যা যাচাই করতে চান। এই টুকরায়, আমি আপনাকে বলব কী ঘটেছে যখন আমি পাঁচটি স্ট্রিং-সিমিলিটি মেট্রিকস গঠনকরণকারী datasheet থেকে যা আমি যাচাই করেছি ground truth-এর বিপরীতে মাপেছি, কেন কোনোটি তাদেরকে টাইপোগুলি বাস্তব পণ্যগুলির মধ্য দিয়ে আলাদা করতে টিউন করতে পারেনি এবং এই ব্যর্থতা কী অর্থ দেয় যে সিস্টেমটি কীভাবে নির্মাণ করা হবে তার জন্য। এটি কোনো কেউ কে জটিল অ্যালফা-ন্যুমেরিক শনাক্তকারীদের সমাধান করতে প্রাসঙ্গিক — পার্ট নম্বর, SKUs, মডেল কোড — একাধিক সূত্র থেকে, এবং কম যদি আপনারা একক সূত্র থেকে আসে।

কী এন্টিটিজ়: কোম্পানিগুলি: Texas Instruments