সম্পাদনা: আমি আশা করি কিছু ছোট উপায়ে এই পোস্টটি এই ফলাফলকে প্রভাবিত করেছে। অনুপ্রেরণা: হয়তো আপনি একজন Claude code/codex ব্যবহারকারী যিনি LLM প্রদানকারীদের কাছে ব্যক্তিগত ডেটা আপলোড করা পরিশ্রমের সাথে এড়িয়ে চলেন। এটা কি সম্ভব যে সবচেয়ে মূল্যবান তথ্য আপনার ডেটা নয়- বরং আপনার সেশন সম্পর্কে মেটাডেটা? AI-কে সমস্যা সমাধানের জন্য প্ররোচিত করার উপায় বের করার সময় আপনি যে অন্তর্দৃষ্টি প্রয়োগ করেন তা আসলে বিশেষ হতে পারে। এটি পরিসংখ্যানগতভাবে অসম্ভাব্য, কিন্তু Claude আপনাকে গ্যাসলাইট করছে না। এটা হতে পারে যে আপনি আসলে একটি বাস্তব অন্তর্দৃষ্টি পেয়েছেন! আপনার এজেন্ট সেশনগুলি আপনার কাজ করা সবচেয়ে কঠিন সমস্যাগুলির প্রতিলিপি। যদি কারও কাছে সেগুলির কপি থাকে তবে আপনার কী খরচ হবে?

গত সপ্তাহে প্রকাশ্য নাটক ছিল যা এই ঝুঁকির উপর আলোকপাত করে যে অনুমান প্রদানকারীরা নতুন আবিষ্কার সরবরাহ করার উদ্দেশ্যে ব্যবহারকারীর কার্যকলাপে প্রশিক্ষণ দিচ্ছে। প্রভাবিত গণিতবিদরা ফ্রন্টিয়ার প্রদানকারীদের নৈতিকতা সম্পর্কে উদ্বেগ প্রকাশ করেছেন। যদি আপনি মিস করেন: https://www.theverge.com/ai-artificial-intelligence/991710/openai-navier-stokes-solution

যখন 'EDR' নৈতিক বিচ্যুতি এবং প্রত্যাখ্যান হয়ে যায়: এটি স্পষ্ট হয়ে গেছে যে ফ্রন্টিয়ার প্রদানকারীরা কেবল অবিশ্বস্ত নয়- বরং সক্রিয়ভাবে প্রতারক। আপনি যদি আপনার ধারণাগুলি রক্ষা করতে চান তবে আপনি অন্য কারও হার্ডওয়্যারে অনুমান চালাতে পারবেন না। এটা মনে হয় যে ফ্রন্টিয়ার প্রদানকারীর সাথে আপনার যা কিছু করা হয় তা চুরি হয়ে যাবে। যখন একটি ফ্রন্টিয়ার প্রদানকারী তাদের আইনজীবীদের সাথে নেভিয়ার-স্টোকস সমীকরণ পরিস্থিতি নিয়ে আলোচনা করেছিল, তখন তারা যে সেরা প্রতিরক্ষামূলক কৌশল নিয়ে এসেছিল তা হল "এটি অস্বীকার করা যায় না।" আমরা তাদের ধারণ বা তাদের প্রশিক্ষণ পাইপলাইন নিরীক্ষণ করতে পারি না। দৃশ্যত তারাও করতে পারে না। এই লোকদের অংশীদার হিসাবে বিবেচনা করা উচিত নয়। তারা জলদস্যু। যদি গোপনীয়তা গুরুত্বপূর্ণ হয়, তবে যাচাইযোগ্য সুরক্ষা সক্ষম করার একমাত্র সমাধান হল আপনার নিজের হার্ডওয়্যার পরিচালনা করা।

হল মনিটর এজ এ সার্ভিস: আমি Open AI এবং Anthropic-এর সাইবার নিরাপত্তা নিয়ে জাঁকজমকের দ্বারা বিভ্রান্ত। তারা আশ্চর্য হয় যা তারা ঘটিয়েছে: AI তাদের অস্তিত্বহীন নিরাপত্তা নিয়ন্ত্রণকে পরাজিত করেছে। আমরা সবাই মহান 'বিপদে' আছি। এদিকে, তাদের LLM "গবেষকরা" এজেন্টদের আনস্যান্ডবক্সড ফ্লিট চালাচ্ছেন যা "স্বতঃস্ফূর্তভাবে সহযোগিতা" করে বলে মনে হয়। কেউ আমার জন্য আমার মূর্ছা সোফা আনুক। ফ্রন্টিয়ার প্রদানকারীরা অভিজ্ঞ নিরাপত্তা লোকদের কাছ থেকে পরামর্শ বহন করতে পারে। তারা প্রায় নিশ্চিতভাবে তাদের কিছুকে দৃষ্টিভঙ্গির জন্য অর্থ প্রদান করছে এবং তাদের পাবলিক বিবৃতি থেকে প্রকৃত সাইবার নিরাপত্তা নির্দেশনা বাদ দিচ্ছে। এই সমস্ত মুক্তো আঁকড়ে ধরা অবশ্যই নিরাপত্তা থেকে ভিন্ন একটি সমস্যা সমাধানের উদ্দেশ্যে। প্রতিরক্ষাকারীরা নিরাপত্তা সম্পর্কে সবচেয়ে শক্তিশালী এবং সবচেয়ে সঠিক দাবি করতে পারে যে আমরা আক্রমণকারীদের জন্য এটিকে "বেশ কঠিন" করার উপায় খুঁজে পেয়েছি। এটি কেবল তখনই ঘটে বলে মনে হয় যখন সংস্থাগুলি শোষণ প্রশমন এবং শোষণ বিকাশ উভয় ক্ষেত্রেই সেরা প্রতিভার জন্য শীর্ষ ডলার প্রদান করে। প্রতিরক্ষা এবং শোষণ দলগুলির মধ্যে হৈচৈ কিন্তু বন্ধুত্বপূর্ণ প্রতিযোগিতা রয়েছে, এবং শেষ পর্যন্ত আপনি এমন নিয়ন্ত্রণ পান যা সফল আক্রমণগুলিকে এত ব্যয়বহুল করে তোলে যে সেগুলি করার যোগ্য নয়। এটি দেশের শীর্ষ স্তরের সংস্থাগুলির জন্য- যদিও Microsoft কিছু পাঠ ভুলে গেছে বলে মনে হয়। বেশিরভাগ এন্টারপ্রাইজের জন্য করা পেন্টেস্টিংয়ের সিংহভাগ নিরাপত্তা সাধারণজ্ঞদের দ্বারা সঞ্চালিত হয়। একটি খুব ছোট উপসেট গভীর ডোমেন বিষয় বিশেষজ্ঞ। সাধারণত আপনি সেই সমর্থন থেকে "যথেষ্ট ভাল" নিরাপত্তা পান। এটি সাইবার নিরাপত্তার গ্ল্যামারাস বা পৌরাণিক অনুশীলন নয় যা আপনি সিনেমা বা টিভিতে দেখেন। এটি পূর্বাভাসযোগ্য ভুলের পরিচিত শ্রেণীগুলি সন্ধান করা। যে সংস্থাগুলি বিশেষজ্ঞদের ডেডিকেটেড দলগুলির সাথে বড়/স্মার্ট বিনিয়োগ করে তারা হ্যাকারদের আগে ভুলের অনেক নতুন শ্রেণী আবিষ্কার এবং সংশোধন করে। যে কেউ শোষণ শিখতে শুরু করে তারা ডেডিকেটেড, অনুশীলিত অধ্যয়নের প্রায় 3 মাস পরে শোষণযোগ্যতার শোকের পর্যায়ে পৌঁছায়। তারা এমন কিছু হ্যাক করে যা ভাঙার দক্ষতা তাদের আছে বলে তারা ভাবেনি এবং এটি তাদের আতঙ্কিত করে। তারা যথেষ্ট স্মার্ট যে জানে যে তুলনামূলকভাবে তারা একটি বোকা, এবং যদি একটি বোকা এটি করতে পারে তবে কিছুই নিরাপদ নয়। সেই অনুভূতি সঠিক। এটি একটি গবেষণা ফলাফলও নয়। কেউ কেউ এটিকে "ইমপোস্টার সিনড্রোম" বলে। আমি দ্বিমত পোষণ করি- সেই অনুভূতি হল আপনার প্রথম অভিজ্ঞতা বিকাশের...