বেশিরভাগ নির্বাহী AI-এর খরচকে GPU ও অ্যাক্সিলারেটর র্যাক হিসেবে কল্পনা করেন এবং ডেটা স্টোরেজের কথা ভুলে যান। অথচ একটি মডেল সাড়া দেওয়ার পর ডেটার কী হয়, তা একটি উল্লেখযোগ্য এবং প্রায়ই অপরিকল্পিত অবকাঠামো ব্যয়। প্রতিদিন কোটি কোটি প্রম্পট, ছবি ও ভিডিও এমন ব্যাকএন্ড ডেটা তৈরি করে যা সংরক্ষণ করতে হয়, এবং স্টোরেজ এমন খরচগুলোর একটি যার পরিকল্পনা করা সবচেয়ে কঠিন।
ট্রেনিং সীমিত: একটি রান শুরু হয়, কম্পিউট ব্যবহার করে, এবং শেষ হয়। ইনফারেন্স একটানা চলে, এবং প্রতিটি অনুরোধ কিছু না কিছু রেখে যায়। WD পরিমাপ করেছে যে ৮ সেকেন্ডের একটি AI-তৈরি ভিডিও ব্যবহারকারীদের ৩.৯৭ MB-র ৭২০p ফাইল হিসেবে ফেরত দেওয়া হয়েছিল, কিন্তু সংশ্লিষ্ট ব্যাকএন্ড ডেটা রয়ে গেছে ৫০০ MB-র বেশি, যার মধ্যে লগ, ক্যাশড কনটেক্সট, রেন্ডার, ব্যাকআপ ও নিরাপত্তা রেকর্ড অন্তর্ভুক্ত। ব্যবহারকারী যে আউটপুট দেখেছেন তার তুলনায় এটি ১৩০ গুণ বেশি, এবং দীর্ঘ, উচ্চ-রেজোলিউশনের ক্লিপ এই পদচিহ্নকে শত শত গিগাবাইটে পৌঁছে দিতে পারে।
বৃদ্ধি উল্লেখযোগ্য। McKinsey অনুমান করছে, ২০৩০ সাল পর্যন্ত AI ইনফারেন্সের চাহিদা ৩৫% CAGR-এ বাড়বে, যেখানে ট্রেনিংয়ের জন্য তা ২২%, এবং দশকের শেষে এটি মোট ডেটা সেন্টার চাহিদার ৪০%-এর বেশি হবে। WD-র পৃষ্ঠপোষকতায় পরিচালিত IDC জরিপে ৭৬৩ জন IT ও ব্যবসায়িক সিদ্ধান্ত গ্রহণকারী অংশ নেন, যার প্রায় ৯৫% গত এক বছরে জেনারেটিভ AI-এর কারণে ডেটার পরিমাণ বাড়তে দেখেছেন এবং প্রায় ৬১% ২৫% বা তার বেশি বৃদ্ধির কথা জানিয়েছেন। একজন হাইপারস্কেল ক্লাউডের প্রোডাক্ট ম্যানেজার যেমন বলেছেন, স্টোরেজ ক্ষমতা GPU-কে ব্যস্ত রাখতে সাহায্য করে, কারণ ডেটার অপেক্ষায় থাকা অলস GPU দ্রুত ব্যয়বহুল হয়ে ওঠে।
কম্পিউটের মতো নয়, চাহিদা কমলেও সংরক্ষিত ডেটা কমে না। লগ, সিনথেটিক আউটপুট ও ইনফারেন্স ফলাফল জমতেই থাকে, এবং ক্রমশ সেগুলো ভবিষ্যতের AI ওয়ার্কলোডের ইনপুট হিসেবে পুনরায় ব্যবহৃত হচ্ছে, যার মধ্যে রিট্রিভাল-অগমেন্টেড জেনারেশনও রয়েছে। একই জরিপে দেখা গেছে, ৯৬% উত্তরদাতা দ্রুত আর্কাইভ পুনরুদ্ধারের প্রয়োজন হবে বলে আশা করেন। CFO ও CIO-দের জন্য এর অর্থ, শুধু কম্পিউট ঘিরে সীমাবদ্ধ AI অবকাঠামো বাজেট একটি বড় খরচের চালককে বাদ দিচ্ছে, এবং স্টোরেজের বাধা পরিচালন ব্যয়ে না দেখা পর্যন্ত লুকানো থেকে যায়।
উৎস: MIT Technology Review AI · সারাংশ: HeadlinesBriefing