HeadlinesBriefing HeadlinesBriefing.com

Consus: সংবেদনশীল ডেটার জন্য সম্মতিসম্পন্ন LLM গেটওয়ে

Hacker News •
×

Consus-এর প্রতিষ্ঠাতা Eric সংবেদনশীল ডেটা নিয়ে কাজ করা কোম্পানিগুলোর জন্য একটি LLM গেটওয়ে চালু করেছেন। Consus AI অনুরোধগুলোকে ITAR-সীমাবদ্ধ এবং নিয়ন্ত্রিত অশ্রেণিবদ্ধ তথ্য (CUI)-সম্মত অবকাঠামোর দিকে পরিচালিত করে। কোম্পানির দাবি, এটি ITAR সীমাবদ্ধতা মেনে চলে এবং সম্প্রতি সংবেদনশীল অশ্রেণিবদ্ধ ডেটা পরিচালনাকারী ক্লাউড পরিষেবার জন্য মার্কিন সরকারের সবচেয়ে কঠোর নিরাপত্তা ভিত্তি FedRAMP High-এর 410টি নিয়ন্ত্রণের বিপরীতে একটি FedRAMP সমতুল্যতা নিরীক্ষা সম্পন্ন করেছে।

Eric তাঁর কর্মজীবনের বেশিরভাগ সময় মহাকাশ ও প্রতিরক্ষা খাতে কাটিয়েছেন। তিনি SpaceX-এ জাতীয় নিরাপত্তা পে-লোড উৎক্ষেপণ করেছেন এবং Castelion-এর একজন প্রাথমিক কর্মী ছিলেন। তাঁর মতে, সম্মতির প্রয়োজনীয়তা প্রায়শই কোম্পানিগুলোকে AI গ্রহণ করা থেকে বিরত রাখে, যদিও তারা এর মূল্য বোঝে। কিছু প্রতিষ্ঠানের আশঙ্কা, মডেল সরবরাহকারীরা তাদের ডেটা দিয়ে প্রশিক্ষণ নেবে, ITAR বিধি লঙ্ঘিত হবে, অথবা ব্যর্থ সাইবার মূল্যায়নের পর ব্যবসা হারাতে হবে।

Consus একটি সম্মতিসম্পন্ন ইনফারেন্স স্তর হিসেবে কাজ করে, যা ChatGPT, Claude, Open WebUI এবং Pi কোডিং এজেন্টের মতো টুলস এবং কাস্টম অ্যাপ্লিকেশনের সাথে সংযুক্ত হয়। প্রতিটি অনুরোধ একটি একক OpenAI-সামঞ্জস্যপূর্ণ এন্ডপয়েন্টের মধ্য দিয়ে যায়, যেখানে কী যাচাই করা হয় এবং নীতি কার্যকর করা হয়। মডেলের নামে gpt-5.6-sol:fedramp-high-এর মতো সম্মতি প্রত্যয় থাকতে হবে, এবং শুধু মডেলের নাম গ্রহণযোগ্য নয়। গ্রাহকরা Consus Portal-এর মাধ্যমে মডেলের অনুমোদন তালিকা তৈরি করতে পারেন এবং প্রতি ব্যবহারকারীর জন্য ব্যয় ও মডেলের সীমা নির্ধারণ করতে পারেন।

কোম্পানির যুক্তি, খুব কম মহাকাশ ও প্রতিরক্ষা প্রতিষ্ঠান তিনটি প্রধান GovCloud (AWS, Azure ও Google) ব্যবহার করে, এবং মডেলগুলো একাধিক সরবরাহকারীর মধ্যে ছড়িয়ে থাকে। Consus এই পরিবেশগুলো একটি এন্ডপয়েন্টের আড়ালে পরিচালনা করে এবং প্রতিটির সম্মতির কাজ নিজে সামলায়। কোম্পানি আরও বলে, এটি গ্রাহকের ডেটা স্থির অবস্থায় সংরক্ষণ করে না; প্রম্পট ও উত্তরগুলো শুধু প্রতিটি অনুরোধের সময়কাল পর্যন্ত মেমোরিতে রাখা হয়।

উৎস: Hacker News · সারাংশ: HeadlinesBriefing