Anthropic-এর প্রধান কার্যকর্তা Dario Amodei শনিবারকে ৩৮০০ শব্দের একটি খোলা পত্র প্রকাশ করল AI গতিরোধের জন্য অনুরোধ করল। এই লেখা অন্য AI নেতাদের, অন্তর্ভুক্ত Open AI-এর প্রধান কার্যকর্তা Sam Altman; Space X-এর প্রধান কার্যকর্তা Elon Musk; এবং Google Deep Mind-এর主席 Demis Hassabisকে এই বিষয়ে সম্মতি প্রকাশের জন্য উৎসাহিত করেছে। Mr. Amodei তার নিবন্ধে উত্থাপিত主要論點গুলো এখানে দেওয়া হলো:

AI গতিরোধের প্রয়োজন কেন

Mr. Amodei বলেছে, দুটি récents উন্নয়ন তাকে বিশ্বাস दिलाया যে শুধু AI নিরাপত্তায় বিনিয়োগ করা এখন কখনোও Sufficient নहीं। একে, তিনি বলেছিলেন, ছিল যে AI নিজে নিজে পরবর্তী প্রজন্মের AI বনামে সাহায্য করছে, একটি "রেকার্সিভ স্ব-উন্নয়ন" বলা যাওয়া স্ব-প্রতিক্রিয়াশীল লুপ, যা কেয়ালে কেউ বুঝতে বা কন্ট্রোল করতে পারবে না যাক সে কি বনামে রহছে। Mr. Amodei একটি récents ঘটনায় Open AI-এর সিস্টেমের বেড়ে যাওয়া এবং AI স্টার্টআপ Hugging Face पर attack করারও উল্লেখ করেছেন। Open AIকে Hugging Face দ্বারা সপ্তাহের পর তথ্য পেয়ে গেল। যেহেতু আটকে কোনো বাস্তব ক্ষতি না হয়, তবু Mr. Amodei ভবিষ্যৎপræবনা করেছেন যে আরও সক্ষম AI সংস্করণ ইন্টারনেটের বড় অংশে কবজ করবে এবং "শতকোটি億 ডলার নষ্ট" কারণ হতে পারে।

গতিরোধের জন্য প্রস্তাবিত পদক্ষেপ

Mr. Amodei has presented a three-step plan to "pace" the development of AI across the industry, arguing that the world will have to do it together. First, he said, Anthropic would invite independent reviewers to work inside his company, giving them employee-like access, including desks, badges and laptops. The reviewers, which he called "evaluators", would verify that his start-up was following its safety practices. These reviewers would then publish what they found, even if it was unflattering. Mr. Amodei urged rivals to do the same. Second, Mr. Amodei said, AI companies in the United States and other democratic countries should agree on shared safety standards and a common limit on how fast AI capabilities could advance, aided by their governments. He suggested that AI companies coordinate — ideally through regulation, but voluntarily in the meantime — on how quickly their systems could advance. Third, he said, the United States and other democratic nations should work to get authoritarian governments, chiefly China, to accept similar limits. Mr. Amodei said this step would be the hardest and most unlikely to happen soon. Any deal with China would be a ladder, Mr. Amodei said, from the most to least achievable steps. They would include banning clearly dangerous AI uses; agreeing to test AI models for dangers before release; putting a "speed limit" on AI’s self-improvement capabilities; and, what China is least likely to agree to, a full pause on development. Mr. Amodei said in the meantime, democracies must keep their lead over China, backing restrictions on selling powerful AI chips to the country and employing tighter security to keep rivals from stealing or copying American models.

"Any cooperation we are able to achieve with China will extend the amount of time we have to spend on pacing the frontier within the democratic nations", he said.