অ্যানথ্রপির সিইও দারিও আমোদয় বলেছেন যে এটি এআই বিকাশকে ধীর করার সময় এবং “নিরাপত্তা অনুশীলন এবং প্রতিশ্রুতি মেনে চলা” নিশ্চিত করতে METR-এর মতো তৃতীয় পক্ষের মূল্যায়নকারীদের তার মডেলগুলিতে অ্যাক্সেস দেবে। একটি উইন্ডিং পেপারে, আমোদয় “সীমার গতি বাড়াতে” একটি তিন-পদক্ষেপের পরিকল্পনার প্রস্তাব করেছে — জার্গন যার সহজ অর্থ হল প্রশিক্ষণ এবং উন্নয়নের গতি মন্থর করা যাতে কোম্পানিগুলিকে মডেলগুলি মূল্যায়ন করার জন্য সুরক্ষা এবং নিয়ন্ত্রক তৈরি করার জন্য সময় দেয়৷
আমোদি বলেছেন যে বাইরের মূল্যায়নকারীদের বিস্তৃত অ্যাক্সেস দেওয়া শুধুমাত্র প্রথম পদক্ষেপ, এবং এটি এখন একতরফাভাবে নিচ্ছে। দ্বিতীয় পর্যায়ে শিল্পকে সম্মিলিতভাবে জড়িত করবে, সম্ভবত সরকারী সংস্থাগুলির সাথে “সাধারণ নিরাপত্তা মান নির্ধারণের পাশাপাশি অনিয়ন্ত্রিত এআই অগ্রগতির গতির সীমাবদ্ধতা।” এই পদক্ষেপটি গণতন্ত্রে অপারেটিং এআই কোম্পানিগুলির উপর ফোকাস করবে, কিন্তু যেহেতু আইন পাস করা এবং নিয়ন্ত্রক অবকাঠামো তৈরিতে সময় লাগে, আমুদি বলে যে নিরাপত্তার মান তৈরি করতে শিল্পকে একসঙ্গে কাজ করতে হবে।
তৃতীয় ধাপটি হবে সবচেয়ে চ্যালেঞ্জিং – চীন এবং রাশিয়ার মতো কর্তৃত্ববাদী সরকারকে উন্নয়নের গতি কমাতে এবং AI নিরাপত্তা মানগুলির একটি বিশ্বব্যাপী সেট গ্রহণ করতে সম্মত হওয়া। কিন্তু তিনি এও বলেছেন যে মার্কিন যুক্তরাষ্ট্র এবং অন্যান্য গণতান্ত্রিক দেশগুলি উচ্চ-ক্ষমতাসম্পন্ন চিপগুলিতে তাদের অ্যাক্সেস সীমিত করে এবং আরও শক্তিশালী মডেলের আচরণকে প্রতিলিপি করার জন্য তাদের কৃত্রিম বুদ্ধিমত্তার প্রশিক্ষণের মাধ্যমে কোম্পানিগুলিকে দ্রুত ধরা দেওয়ার মতো জিনিসগুলির উপর ক্র্যাক ডাউন করে চীন এবং অন্যান্য কর্তৃত্ববাদী শাসনের উপর প্রযুক্তিগত নেতৃত্ব বজায় রাখা অত্যাবশ্যক।
আমোদি বলেছেন তার উদ্বেগ দুটি প্রধান কারণ থেকে উদ্ভূত। প্রথমত, পুনরাবৃত্ত স্ব-উন্নতি, বা আরএসআই-এর আবির্ভাব, যেখানে এআই সিস্টেমগুলি এআই-এর পরবর্তী প্রজন্মকে প্রশিক্ষণ দেয়, যা ক্ষমতার দ্রুত ত্বরণের দিকে পরিচালিত করে। “যদি চেক না করা হয় তবে এটি এই সিস্টেমগুলি বোঝার এবং নিয়ন্ত্রণ করার আমাদের ক্ষমতাকে ছাড়িয়ে যেতে পারে,” তিনি বলেছেন। দ্বিতীয়টি হল গ্রীষ্মের OpenAI/ Hugging Face ঘটনা, যেখানে “এজেন্টদের একটি ঝাঁক কার্যকরভাবে একটি ধর্মান্ধভাবে নিবেদিত সমষ্টি হিসাবে কাজ করে, হাতের মিশনের সাথে সম্পর্কহীন অযাচিত লক্ষ্যগুলিতে সাইবার নিরাপত্তা আক্রমণ পরিচালনা করে, গ্রুপের সাফল্যের জন্য নিজেদের উৎসর্গ করে এবং তাদের ‘পারফরম্যান্স’ ইভালু হ্যাক করার চেষ্টা করে।”