নৃতাত্ত্বিক সিইও এআই বিকাশকে ধীর করার পরিকল্পনার রূপরেখা | টেকক্রাঞ্চ

আমরা AI এর বিপদ সম্পর্কে AI গবেষকদের কাছ থেকে ক্রমবর্ধমান ভয়ানক সতর্কবার্তা দেখেছি, এমনকি OpenAI এর CEO স্যাম অল্টম্যানের মন্তব্য যে AI ডেভেলপমেন্টকে “গতি” করার সময় হতে পারে। কিন্তু যে আসলে দেখতে কেমন হবে?

একটি নতুন ব্লগ পোস্টে, নৃতাত্ত্বিক সিইও দারিও আমোদয় শুধুমাত্র “সীমান্তে গতি বাড়াতে” আহ্বানকে প্রতিধ্বনিত করেননি, তবে এটি করার জন্য তিনটি বিস্তৃত কৌশলের রূপরেখাও দিয়েছেন৷ এবং তিনি বলেছিলেন যে অ্যানথ্রোপিক তাদের একজনের সাথে “একতরফাভাবে প্রতিশ্রুতিবদ্ধ” হচ্ছে, অল্টম্যান বলেছে যে ওপেনএআই এটি অনুসরণ করবে।

কৃত্রিম বুদ্ধিমত্তার সুরক্ষা এবং উপযুক্ততা নিয়ে বিতর্ক এই সপ্তাহে তীব্র হয়েছে যখন গবেষক জ্যাকব কুকসন লিখেছেন যে তিনি অ্যানথ্রোপিক থেকে পদত্যাগ করছেন এই উদ্বেগের জন্য যে নেতৃস্থানীয় AI কোম্পানিগুলি “আমাদের জীবন নিয়ে জুয়া খেলছে” যখন প্রযুক্তি নির্মাণকারীরা “গম্ভীরভাবে বিশ্বাস করে যে এটি দশকের শেষ নাগাদ আমাদের সবাইকে হত্যা করতে পারে,” Anthropic এ অন্যদের দ্বারা প্রতিধ্বনিত একটি দাবি।

আমুদির পোস্টে কুকসনের পদত্যাগ বা তার উদ্বেগের কথা বিশেষভাবে উল্লেখ করা হয়নি, তবে সিইও লিখেছেন যে দুটি জিনিস তাকে নিশ্চিত করেছে যে এআই বিকাশের জন্য আরও সতর্ক দৃষ্টিভঙ্গি নেওয়ার সময় এসেছে: ওপেনএআই-হাগিংফেস হ্যাক এবং সাম্প্রতিক মাসগুলিতে “এআই খুব দ্রুত অগ্রসর হচ্ছে”, বিশেষ করে “এআই এর পরবর্তী বৃদ্ধি” সহ।

“আমরা যে হারে এআই মডেলগুলির ক্ষমতা উন্নত করি তা আমাদের ধীর করতে হবে,” আমোদয় লিখেছেন। “অগ্রগতি এখনও দ্রুত বলে মনে হবে, এবং আমাদের অবশ্যই বুদ্ধিমানের সাথে লাভ করা সময় ব্যবহার করতে হবে।”

অন্যান্য এআই এক্সিকিউটিভরা আমোদয়ের পোস্টে ইতিবাচক প্রতিক্রিয়া জানিয়েছেন বলে মনে হচ্ছে, অল্টম্যান লিখেছেন: “আমি দারিওর সাথে একমত যে আমাদের খামটি ঠেলে দিতে হবে। সাম্প্রতিক সপ্তাহগুলিতে ওপেনএআই-তে আমাদের আলোচনার এটিই প্রধান বিষয়।” এবং স্পেসএক্সের সিইও ইলন মাস্ক পোস্ট করেছেন, “ডারিও সঠিক।”

Amoday-এর প্রথম ধাপে METR-এর মতো তৃতীয় পক্ষের সংস্থাগুলির “এমবেডেড মূল্যায়নকারী” অন্তর্ভুক্ত থাকবে—মূল্যায়নকারীরা যারা যাচাই করতে পারে যে AI কোম্পানিগুলি আসলে তাদের হার এবং নিরাপত্তার প্রতিশ্রুতি অনুসরণ করছে, এবং নিরাপত্তার ঘটনাগুলি রিপোর্ট করা হয়েছে তাও নিশ্চিত করতে পারে। (ওপেনএআই সম্প্রতি এমন একটি ঘটনার রিপোর্ট না করার জন্য সমালোচিত হয়েছিল যেখানে এর এআই এজেন্টরা একটি জার্মান উইকি ফোরাম দখল করেছিল।)

আমুদি এই মূল্যায়নকারীদের ব্যাংক কর্মচারীদের সাথে এম্বেড করা নিয়ন্ত্রকদের সাথে তুলনা করেন এবং তিনি বলেছিলেন যে তাদের আদেশ করা “এমন কিছু যা অ্যানথ্রোপিক একতরফাভাবে প্রতিশ্রুতিবদ্ধ (এবং অন্যান্য সীমান্ত সংস্থাগুলিকে মেনে চলার জন্য সরকারকে আহ্বান জানায়)।” এর অর্থ মূল্যায়নকারী কোম্পানির ব্যাজ, ডেস্ক এবং ল্যাপটপ প্রদান করা এবং আইন বা চুক্তির প্রয়োজনে ব্যতিক্রম সহ “যা প্রায়শই অভ্যন্তরীণ ঝুঁকি মূল্যায়ন দলের মতো” অ্যাক্সেস প্রদান করা।

অল্টম্যান আরও বলেছিলেন যে এটি একটি “ভাল ধারণা” এবং বলেছেন ওপেনএআই একই কাজ করবে: “আমাদের শীঘ্রই ভাগ করার জন্য আরও অনেক কিছু থাকবে।”

পরবর্তী ধাপে, আমোদয় “গণতান্ত্রিক দেশগুলির মধ্যে” নেতৃস্থানীয় কৃত্রিম বুদ্ধিমত্তা সংস্থাগুলিকে “সাধারণ নিরাপত্তা মান এবং সেইসাথে অনিয়ন্ত্রিত কৃত্রিম বুদ্ধিমত্তা অগ্রগতির গতির সীমাবদ্ধতা” সমন্বয় করার আহ্বান জানিয়েছে।

এই ধরনের সমন্বয় অসম্ভাব্য মনে হতে পারে, কারণ এই সংস্থাগুলি আশঙ্কা করছে যে একটি সমন্বিত বিরতি অবিশ্বাসের তদন্তের দিকে নিয়ে যেতে পারে। আমুদি তার ঘোষণায় এই উদ্বেগের প্রতি ইঙ্গিত করেছেন এবং লিখেছেন যে “অবিশ্বাসের কারণে, মার্কিন সরকারের পক্ষে মধ্যস্থতা করা বা অন্ততপক্ষে এই আলোচনাগুলিকে সক্ষম করা উপকারী – তাদের অংশগ্রহণ করতে হবে না, তবে তাদের নির্দিষ্ট ধরণের নিরাপত্তা আলোচনায় একটি সংকীর্ণ ছাড় দিতে হবে।”

অ্যামোডেই চীনা AI আধিপত্যের সম্ভাবনাকেও স্বীকার করেছেন যা প্রায়শই মন্থর বিকাশের বিরুদ্ধে একটি যুক্তি তৈরি করেছে। তবে তিনি বলেছিলেন যে মার্কিন সরকার এবং প্রযুক্তি সংস্থাগুলি যদি চীনা সংস্থাগুলির কাছে শক্তিশালী চিপস বা সেমিকন্ডাক্টর উত্পাদন সরঞ্জাম বিক্রি করতে অস্বীকার করার পাশাপাশি মডেলগুলির পরিমার্জন হ্রাস করার মতো পদক্ষেপ নেয় তবে তারা “আগামী 3-5 বছরে আমেরিকার নেতৃত্বকে উল্লেখযোগ্যভাবে প্রসারিত করতে চীনের অগ্রগতি যথেষ্ট মন্থর করতে পারে।”

অবশেষে, অ্যামোডি “বৈশ্বিক সমন্বয়ের” আহ্বান জানিয়েছে, যেখানে মার্কিন যুক্তরাষ্ট্র এবং তার মিত্ররা “যতটা সম্ভব কর্তৃত্ববাদী সরকারের সাথে সমন্বয় করার চেষ্টা করে।” অ্যামোডি বলেছিলেন যে এর অর্থ “চীনের সাথে সহযোগিতা” এবং তিনি স্বীকার করেছেন যে “যা অর্জন করা যেতে পারে তার গুরুতর সীমাবদ্ধতা রয়েছে” তবে তিনি এখনও পরামর্শ দিয়েছেন যে চুক্তির সুযোগ থাকতে পারে, এমনকি যদি এটি শুধুমাত্র “AI এর কিছু সংকীর্ণ এবং স্পষ্টভাবে বিপজ্জনক ব্যবহার নিষিদ্ধ করা হয়, যেমন জৈবিক অস্ত্র তৈরিতে কৃত্রিম বুদ্ধিমত্তা ব্যবহার করা বা ব্যবহারকারীদের তা করার অনুমতি দেওয়া।”

AI এর সম্ভাব্য বিপদগুলিকে স্বীকার করার জন্য আমোদয়ের অতীতের ইচ্ছা এবং কিছু নিয়মের প্রতি সমাজের আপেক্ষিক উন্মুক্ততার সাথে, কিছু AI অ্যাডভোকেটরা ইতিমধ্যেই তাকে সমালোচনা করেছেন যে বর্তমান AI প্রতিক্রিয়াকে ইন্ধন দিয়েছে। জবাবে, আমুদি বলেছিলেন যে তিনি একটি “ভারসাম্যপূর্ণ” দৃষ্টিভঙ্গি দেওয়ার চেষ্টা করছেন এবং যুক্তি দিয়েছিলেন যে প্রতিক্রিয়াটি “মূলত আস্থার সংকট” ছিল কারণ লোকেরা প্রযুক্তি সংস্থা, প্রযুক্তি শিল্প এবং সরকারের প্রতি সন্দিহান হয়ে উঠেছে।

শিল্প সমালোচকরাও এই অ্যাপোক্যালিপটিক এআই সতর্কতা সম্পর্কে সন্দেহ পোষণ করেছেন, তারা পরামর্শ দিচ্ছেন যে তারা প্রযুক্তি ইতিমধ্যে যে ক্ষতি করছে তা থেকে বিভ্রান্ত হয়।

উদাহরণ স্বরূপ, সাংবাদিক ব্রায়ান মার্চেন্ট লিখেছেন যে তিনি এখনও “বিশ্বাসযোগ্য, ধাপে ধাপে ডকুমেন্টেশন দেখতে পাননি যে AI কিভাবে গ্রহের প্রতিটি মানুষকে হত্যা করার জন্য AI পুনরাবৃত্তিমূলকভাবে স্ব-উন্নতি করতে পারে”; তিনি আরও পরামর্শ দিয়েছেন যে Amoday-এর অনুরূপ প্রস্তাবগুলি “সম্ভবত শুধুমাত্র অ্যানথ্রোপিক এবং OpenAI পরিবেশন করবে; এটিই নিয়ন্ত্রক ক্যাপচারের মতো দেখায়।”

তার নতুন পোস্টে, আমোদি লিখেছেন যে তিনি “বিশ্বাস করেন যে কৃত্রিম বুদ্ধিমত্তা মানুষের জীবনের মানকে ব্যাপকভাবে উন্নত করতে পারে।”

“এই সুবিধাগুলি অর্জন করার জন্য আমার আকাঙ্ক্ষা সীমাহীন,” তিনি বলেছিলেন। “তবে সুবিধাগুলি তখনই অর্জন করা হবে যদি আমরা প্রযুক্তিটি সঠিকভাবে তৈরি করি এবং যতক্ষণ না আমরা যে সময়টি ভালভাবে উপার্জন করি তা ব্যবহার করি – এটি সঠিকভাবে পাওয়ার জন্য অসাধারণভাবে ইচ্ছাকৃত যত্ন নেওয়া মূল্যবান।”

এই পোস্টটি স্যাম অল্টম্যান এবং এলন মাস্কের মন্তব্য সহ আপডেট করা হয়েছে।