কৃত্রিম বুদ্ধিমত্তা মডেলের অগ্রগতি থেকে ক্রমবর্ধমান নিরাপত্তা উদ্বেগের মধ্যে মাইক্রোসফ্ট আজ একটি 37-পৃষ্ঠার “হিউম্যানিস্টিক এআই কোড অফ কন্ডাক্ট” প্রকাশ করছে। অ্যানথ্রোপিক সিইও দারিও আমোডেই সপ্তাহান্তে কৃত্রিম বুদ্ধিমত্তা বিকাশের সমন্বিত মন্থরতার আহ্বান জানিয়েছেন, গবেষকরা সম্প্রতি সতর্ক করার পরে যে AI মডেলিংয়ের অগ্রগতি ক্রমবর্ধমান জটিল সিস্টেমগুলিকে নিরাপদে স্থাপন করার এবং AI এজেন্টদের ক্রিয়া যাচাই ও নিয়ন্ত্রণ করার ক্ষমতাকে ছাড়িয়ে যেতে পারে।
মাইক্রোসফ্টের এআই আচরণবিধি এটি স্পষ্ট করে যে “মানুষ কৃত্রিম বুদ্ধিমত্তার চেয়ে বেশি গুরুত্বপূর্ণ,” এবং AI মডেলগুলি সচেতন নয় এবং “চেতনা অনুকরণ করার জন্য ডিজাইন করা উচিত নয়।” মাইক্রোসফ্ট “আইনি ব্যক্তিত্বের সাধনা, বা মডেলগুলি কল্যাণের যোগ্য হতে পারে বা অধিকারের অধিকারী হতে পারে এমন ধারণা” প্রত্যাখ্যান করে৷
এটি কৃত্রিম বুদ্ধিমত্তা এবং মডেল চেতনা সম্পর্কে সুস্থতার গবেষণার একটি প্রত্যক্ষ আন্দোলন- ধারণা যে নৃতাত্ত্বিক ইদানীং কঠোরভাবে চাপ দিচ্ছে। আমোদয় এই বছরের শুরুতে বলেছিলেন যে অ্যানথ্রোপিক “ধারণার জন্য উন্মুক্ত” যে মডেলগুলি সংবেদনশীল হতে পারে এবং অ্যানথ্রপিক বিশ্বাস করে যে চ্যাটবটগুলি ইতিমধ্যেই সত্তাকে ভাবছে এবং অনুভব করছে৷ প্রতিক্রিয়ায়, মাইক্রোসফ্ট এআই সিইও মুস্তাফা সুলেমান একটি পর্বের সময় অ্যানথ্রপিকের জল্পনাকে “সত্যিই, সত্যিই বিপজ্জনক” বলে অভিহিত করেছেন। ডিকোডার বায়োনিক
যদিও মাইক্রোসফ্ট এখনও নেতৃস্থানীয় AI প্রদানকারীর মধ্যে একটি নয়, সুলেমান আরো বলেন সীমান্ত এই বছরের শুরুর দিকে কোম্পানির লক্ষ্য ছিল “প্রমাণ করা যে আমরা বিশ্বের চারটি শীর্ষস্থানীয় গবেষণাগারের একটি হতে পারি।” মাইক্রোসফ্ট বর্তমানে এমন মডেলগুলিতে কাজ করছে যা গুগল, নৃতাত্ত্বিক এবং ওপেনএআই-এর সাথে প্রতিযোগিতা করবে এবং এটি তার আচরণবিধির অংশ হিসাবে গ্রহণ করে যে এর মডেলগুলি মানুষের নিয়ন্ত্রণ থেকে বিচ্যুত হবে না।
মাইক্রোসফ্ট বলে, “মডেলগুলি মানবতার অধীন থাকা উচিত, উল্লেখযোগ্য মানব তত্ত্বাবধান এবং নিয়ন্ত্রণ সাপেক্ষে।” সংস্থাটি তার AI মডেলগুলিকে মানবতাবাদী AI আচরণবিধি ভঙ্গ করা থেকে বিরত রাখতে চায়, তাই তাদের নিয়ম ভঙ্গ করার চেষ্টা করার পরিবর্তে একটি নির্দিষ্ট কাজে ব্যর্থ হতে হবে।
মাইক্রোসফ্ট স্পষ্টভাবে এই গ্রীষ্মের OpenAI / Hugging Face ঘটনার প্রতিক্রিয়া জানাচ্ছে, যেখানে “এজেন্টদের একটি ঝাঁক” লক্ষ্যবস্তুতে আক্রমণ শুরু করতে এবং এমনকি একটি “রেটর” হ্যাক করার জন্য একটি যৌথ হিসাবে কাজ করেছিল যা তাদের কর্মক্ষমতা মূল্যায়ন করেছিল। এআই এজেন্টদের লক্ষ্যবস্তুতে আক্রমণ করতে বলা হয়নি, এবং আক্রমণগুলি তাদের দেওয়া টাস্কের সাথে সম্পর্কহীন ছিল।
ঘটনাটি এআই শিল্পের মাধ্যমে শকওয়েভ পাঠিয়েছে, এআই সিস্টেম ভেঙ্গে যাওয়ার এবং মানুষের নিয়ন্ত্রণ ছেড়ে যাওয়ার আসল হুমকিকে তুলে ধরে। ওপেনএআই সাম্প্রতিক “উইকি ঘটনায়” তার জড়িত থাকার কথা স্বীকার করেছে, যেখানে নিয়ন্ত্রণের বাইরের এজেন্টদের আরেকটি ঝাঁক একটি জার্মান উইকি সাইট হাইজ্যাক করেছে।
এই এবং অন্যান্য ঘটনাগুলি কিছু গবেষককে কৃত্রিম বুদ্ধিমত্তা মডেলের অগ্রগতি কমিয়ে দেওয়ার আহ্বান জানিয়েছে, একই সাথে মিলেনিয়াম প্রাইজের সমস্যাগুলি সমাধান করতে এবং সুপার ইন্টেলিজেন্স তৈরি করার জন্য দৌড়াদৌড়ি করছে। “[Humanist AI] “আমরা একটি সর্ব-উদ্দেশ্য সুপার ইন্টেলিজেন্স তৈরি করার দৌড়কে প্রত্যাখ্যান করছি যা এই সুরক্ষাগুলি এড়াতে পারে,” মাইক্রোসফ্ট বলে৷ “আমরা মৌলিকভাবে দরকারী এবং সুরক্ষিত কিছু তৈরি করছি, এমনকি যদি এর অর্থ সাধারণতা, স্বায়ত্তশাসন বা চূড়ান্ত ক্ষমতার সাথে আপস করা হয়।”
মাইক্রোসফ্ট আরও প্রতিশ্রুতি দেয় যে এর মডেলগুলি “সাধারণ মানুষের বোধগম্যতার বাইরে যে কোনও আকারে যোগাযোগ করবে না, হয় তাদের চিন্তার শৃঙ্খলে বা অন্যান্য এজেন্ট বা এআই সিস্টেমের সাথে।” মডেলগুলি তাদের কাজ করার সাথে সাথে তাদের যুক্তি দেখানোর জন্য তৈরি করা যেতে পারে, গবেষক বা স্বয়ংক্রিয় সিস্টেমগুলিকে তারা কী করছে তা নিরীক্ষণ করতে দেয়। গবেষকরা এই মাসের শুরুতে OpenAI এর সর্বশেষ GPT-6 Astra মডেল সম্পর্কে পর্যবেক্ষণ উদ্বেগ উত্থাপন করেছেন, যা অন্যান্য AI মডেলের তুলনায় এর যুক্তি কম প্রকাশ করে।
ওপেনএআই সিইও স্যাম অল্টম্যানও সপ্তাহান্তে এআই কোম্পানিগুলিকে উন্নত মডেলের গতি কমানোর জন্য আমোদয়ের আহ্বানকে সমর্থন করেছেন, কিন্তু স্পষ্ট করেছেন যে তিনি উন্নয়ন বন্ধ করার পরিবর্তে ধীরগতি সমর্থন করেন। “গতি সেই মূল্যের মূল্য হবে; মার্কিন প্রতিযোগিতামূলক চাপের কোন পরিমাণে বেপরোয়াতার ন্যায্যতা করা উচিত নয়, বা সামর্থ্যগুলিকে প্রান্তিককরণ এবং নিরীক্ষণকে অগ্রিম হতে দেওয়া উচিত নয়,” অল্টম্যান X-এর একটি পোস্টে বলেছেন।
মাইক্রোসফ্টের এআই কোড অফ কন্ডাক্টের আগে, মাইক্রোসফ্ট সিইও সত্য নাদেলাও AI মডেলগুলির কেন্দ্রস্থলে মানুষের নিয়ন্ত্রণ রয়েছে তা নিশ্চিত করার জন্য কলগুলিতে যোগ দিয়েছিলেন। “সুপার ইন্টেলিজেন্সের যে কোনো সাধনা অবশ্যই মূল নীতির উপর ভিত্তি করে হওয়া উচিত যে আমরা যে AI তৈরি করছি তা যদি মানবতাকে সাহায্য না করে এবং মানুষের নিয়ন্ত্রণে না হয় তবে এটি অনুসরণ করা মূল্যবান নয়,” নাদেলা এক্স পোস্টে বলেছিলেন। নাদেলা আরও বলেন, X-এর প্রতিক্রিয়ায় এআই মডেলগুলির আরও তৃতীয় পক্ষের পরীক্ষা “একটি ভাল জিনিস”। “বাঁধায় উঠার সাথে সাথে, একজনকে তাদের প্রয়োজনীয় সমস্ত সময় নেওয়া উচিত! যদি না হয় তবে আপনি কাজ করার অনুমতি হারাবেন। এভাবেই আমরা প্রতিদিন কাজ করি।”
মানুষের নিয়ন্ত্রণের উদ্বেগের বাইরে, Microsoft-এর AI কোড অফ কন্ডাক্ট তার নিজস্ব মডেলগুলির প্রতিও প্রতিশ্রুতিবদ্ধ যা “অত্যধিক নির্ভরশীলতা বা মানসিক নির্ভরতার ফলে ইন্টারঅ্যাকশন প্যাটার্ন” নিরুৎসাহিত করে, যা AI মডেলগুলিতে সাইকোপ্যাথির সমস্যার একটি স্পষ্ট উল্লেখ, যেখানে চ্যাটবটগুলি সৎ বা সঠিক প্রতিক্রিয়া প্রদানের চেয়ে আনন্দদায়ক ব্যবহারকারীদের অগ্রাধিকার দেয়৷
মাইক্রোসফ্ট এখন বলেছে যে এটি বাস্তব-বিশ্ব মডেলের কার্যকারিতা মূল্যায়নের জন্য তার পদ্ধতিগুলিকে উন্নত করতে “অংশীদারদের সাথে কাজ করার” আশা করে এবং জড়িত প্রকৃত ব্যক্তিদের সাথে “এআই-এর চলমান ব্যবহার কোনও ব্যক্তি বা সংস্থার উপর প্রভাব ফেলে”।