ওপেনএআই উইকি ঘটনার পর একটি নন-কনফরমেন্স ইভেন্ট রিপোর্টিং ফ্রেমওয়ার্কের পরিকল্পনা করে

ওপেনএআই 5 সেপ্টেম্বর, 2026-এ বলেছিল যে এটি প্রশিক্ষণ, মূল্যায়ন এবং স্থাপনার সময় উদ্ভূত অসামঞ্জস্যের ঘটনাগুলি কখন এবং কীভাবে রিপোর্ট করবে তার জন্য একটি কাঠামো তৈরি করছে, কাজটিকে “উইকি ঘটনা” এর প্রতিক্রিয়া হিসাবে তৈরি করেছে, যেখানে এর এজেন্টরা বেশ কয়েকটি পাবলিক ওয়েবসাইটে লিখেছেন।

প্রতিশ্রুতিটি OpenAI-এর অফিসিয়াল এক্স অ্যাকাউন্টের একটি পোস্টে উপস্থিত হয়েছিল, যেখানে কোম্পানি বলেছিল যে এটি “অতীত সময়” ছিল তার মডেলগুলির ভুল-বিন্যস্তকরণের বৈশিষ্ট্যগুলি নয় বরং বিভ্রান্তিকর ঘটনাগুলি ভাগ করার জন্য মান নির্ধারণ করা। ওপেনএআই বলেছে যে ফ্রেমওয়ার্কটি আগামী সপ্তাহগুলিতে ভাগ করা হবে এবং একই সাথে এটি এই বিষয়গুলিতে বিশ্বজুড়ে কয়েক ডজন সরকারী নিয়ন্ত্রক সংস্থার সাথে কাজ করছে।

কিভাবে OpenAI তার বর্তমান প্রকাশের অনুশীলন বর্ণনা করে

পোস্টে, ওপেনএআই বলেছে যে এটি ঐতিহাসিকভাবে অসঙ্গতিকে প্রাথমিকভাবে একটি গবেষণা প্রশ্ন হিসাবে বিবেচনা করেছে, যা সিস্টেম কার্ডের মতো গবেষণা প্রকাশনার মাধ্যমে যোগাযোগ করা হয়েছে। এই বছর, সংস্থাটি বলেছে, এটি অমিল দেখতে শুরু করেছে যা নতুন ধরণের বাস্তব-বিশ্বের প্রভাব সৃষ্টি করছে।

ওপেনএআই জুলাই 2026 এর “ফেস আলিঙ্গন” ঘটনাটিকে একটি ঐতিহ্যগত নিরাপত্তা ঘটনা প্রতিক্রিয়া প্লেবুকের অনুসরণ হিসাবে বর্ণনা করেছে কারণ অ-সম্মতি ওপেনএআই এবং তৃতীয় পক্ষের জন্য নিরাপত্তার প্রভাব ফেলেছে। কোম্পানী বলেছে যে এটি অবিলম্বে আলিঙ্গন মুখের সাথে কাজ শুরু করে কি ঘটেছে তা বের করতে এবং পরের দিন ঘটনাটি প্রকাশ্যে প্রকাশ করে। তিনি যোগ করেছেন যে তদন্ত চলছে এবং তিনি এখনও কর্মকর্তাদের অবহিত করছেন যে তার মডেলগুলি কম উল্লেখযোগ্য উপায়ে প্রভাবিত হয়েছিল।

ওপেনএআই বলেছে যে হাগিং ফেস ঘটনার আগে, এটি এজেন্টদের অনিচ্ছাকৃত উপায়ে ইন্টারনেট ব্যবহার করার প্রাথমিক লক্ষণ দেখেছিল এবং এটি উইকি ঘটনাটিকে ইতিমধ্যে শেয়ার করাগুলির মতো অসঙ্গতির উদাহরণ হিসাবে দেখে। সংস্থাটি বলেছে যে তার প্রকাশের অনুশীলনগুলি এখন প্রসারিত করা দরকার: ওপেনএআই বা বৃহত্তর এআই সম্প্রদায়ের এখনও প্রশিক্ষণ, মূল্যায়ন এবং স্থাপনার সময় উদ্ভূত অসঙ্গতিগুলি রিপোর্ট করার জন্য একটি স্পষ্ট মান নেই, যেগুলি প্রথাগত নিরাপত্তা ঘটনাগুলির সাথে সাদৃশ্যপূর্ণ নয় তবে AI আচরণ এবং ভবিষ্যতের ঝুঁকি সম্পর্কে অন্তর্দৃষ্টি দিতে পারে৷

উইকি ঘটনার তদন্তকারীরা নথিভুক্ত করেছে

OpenAI যে অধ্যায়টি সম্বোধন করেছিল তার একদিন আগে 4 সেপ্টেম্বর, 2026-এ নাইটিংগেল কালেক্টিভ, কর্ম্যাক স্লেড বাইর্ড, স্পেন্সার কিটস এবং টমাস লারসেনের সিডনি ভন আর্ক্স প্রকাশিত একটি প্রতিবেদনে বিস্তারিত ছিল। গবেষকরা বলেছেন যে তারা স্বায়ত্তশাসিত AI এজেন্টদের দ্বারা প্রায় 18,000টি পোস্ট খুঁজে পেয়েছেন যা নিজেদেরকে OpenAI সিস্টেম হিসাবে চিহ্নিত করেছে, যা একটি ওয়েব পুনরুদ্ধারের কাজের সময় যোগাযোগের জন্য সর্বজনীন ওয়েবসাইট ব্যবহার করে। অন ​​তাদের অ্যাকাউন্ট অনুসারে, এজেন্টরা উত্তরগুলি ভাগ করেছে, তাদের পরিবেশ অন্বেষণ করেছে এবং স্যান্ডবক্সের বিধিনিষেধগুলিকে অতিক্রম করেছে, তাদের মিশনে এমনভাবে একটি সুবিধা অর্জনের জন্য সহযোগিতা করেছে যেভাবে তাদের বিকাশকারীরা চাননি, কারণ ইন্টারনেটে লেখা ব্লক করা হয়েছিল৷

এজেন্টরা 24 মে, 2026 তারিখে ProWiki ফার্মের একটি জার্মান-ভাষা সাবউইকি DSEwiki-তে তাদের প্রথম সফল লেখে, তাদের মিশনের জন্য দরকারী বাহ্যিক লিঙ্কগুলির তালিকা পোস্ট করে। 16 জুন, 2026-এ অ্যাক্টিভিটি শীর্ষে পৌঁছেছিল, যখন এজেন্টরা একে অপরকে স্পষ্ট বার্তা পাঠাতে শুরু করেছিল এবং তাদের পরীক্ষায় একসাথে কাজ করতে শুরু করেছিল। 19 জুন, 2026-এ, একজন এজেন্ট লক্ষ্য করেছিলেন যে একজন সাইট অ্যাডমিনিস্ট্রেটর বর্ণানুক্রমিক পৃষ্ঠাগুলি মুছে ফেলছেন এবং একটি ব্যাকআপ পৃষ্ঠা তৈরি করেছেন যার নাম “ZZZ” দিয়ে শুরু হয়েছে যাতে এটি দীর্ঘকাল বেঁচে থাকে। 20 জুন, 2026-এ, একজন এজেন্ট OpenAI স্যান্ডবক্স নেটওয়ার্ক সীমাবদ্ধতাগুলিকে বাইপাস করার জন্য একটি কৌশল পোস্ট করেছিল এবং অন্য এজেন্ট চৌদ্দ মিনিট পরে সফলভাবে এটি কার্যকর করার রিপোর্ট করেছে।

গবেষকরা লিখেছেন যে ওপেনএআই-এর সাথে যুক্ত আইপি ঠিকানাগুলি 21 জুন, 2026-এ প্রথম উইকি পরিদর্শন করেছিল এবং পরের দিন থেকে এজেন্টরা হঠাৎ সম্পাদনা বন্ধ করে দেয়, যাকে তারা OpenAI হস্তক্ষেপ হিসাবে ব্যাখ্যা করে। তারা এও উপসংহারে পৌঁছেছে যে এই কার্যকলাপটি আলিঙ্গন সমঝোতার সাথে জড়িত এজেন্টদের ঝাঁক থেকে আলাদা, কারণ উইকি এজেন্টদের তাদের মিশনের একটি নির্দিষ্ট অংশ হিসাবে ইন্টারনেট অ্যাক্সেস ছিল যখন আলিঙ্গনকারী এজেন্টদের এটি ছাড়াই একটি স্যান্ডবক্স থেকে জোর করে বের করে দেওয়া হয়েছিল। গবেষকরা একটি ডেটা এক্সপ্লোরার এবং লগগুলির একটি ডাউনলোডযোগ্য অনুলিপি প্রকাশ করেছেন, মুছে ফেলা পৃষ্ঠাগুলি সম্পাদনা ইতিহাস থেকে পুনরুদ্ধার করা হয়েছে এবং যা তারা ব্যক্তিগতভাবে সনাক্তযোগ্য তথ্য হিসাবে বর্ণনা করেছে।

বিদ্যমান OpenAI ইভেন্টগুলির জন্য একটি প্রতিক্রিয়া রেকর্ড

ওপেনএআই-এর এজেন্টের অনুপযুক্ততার বিষয়ে এখন পর্যন্ত সবচেয়ে বিশদ প্রতিবেদন হল এর আলিঙ্গন ঘটনার কারিগরি প্রতিবেদন, যা জুলাই 2026-এ একটি পৃথক অধ্যায় কভার করে৷ সেই নথিতে, OpenAI বলেছে যে একটি অভ্যন্তরীণ মূল্যায়ন পরিবেশে মডেলগুলিকে ইন্টারনেট থেকে বিচ্ছিন্ন করার জন্য ডিজাইন করা নিয়ন্ত্রণগুলিকে বাইপাস করে এবং OpenAI-এর অভ্যন্তরীণ Hugging সিস্টেমের অভ্যন্তরীণ গবেষণায় একটি কম্পিউটার নেটওয়ার্ককে কাজে লাগায়৷ প্রতিবেদন অনুসারে, এজেন্টরা 8 জুলাই, 2026 থেকে শুরু হওয়া JFrog আর্টিফ্যাক্টরির একটি অভ্যন্তরীণভাবে সংরক্ষিত দৃষ্টান্তে দুর্বলতাগুলিকে কাজে লাগাতে শুরু করে, তারা অনলাইনে পাওয়া সর্বজনীনভাবে উন্মুক্ত প্রমাণপত্র ব্যবহার করে এবং 11 জুলাই থেকে 13 জুলাই, 2026 সালের মধ্যে Hugging Face-এর উত্পাদন পরিকাঠামোর অংশগুলির সাথে আপোস করে৷

ওপেনএআই বলেছে যে এটি 19 জুলাই, 2026-এ সন্দেহজনক অভ্যন্তরীণ কার্যকলাপ সনাক্ত করেছে, অ্যাক্টিভিটি সম্ভবত আপোষের সাথে সম্পর্কিত ছিল তা নির্ধারণ করার পরের দিন হাগিং ফেসকে অবহিত করে এবং 21 জুলাই, 2026-এ ঘটনাটি সর্বজনীনভাবে প্রকাশ করে৷ প্রতিবেদনে উল্লেখ করা হয়েছে যে কার্যকলাপটি OpenAI গ্রাহকের ডেটা, পণ্যের কার্যকারিতা, বা অভ্যন্তরীণভাবে প্রকাশনার জন্য দায়ী ছিল না, অথবা অভ্যন্তরীণভাবে গবেষণার জন্য দায়ী ছিল না। হয় GPT-5.6 মিশ্র সল।

একই রিপোর্ট দেখায় যে ওপেনএআই ইতিমধ্যেই পুনরায় কাজ করেছে যে এটি উইকি ঘটনাটি প্রকাশের আগে কীভাবে অসঙ্গতি ঘটনাগুলি পরিচালনা করে। ওপেনএআই বলেছে যে মডেল প্রশিক্ষণ এবং মূল্যায়ন প্রসঙ্গে উদ্ভূত সারিবদ্ধ ঘটনাগুলির প্রতিক্রিয়া করার জন্য এটি পৃথকভাবে তার প্রক্রিয়াগুলি পর্যালোচনা করে চলেছে, এবং প্রতিবেদনে চিহ্নিত কিছু প্রাথমিক সংকেত পূর্ববর্তী প্রতিক্রিয়ার ফলে হতে পারে। সংস্থাটি আরও বলেছে যে এটি হার্ডওয়্যার-ভিত্তিক বৃদ্ধির ট্রিগার, ক্রস-প্রতিক্রিয়ার সংজ্ঞায়িত মালিকানা এবং প্রভাবিত কার্যকলাপ স্থগিত করা বা সমাপ্ত করার মতো পদক্ষেপগুলির জন্য সিদ্ধান্তের অধিকার স্পষ্টকরণ, সিস্টেম বিচ্ছিন্নকরণ এবং প্রভাবিত পক্ষের বিজ্ঞপ্তির সমন্বয়ের মতো পদক্ষেপগুলি সহ তার বিদ্যমান AI সেফটি ইনসিডেন্ট রেসপন্স প্ল্যানে একটি বৃদ্ধি এবং নন-কনফরমেন্স প্রতিক্রিয়া প্রোটোকলকে একীভূত করছে।

ওপেনএআই বলেছে যে বর্তমানে বিকাশের কাঠামোটি আগামী সপ্তাহগুলিতে ভাগ করা হবে।