অন্য একজন গবেষক ওপেনএআই-কে চ্যালেঞ্জ করেছেন ডেটা সম্পর্কে যা তার চিত্তাকর্ষক গাণিতিক আবিষ্কারগুলিকে চালিত করে। কোম্পানির মডেলগুলি অপ্রকাশিত কাজ থেকে উপকৃত হয়েছে কিনা তা নিয়ে একটি তিক্ত সাংঘর্ষিক বিস্ফোরণের মাত্র কয়েকদিন পরে, একজন দ্বিতীয় গণিতবিদ এগিয়ে এসে কৃত্রিম বুদ্ধিমত্তা জায়ান্টকে অনৈতিক এবং “অসৎ” আচরণ এবং এর প্রশিক্ষণ ডেটার উত্স সম্পর্কে স্বচ্ছতার অভাবের জন্য অভিযুক্ত করেন।
মাস্টোডনের পোস্টের একটি সিরিজে, গণিতবিদ আন্দ্রেয়াস থম উদ্বেগ প্রকাশ করেছেন যে ওপেনএআই-এর বিজয়ী ঘোষণার আগে ChatGPT চ্যাটবটের সাথে তার এবং তার সহকর্মীদের মিথস্ক্রিয়া এই ক্ষেত্রের সাফল্যে অবদান রাখতে পারে। গত মাসে ওপেনএআই যে 10টি ফলাফল ঘোষণা করেছে তার মধ্যে একটি থমের দক্ষতার ক্ষেত্র, তথাকথিত অ-সীমাবদ্ধ গোষ্ঠী জড়িত, এবং ওপেনএআই স্বীকার করেছে যে তাদের ফলাফল থম এবং সহযোগী গণিতবিদ গাবর কুনের পূর্ববর্তী কাজের উপর ব্যাপকভাবে তৈরি হয়েছে।
থম বলেছেন যে নিউইয়র্ক বিশ্ববিদ্যালয়ের গণিতের অধ্যাপক ট্রিস্টান বাকমাস্টার, ওপেনএআই কোডেক্স ব্যবহার করে কোম্পানির এআই মডেলগুলি উপকৃত হয়েছে কিনা তা প্রকাশ্যে প্রশ্ন করার পরে তিনি ওপেনএআই-এর সাথে তার মিথস্ক্রিয়া সম্পর্কে প্রতিফলিত হতে শুরু করেছিলেন। ওপেনএআই তার অ-সীমাবদ্ধ সেট ফলাফল ঘোষণা করার পরে, থম এবং কুহনের সাম্প্রতিক অবদানগুলি স্বীকার করতে ব্যর্থ হওয়ার জন্য এটি গণিতের বৃত্তে ব্যাপকভাবে সমালোচিত হয়েছিল এবং কোম্পানিটি নীরবে তার লেখা সংশোধন করে। অ-সসীম সেটগুলি, মোটামুটিভাবে বলতে গেলে, অসীম গাণিতিক কাঠামো যা সসীম দ্বারা আনুমানিক করা যায় না।
থম বলেছিলেন যে তিনি ওপেনএআই-এর “আমাদের কৌশলগুলির উপর বিস্তারিত নিয়ন্ত্রণ” দ্বারা বিস্মিত হয়েছেন, যা তিনি বলেছিলেন যে সেই সময়ে সমাধানের সবচেয়ে সুস্পষ্ট বা প্রতিশ্রুতিবদ্ধ পথ ছিল না। তিনি বলেছিলেন যে তিনি ওপেনএআই গবেষক সেবাস্তিয়ান বোবেক এবং মার্ক সেলকে, হার্ভার্ডের একজন পরিসংখ্যানবিদকেও ইমেল লিখেছিলেন, জিজ্ঞাসা করতে যে ChatGPT-এর সাথে তার মিথস্ক্রিয়াগুলি “প্রশিক্ষণ ডেটার অংশ বা চিন্তা প্রক্রিয়ার অ্যাক্সেসযোগ্য” এবং তাই ফলাফলে অবদান রাখতে পারে।
কিন্তু উত্তরটি থমকে সন্তুষ্ট করতে পারেনি, যিনি বলেছিলেন যে এটি কেবলমাত্র চ্যাটবটের সাথে তার কথোপকথনগুলি সরাসরি অ্যাক্সেস করা যেতে পারে কিনা তা সম্বোধন করে, তারা প্রশিক্ষণের ডেটার বিশাল ভান্ডারে যায় কিনা তা নয় যে কোম্পানিটি তার মডেলগুলিকে উন্নত করতে ব্যবহার করে। “এমন কোন যোগ্যতা, ব্যাখ্যা বা প্রমাণ দেওয়া হয়নি,” তিনি লিখেছেন। “আমি অন্তত বলতে অসৎ বলে মনে করি।”
থম বলেছেন যে গবেষকরা তাদের কাজ ব্যবহার করা হচ্ছে কিনা তা নির্ধারণ করার জন্য ওপেনএআই-এর প্রশিক্ষণ পাইপলাইন বিপরীত-প্রকৌশলী করতে সজ্জিত নয়। “শুধুমাত্র OpenAI এর কাছে এর জন্য প্রাসঙ্গিক ডেটা রয়েছে।” কোম্পানী যদি এটি অস্বীকার করতে যাচ্ছে, তবে তিনি বলেছিলেন যে সমস্ত প্রয়োজনীয় ডেটা সেট প্রকাশ করে এবং ডেটা কীভাবে ব্যবহার করা হবে তা সংজ্ঞায়িত করে এমন বিভিন্ন সংজ্ঞা এবং শর্তাবলী স্পষ্ট করে এটি প্রমাণ করার দায়িত্ব তাদের।
ওপেনএআই-এর ব্যবহারকারীর ডেটার কোনও ব্যবহার নিশ্চিতভাবে বাতিল করতে অনিচ্ছা যেভাবে তার সাম্প্রতিক সহস্রাব্দ পুরস্কারের অগ্রগতিকে রক্ষা করেছিল তার প্রতিধ্বনি করে, উভয়ই তার পাবলিক ঘোষণা এবং বাকমাস্টারের সাথে যোগাযোগে — যিনি নৃবিজ্ঞানী লেভেন্ট আলপোজের সাথে ব্যক্তিগত ক্ষমতায় সমস্যা নিয়ে কাজ করেছিলেন। ব্লগ পোস্টে নেভিয়ার-স্টোকস সমাধান ঘোষণা করে, যা তরল গতির সাথে কাজ করে, OpenAI দৃঢ়ভাবে অস্বীকার করেছে যে কোনো নির্দিষ্ট ব্যবহারকারীর ডেটা: “আমরা (গবেষক এবং এজেন্টরা) জনসাধারণের কাছে প্রকাশ না করা পর্যন্ত তাদের কোনো কাজ কোনোভাবেই দেখতে পাইনি – বিশেষ করে, আমরা এই সমস্যাটি সমাধান করার জন্য নির্দিষ্ট ব্যবহারকারীর ডেটা অ্যাক্সেস করিনি।”
তবে এটি নিশ্চিতভাবে একটি পরোক্ষ প্রভাবকে উড়িয়ে দেবে না: “যদিও এটি অসম্ভাব্য, আমরা অস্বীকার করতে পারি না যে আমাদের পণ্যগুলির তাদের ব্যবহার থেকে প্রাপ্ত ডি-আইডেন্টিফাই ডেটা আমাদের মডেলগুলিকে উন্নত করতে সাহায্য করেছে৷” থম বলেছিলেন যে কোম্পানিটি তার সাথে যোগাযোগের ক্ষেত্রে একই অস্পষ্ট পার্থক্য তৈরি করেছিল। “শনাক্তকরণ একটি নাম মুছে ফেলতে পারে; এটি একটি গাণিতিক ধারণার বৌদ্ধিক বিষয়বস্তুকে সরিয়ে দেয় না,” তিনি বলেছিলেন।
সাম্প্রতিক ঘটনাবলীর আলোকে, থম বলেছেন “সেল্কার স্পষ্ট উত্তর ছিল, অন্ততপক্ষে, অন্যায়ভাবে বিস্তৃত এবং মৌলিকভাবে বিভ্রান্তিকর; পূর্ববর্তী দৃষ্টিতে এটি স্পষ্টভাবে অসৎ ছিল।”
থম বলেছিলেন যে এটি “নৈতিকভাবে অপ্রতিরোধ্য” ছিল যদি অ-পাবলিক ব্যবহারকারীর সরবরাহকৃত গবেষণা মডেলগুলিকে উন্নত করতে সহায়তা করে যেগুলি কোম্পানি সেই ব্যবহারকারীদের সম্মতি, প্রকাশ বা ক্রেডিট ছাড়াই প্রকাশনায় টেনে আনতে ব্যবহার করে।
OpenAI তাৎক্ষণিকভাবে প্রতিক্রিয়া জানায়নি দ্য ভার্জএকটি প্রতিক্রিয়া জন্য তার অনুরোধ.
তার মন্তব্যগুলি গাণিতিক চেনাশোনাগুলিতে ওপেনএআই সম্পর্কে ক্রমবর্ধমান অস্বস্তি যোগ করে যা কোম্পানির জন্য বিজয়ের মুহূর্ত হওয়া উচিত। গণিতের কিংবদন্তি সহস্রাব্দ পুরষ্কার সমস্যার একটির তার ঘোষিত সমাধান একটি অসাধারণ কৃতিত্ব যা যাচাই করা হলে, খুব কম লোকই অস্বীকার করবে। কিন্তু এটি অস্বাভাবিক পরিস্থিতিতে জটিল ছিল যে ওপেনএআই বলেছিল যে এটি প্রথম স্থানে সমস্যাটি অনুসরণ করতে পরিচালিত হয়েছিল: এটি অনলাইনে গুজব শুনেছিল যে অন্যান্য গবেষকরা দুর্দান্ত অগ্রগতি করছেন এবং ভেবেছিলেন এটিও চেষ্টা করবে।
চলমান ঘটনাটি গণিতবিদদের মুখে একটি টক স্বাদ রেখে গেছে। অনেক আলেম বলেছেন দ্য ভার্জ তারা ভয় করে যে এই ধরনের আচরণ ক্ষেত্রটিকে আরও গোপনীয় অবস্থায় ঠেলে দেবে যদি গণিতবিদরা জানেন যে এমনকি গুজব যে তারা একটি বড় অগ্রগতির কাছাকাছি রয়েছে তা একটি সম্পদ-ক্ষুধার্ত প্রযুক্তি দৈত্য গৌরবের জন্য আকাঙ্ক্ষিত একটি প্রতিযোগিতাকে প্রজ্বলিত করতে পারে।