একটি AI এজেন্ট নির্দেশাবলী, টুলস, মেমরি এবং একটি কন্ট্রোল লুপের সাথে একটি মডেলকে একত্রিত করে কাজ করে যা বারবার সিদ্ধান্ত নেয় পরবর্তী কি করতে হবে। মডেলটি বিচার এবং ভাষার ক্ষমতা প্রদান করে, যখন পার্শ্ববর্তী সফ্টওয়্যার এই ক্ষমতাগুলিকে একটি রাষ্ট্রীয় প্রক্রিয়ায় রূপান্তরিত করে যা চলতে পারে, ফলাফল পরীক্ষা করতে পারে, ত্রুটিগুলি থেকে পুনরুদ্ধার করতে পারে এবং বন্ধ করতে পারে।
এই স্থাপত্য বোঝা একটি একক বুদ্ধিমান বস্তু হিসাবে একটি এজেন্ট চিকিত্সার চেয়ে আরো দরকারী. বেশিরভাগ সাফল্য এবং ব্যর্থতাগুলি উপাদানগুলির মধ্যে মিথস্ক্রিয়া থেকে আসে: একটি দুর্দান্ত মডেল অস্পষ্ট সরঞ্জাম, বাসি মেমরি, অত্যধিক সুযোগ-সুবিধা বা সম্পূর্ণতার একটি নির্ভরযোগ্য সংজ্ঞা ছাড়াই একটি নিয়ন্ত্রণ লুপ দ্বারা হ্রাস করা যেতে পারে।
একটি এআই এজেন্টের পাঁচটি মূল অংশ
1. মডেল
মডেল লক্ষ্য ব্যাখ্যা করে, উপলব্ধ প্রেক্ষাপট জুড়ে কারণ, এবং একটি কর্ম নির্বাচন করে। অনেক বর্তমান এজেন্টে, এটি একটি বড় ভাষা মডেল যা নির্দেশাবলী অনুসরণ করতে এবং বোধগম্য টুল কলের পাশাপাশি প্রাকৃতিক ভাষা তৈরি করতে সক্ষম।
সবচেয়ে সক্ষম মডেল স্বয়ংক্রিয়ভাবে প্রতিটি পদক্ষেপের জন্য সেরা পছন্দ নয়। একটি সিস্টেম কঠিন ডিজাইনকে আরও শক্তিশালী মডেলে রুট করতে পারে, শ্রেণীবিভাগের জন্য একটি দ্রুত মডেল ব্যবহার করতে পারে এবং বৈধতার জন্য নির্ধারক কোডের উপর নির্ভর করতে পারে। এই মিশ্রণ গতি, খরচ এবং নির্ভরযোগ্যতা উন্নত করতে পারে।
2. নির্দেশাবলী
নির্দেশাবলী এজেন্টের ভূমিকা, সীমানা, অগ্রাধিকার এবং আউটপুট প্রয়োজনীয়তা সংজ্ঞায়িত করে। তারা একটি সিস্টেম বার্তা, টাস্ক-নির্দিষ্ট প্রসঙ্গ, নীতি, উদাহরণ, টুলটিপ এবং স্টপ মানদণ্ড অন্তর্ভুক্ত করতে পারে।
ভাল নির্দেশাবলী কাজ. তারা এজেন্টকে বলে যে কোন প্রমাণের প্রয়োজন, কখন অনুমোদনের জন্য জিজ্ঞাসা করতে হবে, কোন উৎসগুলি গ্রহণযোগ্য এবং কীভাবে সম্পূর্ণতা সনাক্ত করতে হবে। অস্পষ্ট বা পরস্পরবিরোধী নিয়ম মডেলটিকে অনুমান করতে বাধ্য করে, অন্যথায় অনুরূপ কাজের ক্ষেত্রে অসঙ্গতি তৈরি করে।
3. টুলস
সরঞ্জামগুলি মডেলটিকে তার বর্তমান প্রেক্ষাপটের বাইরে সক্ষমতার সাথে সংযুক্ত করে। একটি টুল ওয়েবে অনুসন্ধান করতে পারে, একটি গ্রাহকের রেকর্ড পুনরুদ্ধার করতে পারে, কোড চালাতে পারে, একটি ডাটাবেস অনুসন্ধান করতে পারে, একটি ব্রাউজার নিয়ন্ত্রণ করতে পারে বা একটি ক্যালেন্ডার ইভেন্ট তৈরি করতে পারে।
মডেল সাধারণত ফাংশন নিজেই সঞ্চালন না. তিনি একটি সুপরিচিত টুল বেছে নেন এবং স্ট্রাকচার্ড আর্গুমেন্ট অফার করেন। এজেন্ট রানটাইম অনুরোধটি যাচাই করে, অনুমতি পরীক্ষা করে, অপারেশন করে এবং ফলাফল ফেরত দেয়। এই বিচ্ছেদ অপরিহার্য: এটি সফ্টওয়্যারটিকে বাইরের বিশ্বকে প্রভাবিত করার আগে ভুল বা অনিরাপদ ক্রিয়াগুলি প্রত্যাখ্যান করার সুযোগ দেয়।
4. রাষ্ট্র এবং স্মৃতি
স্টেট হল বর্তমান চলাকালীন এজেন্টের প্রয়োজনীয় তথ্য: লক্ষ্য, কথোপকথন, পরিকল্পনা, পর্যবেক্ষণ, টুল আউটপুট এবং সম্পূর্ণ পদক্ষেপ। মেমরি এই ধারণাকে প্রসারিত করে তাৎক্ষণিক প্রেক্ষাপটের বাইরে দরকারী তথ্য সংরক্ষণ করে, যেমন পূর্বের পছন্দ, বারবার ঘটনা, বা পূর্ববর্তী কাজ থেকে শেখা পাঠ।
বেশি স্মৃতি সবসময় ভালো হয় না। অপ্রাসঙ্গিক রেকর্ডগুলি প্রসঙ্গ গ্রাস করে এবং মডেলটিকে পুরানো অনুমানের দিকে নিয়ে যেতে পারে। দক্ষ মেমরি সিস্টেমগুলি কী সংরক্ষণ করবে, কীভাবে এটি সংগঠিত করবে, কখন এটি পুনরুদ্ধার করবে এবং কীভাবে বিরোধপূর্ণ বা মেয়াদোত্তীর্ণ তথ্য পরিচালনা করবে তা নির্ধারণ করে।
5. নিয়ন্ত্রণ লুপ
কন্ট্রোল লুপ হল অর্কেস্ট্রেশন লেয়ার যা প্রক্রিয়াটিকে সচল রাখে। এটি মডেলটিতে বর্তমান অবস্থা পাঠায়, একটি প্রস্তাবিত পদক্ষেপ গ্রহণ করে, অনুমোদিত সরঞ্জামগুলি চালায়, পর্যবেক্ষণ রেকর্ড করে এবং আবার মডেলটি চালায়।
অ্যানথ্রোপিক একজন এজেন্টকে কার্যকরী এজেন্ট নির্মাণের গাইডে পুনরুদ্ধার, সরঞ্জাম এবং মেমরির মতো ক্ষমতা সহ লুপে চলমান একটি বর্ধিত ভাষা মডেল হিসাবে বর্ণনা করে। ওপেনএআই একইভাবে এজেন্ট এক্সিকিউশনকে মডেল, এর টুলস এবং পরিবেশের মধ্যে একটি ক্রমাগত মিথস্ক্রিয়া হিসাবে ফ্রম মডেল থেকে এজেন্ট পর্যন্ত ফ্রেম করে।
ইন্টারফেসগুলি উপাদানগুলির মতোই গুরুত্বপূর্ণ
একটি আর্কিটেকচার ডায়াগ্রাম প্রতিটি উপাদানকে পরিষ্কারভাবে আলাদা করে দেখাতে পারে, কিন্তু প্রকৃত নির্ভরযোগ্যতা তাদের মধ্যে চুক্তির উপর নির্ভর করে। মডেলটির জন্য এমন সরঞ্জামগুলির বর্ণনা প্রয়োজন যা অনুরূপ ক্ষমতাগুলির মধ্যে পার্থক্য করে। রানটাইম টাইপ করা আর্গুমেন্ট এবং স্পষ্ট ত্রুটি শর্ত প্রয়োজন. মেমরি পুনরুদ্ধার উৎস এবং নতুনত্ব তথ্য প্রয়োজন. সমাপ্তি পরীক্ষকের মানদণ্ড প্রয়োজন যা পরীক্ষা করা যেতে পারে এবং একটি অস্পষ্ট অনুভূতি নয় যে উত্তরটি যথেষ্ট ভাল।
একটি অনুসন্ধান টুল বিবেচনা করুন যা একটি খালি তালিকা প্রদান করে। এই ফলাফলের অর্থ হতে পারে যে কোনও প্রাসঙ্গিক রেকর্ড বিদ্যমান নেই, ক্যোয়ারীটি ভুল ছিল, একজন অননুমোদিত ব্যবহারকারী, বা পরিষেবার সময় শেষ হয়ে গেছে। যদি টুলটি একই আউটপুটে চারটি শর্তকে ভেঙে দেয়, তাহলে মডেলটি নির্ভরযোগ্যভাবে কী ঘটেছে তার যুক্তি দিতে পারে না। একটি ভাল-পরিকল্পিত ইন্টারফেস কাঠামোগত প্রমাণ প্রদান করে: স্থিতি, উত্স, টাইমস্ট্যাম্প, ক্যোয়ারী, ফলাফল গণনা এবং উপযুক্ত হলে মেশিন পড়ার ত্রুটি।
একই নীতি সম্পর্কের ক্ষেত্রে প্রযোজ্য। নির্দেশাবলী, প্রামাণিক রেকর্ড, পুনরুদ্ধার করা অংশ, মডেল-উত্পন্ন মন্তব্য, এবং অবিশ্বস্ত বহিরাগত বিষয়বস্তু সমতুল্য পাঠ্য হিসাবে গণ্য করা উচিত নয়। তাদের উত্স এবং কর্তৃত্বকে লেবেল করা রানটাইমকে নীতি প্রয়োগ করতে সহায়তা করে এবং মডেলটিকে সঠিকভাবে প্রমাণ ওজন করতে সহায়তা করে। এটি কনটেক্সট ইঞ্জিনিয়ারিংয়ের একটি ব্যবহারিক রূপ: মডেলটি কী তথ্য দেখছে তা নির্ধারণ করে না, তবে সেই তথ্য কীভাবে সংগঠিত হয় এবং সিস্টেমটি এটিকে নিয়ন্ত্রণ করতে দেয়।
ধাপে ধাপে উদাহরণ
একজন এজেন্টকে কল্পনা করুন যাকে তিনজন সম্ভাব্য সরবরাহকারীর তুলনা করতে এবং একটি সুপারিশ প্রস্তুত করতে বলা হয়েছে।
এজেন্ট রানটাইম
রুট সিদ্ধান্ত
দেশকে পাহারা দেয়
একা মডেল
টোকেন ভবিষ্যদ্বাণীকারী
সঞ্চালিত করা যাবে না
| মডেল | প্রসঙ্গটি ব্যাখ্যা করে এবং পরবর্তী কর্মের পরামর্শ দেয়। |
|---|---|
| চলমান সময় | কল যাচাই করে, টুল এক্সিকিউট করে এবং পর্যবেক্ষণ ফেরত দেয়। |
| পুরুষ | পর্যায় বা সেশনের মধ্যে একটি নির্বাচিত অবস্থা বহন করে। |
| নিয়ন্ত্রণ লুপ | চালিয়ে যাওয়া, আবার চেষ্টা করা, বাড়ানো বা থামানোর সিদ্ধান্ত নেয়। |
- লক্ষ্য অর্জন করুন: এজেন্ট সিদ্ধান্তের মানদণ্ড, সময়সীমা, বাজেট এবং প্রয়োজনীয় আউটপুট পড়ে।
- উপলব্ধ প্রসঙ্গ দেখুন: এটি সরবরাহকারীর নাম, অভ্যন্তরীণ প্রয়োজনীয়তা এবং উত্স নথি বিদ্যমান কিনা তা পরীক্ষা করে।
- একটি পরিকল্পনা তৈরি করুন: এটি প্রতিটি প্রদানকারীর জন্য মূল্য, নিরাপত্তা তথ্য, পরিষেবার শর্তাবলী এবং গ্রাহক প্রমাণ সংগ্রহ করার সিদ্ধান্ত নেয়।
- একটি টুল নির্বাচন করুন: তিনি একটি অনুমোদিত নথির দোকানে অনুসন্ধান করেন বা একটি বহিরাগত গবেষণা টুল কল করেন।
- প্রত্যাশা: রানটাইম সম্ভাব্য ত্রুটি বা অনুপস্থিত ক্ষেত্র সহ ফলাফল প্রদান করে।
- আপডেট স্থিতি: এজেন্ট সে যা শিখেছে তা রেকর্ড করে এবং অমীমাংসিত প্রশ্নগুলোকে চিহ্নিত করে।
- মানিয়ে নেওয়া: এটি প্রশ্নগুলিকে সংশোধন করে, অন্য উত্সের সাথে পরামর্শ করে বা একজন ব্যক্তিকে অনুপলব্ধ নথির জন্য জিজ্ঞাসা করে।
- যাচাই করুন: এটি পরীক্ষা করে যে প্রতিটি সুপারিশ সমর্থিত এবং তুলনা একই মানদণ্ড ব্যবহার করে।
- থামান বা অনুমতি চাও: এটি একটি খসড়া সুপারিশ তৈরি করে, কিন্তু ক্রয়ের সিদ্ধান্ত অনুমোদিত ব্যক্তির উপর ছেড়ে দেয়।
গুরুত্বপূর্ণ বিষয় হল যে ক্রমটি সম্পূর্ণরূপে এনকোড করা হয়নি। সিস্টেমটি যা পাওয়া গেছে তার প্রতিক্রিয়া হিসাবে পদক্ষেপগুলি বেছে নিয়েছে, তবে এটি এখনও পরিকল্পিত সীমার মধ্যে পরিচালিত হয়েছে।
পরিকল্পনা সবসময় একটি পৃথক পদক্ষেপ নয়
কিছু এজেন্ট অভিনয় করার আগে একটি সম্পূর্ণ পরিকল্পনা করে। অন্যরা এক সময়ে এক ধাপ সিদ্ধান্ত নেয়। অনেকে একটি হাইব্রিড ব্যবহার করে: একটি মোটামুটি পরিকল্পনা তৈরি করুন, পরবর্তী ক্রিয়া সম্পাদন করুন এবং পর্যবেক্ষণগুলি আসার সাথে সাথে অবশিষ্ট পরিকল্পনাটি সংশোধন করুন৷
দীর্ঘ এবং কঠোর পরিকল্পনা প্রথম অপ্রত্যাশিত ফলাফলের পরে অপ্রচলিত হয়ে যেতে পারে। বিশুদ্ধভাবে প্রতিক্রিয়াশীল পদার্থ স্থানান্তর বা কাজ পুনরাবৃত্তি করতে পারেন. ব্যবহারিক নকশা পরিবেশের পরিবর্তন হলে পুনরায় পরিকল্পনা করার অনুমতি দিয়ে দিকনির্দেশ বজায় রাখার জন্য যথেষ্ট পরিকল্পনা বজায় রাখে।
ReAct ফ্রেমওয়ার্ক হল ক্রিয়া এবং পর্যবেক্ষণের সাথে চিন্তাভাবনাকে অন্তর্ভূক্ত করার একটি মৌলিক উদাহরণ। তার কেন্দ্রীয় অন্তর্দৃষ্টি হল যে একটি বাহ্যিক পরিণতি যুক্তির পরবর্তী পর্যায়ে সংশোধন, পরিমার্জন বা পুনর্নির্দেশ করতে পারে।
কীভাবে এজেন্টরা জানেন কখন প্রস্থান করবেন
স্টল করা একটি সিস্টেম ডিজাইন সমস্যা। একটি মডেল খুব তাড়াতাড়ি সাফল্য ঘোষণা করতে পারে, লক্ষ্য অর্জনের পরে মসৃণতা চালিয়ে যেতে পারে, বা একটি টুল বারবার ব্যর্থ হলে লুপ করতে পারে।
বিশ্বস্ত এজেন্ট বিভিন্ন স্টপিং মেকানিজমকে একত্রিত করে:
- সমাপ্তির মানদণ্ড: স্পষ্ট শর্ত যেমন প্রয়োজনীয় ক্ষেত্র, পাস করা পরীক্ষা বা যাচাইকৃত উদ্ধৃতি।
- বাজেট: ধাপ, সময়, মডেল টোকেন, টুল কল বা খরচের সীমা।
- ত্রুটি থ্রেশহোল্ড: বারবার ব্যর্থতা বা কম-আত্মবিশ্বাসের পর্যবেক্ষণের পরে বৃদ্ধি করুন।
- অনুমোদনের দরজা: একটি বড় বা অপরিবর্তনীয় প্রভাব সহ কর্মের আগে বিরতি দিন।
- বাহ্যিক ক্লাস: নির্ধারক পরীক্ষা বা পৃথক মডেল যা বিচার করে যে আউটপুট টাস্ক পূরণ করে কিনা।
সাধারণ এজেন্ট আর্কিটেকচার
একক এজেন্ট লুপ সবচেয়ে সহজ নকশা: একটি মডেল বারবার টুল ব্যবহার করে যতক্ষণ না এটি শেষ হয়। ডিবাগ করা সহজ এবং প্রায়ই যথেষ্ট।
রাউটার অনুরোধটি শ্রেণীবদ্ধ করে এবং এটি একটি বার্তা, টুল সেট বা বিশেষ মডেলে পাঠায়। রাউটিং অপ্রাসঙ্গিক পছন্দগুলি হ্রাস করে এবং বিভিন্ন কাজে বিভিন্ন নীতি প্রয়োগ করতে পারে।
অর্কেস্ট্রেটর-ওয়ার্কার আর্কিটেকচার একটি লিড এজেন্টকে সাবটাস্ক তৈরি করতে এবং সেগুলিকে কর্মীদের অর্পণ করার অনুমতি দেয়, তারপর তাদের ফলাফলগুলি সংশ্লেষিত করে৷ এটি উপযোগী হয় যখন কাজ একই সাথে চলতে পারে বা বিভিন্ন বিশেষীকরণের প্রয়োজন হয়, তবে এটি টোকেন ব্যবহার এবং সমন্বয় ব্যর্থতার মোড বাড়ায়।
মূল্যায়নকারী-অপ্টিমাইজেশান লুপ প্রজন্মকে সমালোচনা থেকে আলাদা করে। একটি উপাদান একটি উত্তর উত্পাদন করে; অন্য একটি সংজ্ঞায়িত মানদণ্ড অনুযায়ী এটি পরীক্ষা করে; প্রথম এটি পরিবর্তন করে। এটি ভাল কাজ করে যখন গুণমান পরিমাপযোগ্য হয় এবং পুনরাবৃত্তির মাধ্যমে উন্নতি অতিরিক্ত খরচের জন্য মূল্যবান।
প্রতিরোধে ব্যর্থতা: সম্পূর্ণ রানটাইম সহ মডেলের বিভ্রান্তি সেই সফ্টওয়্যারটিকে আড়াল করে যা কর্তৃত্ব দেয় এবং রাষ্ট্রকে বহন করে।
যা সাধারণত ভুল হয়ে যায়
- খারাপ টুল বর্ণনা: মডেলটি একটি ভুল ক্ষমতা নির্বাচন করে বা অবৈধ আর্গুমেন্ট প্রদান করে।
- সীমাহীন সংযোগ: দীর্ঘ টেক্সট অপ্রাসঙ্গিক বিবরণ দিয়ে পূর্ণ এবং গুরুত্বপূর্ণ তথ্য সমাহিত করা হয়.
- নীরব টুল ত্রুটি: একটি ফাঁকা বা আংশিক ফলাফল ভুলভাবে একটি বৈধ পর্যবেক্ষণ হিসাবে বিবেচিত হয়।
- দুর্বল গ্রাউন্ডিং: এজেন্ট নিবন্ধন ব্যবস্থা চেক করার পরিবর্তে একটি অনুমানের উপর কাজ করে।
- অত্যধিক স্বায়ত্তশাসন: এজেন্ট উপযুক্ত অডিট সীমা ছাড়াই ফলপ্রসূ পদক্ষেপ নিতে পারে।
- কোন ট্র্যাক মূল্যায়ন নেই: দলগুলি চূড়ান্ত উত্তর বিচার করে কিন্তু এজেন্ট কীভাবে এটিতে পৌঁছেছে তা পরীক্ষা করে না।
বিশ্বস্ত এজেন্টদের জন্য ডিজাইনের নীতি
কাজটি সমাধান করতে পারে এমন ক্ষুদ্রতম আর্কিটেকচার দিয়ে শুরু করুন। একটি নির্ধারক কর্মপ্রবাহ পরিচিত পদক্ষেপগুলি পরিচালনা করা উচিত; এমন সিদ্ধান্তের জন্য মডেল রায় রিজার্ভ করুন যা সত্যিই ব্যাখ্যার প্রয়োজন। প্রতিটি টুলকে একটি সংকীর্ণ উদ্দেশ্য, টাইপ করা ইনপুট, সুস্পষ্ট ত্রুটি মোড এবং সর্বনিম্ন সুবিধাপ্রাপ্ত অ্যাক্সেস দিন।
দেশকে দৃশ্যমান করুন। নির্ণয়ের জন্য প্রয়োজনীয় প্রতিটি টুল রিডিং, ফলাফল, পুনরায় চেষ্টা, নিশ্চিতকরণ এবং মডেল সিদ্ধান্ত রেকর্ড করা। পুরানো প্রসঙ্গটি অবিরামভাবে যুক্ত করার পরিবর্তে সংকুচিত করা হয়েছে এবং মডেল-উত্পন্ন সারাংশ থেকে পৃথক প্রামাণিক ডেটা রাখা হয়েছে।
রানটাইম ডিজাইন করুন যাতে ব্যর্থতাগুলি স্পষ্ট হয়৷ একটি টুলের “কোনও রেকর্ড পাওয়া যায়নি” এবং “অনুরোধ ব্যর্থ হয়েছে” এর মধ্যে পার্থক্য করা উচিত এবং রাষ্ট্রীয় দোকানের মডেল-উত্পন্ন সারাংশ থেকে যাচাইকৃত তথ্যগুলিকে আলাদা করা উচিত। অন্যথায়, মডেলটি একটি টাইমআউটের কারণে অনুপস্থিতিকে প্রমাণ হিসাবে বিবেচনা করতে পারে যে কিছু বিদ্যমান নেই।
অবশেষে, সম্পূর্ণ সিস্টেম মূল্যায়ন. একই কাজ একাধিকবার চালান, সাফল্য এবং সম্পদের ব্যবহার পরিমাপ করুন এবং নীতি লঙ্ঘন বা ভঙ্গুর শর্টকাটগুলির জন্য রুট পরীক্ষা করুন। এজেন্ট মূল্যায়নের জন্য নৃতাত্ত্বিক নির্দেশিকা জোর দেয় যে এজেন্টদের কাজ, পুনরাবৃত্তিযোগ্য পরীক্ষা, প্রতিলিপি এবং মেট্রিক্সের প্রয়োজন – মুষ্টিমেয় চিত্তাকর্ষক ডেমো নয়।
এআই এজেন্টরা কীভাবে কাজ করে সে সম্পর্কে কী মনে রাখবেন
একটি AI এজেন্ট একটি ইঞ্জিনিয়ারড লুপ, শুধুমাত্র একটি বুদ্ধিমান মডেল নয়। মডেল সিদ্ধান্ত নেয়; কাজ করার সরঞ্জাম; স্মৃতি একটি রাষ্ট্র বহন করে; পরিবেশ প্রমাণ দেয়; এবং নিয়ন্ত্রণ লুপ পরবর্তী কি ঘটবে তা নির্ধারণ করে।
যখন এই অংশগুলির স্পষ্ট ইন্টারফেস এবং সীমানা থাকে, তখন একজন এজেন্ট ওপেন-এন্ডেড কাজ পরিচালনা করতে পারে যা প্রচলিত অটোমেশন অনুমান করতে পারে না। যখন তারা না করে, স্বায়ত্তশাসন অস্পষ্টতাকে তীব্র করে। একটি এজেন্টের গুণমান তাই সিস্টেম ডিজাইন, অনুমতি এবং মূল্যায়নের উপর নির্ভর করে কারণ এটি অন্তর্নিহিত মডেলের উপর নির্ভর করে।