Tag: 伟大的语言模型

Meta 描述了如何设计人工智能代理来捕获领域专家的逻辑和专业知识，而不是简单地存储文档或检索相关信息。该系统被称为“组织的第二大脑”，是为专门的合规领域而构建的，但 Meta 认为该架构可以推广到安全、财务、工程和采购等领域。 我们创建了一个人工智能代理，它充当给定领域的辅助专家，使组织中的任何人都可以轻松访问和保留深入的专业知识，以便访问、共享和利用。 根据 Meta 的说法，它的方法不同于传统的特定领域代理，它将“结构化和可审计的知识架构”与自我改进循环相结合，“将专家反馈收集到经过验证和回归测试的更新中，而无需模型回收”。该架构由四层组成：知识体系，巩固所有机构知识；推理管道将代理知道的内容与其推理方式分开；提供自动化基准的评估框架；以及前面提到的自我完善循环。 该知识系统使用从 200 多个结构化文件中提取的专家知识，这些文件组织成严格的分类法。这些包括 位置文件获取授权的专有技术； 分类和词汇文件作为组织中使用的实体类型、活动类别、分类级别和其他术语的术语表； 路由索引将条目映射到相关文件，而不仅仅依赖于嵌入的相似性； e 网关文件定义测试以确定代理何时可以安全地应用专业知识。 推理层使用“配方”来定义代理应如何分析问题。配方是组件，指定代理应首先检查什么、每一步要加载什么知识、要遵循什么决策程序以及如何确定分析何时完成。食谱还可以确定失败是否是由于缺乏知识或错误的推理程序造成的。 Meta 方法的一个关键特征是在分析中使用预定义的检查点，其中需要人工控制，并且将不明确的案例升级给领域专家。当专家发现错误时，无论是由于缺乏知识、推理程序错误还是专家之间真正存在歧义，纠正都会被永久记录。 这样做的关键思想 自我完善方向盘 可能的方法是将机构知识排除在模型权重之外，并将其存储在版本控制的文本文件中，这些文本文件可以通过明确的推理程序进行访问并经过严格的测试： 专家修复会诊断根本原因，编译为最小验证编辑，并在审查和交付之前根据重放和回归测试进行评估。然后，每次校正都会折回到回归套件中，因此增益是永久性的。 根据 Meta 自己的评估，其与代理一起构建组织专家的方法将个人评估所需的时间从几天缩短到几分钟，领域专家几乎一直在判断有用的结果。此外，该系统还实现了以前需要工程冲刺的知识改进的自动化，并在改进周期中实现了零回归。…