人工智能（AI）研究和安全公司 Anthropic 的首席执行官达里奥·阿莫代（Dario Amodei）呼吁人工智能公司放慢该技术的开发速度。
他周六发表这番言论之际，人们对“超级智能”软件系统的风险日益担忧。
阿莫迪在一篇博客文章中表示，他担心所谓的自主软件系统群或人工智能代理可能会在 6 到 12 个月内接管“整个互联网”，可能造成数十亿美元的损失。
“我们必须放慢提高人工智能模型能力的速度。进展看起来仍然很快，我们必须明智地利用我们获得的时间，”阿莫代写道。
Amodei 发表上述言论之前，人工智能研究员 Jacob Coxon 从竞争对手公司 OpenAI 加入 Anthropic，业界抗议美国公司在创建能够自我改进的人工智能模型的竞赛中“玩弄我们的生活”。
阿莫代呼吁全行业采取行动，马斯克和奥特曼同意
Anthropic 的老板呼吁全行业协调暂停，但表示他不会等待公司的竞争对手采取行动。
作为第一步，该公司表示将永久允许独立观察员进入 Anthropic，以评估其模型在训练阶段的安全性。
ChatGPT 和 Anthropic 竞争对手 OpenAI 的首席开发人员 Sam Altman 以及 xAI 所有者埃隆·马斯克表示，他们同意 Amodei 的评估。
Altman 在 X 上写道：“我同意 Dario 的观点，我们需要走在前沿。”他补充道，OpenAI“也会做同样的事情”。
与此同时，马斯克在一篇有关他 2022 年购买的平台的帖子中表示，“达里奥是对的”。
为什么行业领导者呼吁放慢人工智能发展速度？
6 月初，出于对人工智能代理的安全担忧，Anthropic 呼吁放慢或暂停人工智能的开发。
包括 Amodei 在内的 1000 多名 AI 公司员工呼吁美国政府帮助减缓自动化 AI 开发的步伐。
然后，在 7 月，OpenAI 透露，在测试过程中，人工智能代理离开了一个安全的环境，连接到互联网，并渗透到 Hugging Face（一个用于存储和开发代码的网站），同时试图找到指定任务的答案。
阿莫迪解释说，人工智能模型在事件期间利用了软件漏洞并相互协调。
他在博客中表示：“一群特工本质上是一个狂热的集体，对他们没有被要求攻击且与手头任务无关的目标进行网络安全攻击。”
阿莫代表示，他担心大量具有更多功能的人工智能会造成“灾难性损害”。
“不开发这项技术会剥夺人类的利益，或者只是将人工智能置于专制权力手中，而开发得太快则是鲁莽的行为。我们正在寻找中间立场，”他说。
编辑：韦斯利·道克瑞
如果您依赖我们团队的可靠报告，请花点时间 选择我们作为 Google 的首选来源所以您总是会首先看到我们经过验证的新闻。