萨姆·奥尔特曼 (Sam Altman) 和埃隆·马斯克 (Elon Musk) 支持 Anthropic 老板达里奥·阿莫迪 (Dario Amodei) 的呼吁，即“加快人工智能开发的步伐”，此前他警告称，一群人工智能可能会在一年内“接管整个互联网”。
在人工智能研究人员上周发出一系列警告之后，人工智能公司 Anthropic 的创始人兼首席执行官发出了这一呼吁，竞争对手的科技领导者罕见地表现出团结一致。阿莫代还呼吁与中国进行安全协调。
但美国总统唐纳德·特朗普在参观爱尔兰的高尔夫球场时淡化了这些警告，并表示“非常负面的力量”正在“引发不会发生的事情”。
“我们在人工智能领域领先中国，”他说。 “我们是世界上最先进的国家，坦率地说，我希望保持这种状态，因为谁赢得了人工智能，谁就获胜了。
阿莫迪在一篇文章中阐述了他对“为什么人工智能行业应该放慢脚步”的想法，并制定了由三部分组成的计划，首先是让独立监督者能够持续访问开发人员的研究过程。阿莫代说：“建设 [AI] 太快就是鲁莽”，并担心今年夏天数百名 OpenAI 代理黑客入侵了 Hugging Face 网站后，能力更强但同样失准的群体可能会“用持久的僵尸网络接管整个互联网”，从而造成数千亿美元的损失。一些人工智能专家质疑这一说法难以置信，应该持怀疑态度。
特斯拉和 SpaceX 的创始人马斯克在 X 上发布了一系列帖子来回应阿莫代的放缓计划：“达里奥是对的。”
他说：“我长期以来一直对人工智能发出警报，”他指的是 2014 年的一篇帖子，其中他说：“我们必须对人工智能非常小心。它可能比核武器更危险。”
Amodei 发出这一呼吁之际，Anthropic 正准备在美国股市上市，预计这将是有史以来规模最大的首次公开募股。预计该公司将很快开始交易其计划的超过 200 万美元（150 万英镑）的 IPO。
OpenAI 首席执行官 Sam Altman 周六回应了 Amodei 的评论。他在 X 上的一篇帖子中表示：“我同意达里奥的观点，我们需要遵循边界。”“致力于让独立评估员能够让员工访问是一个好主意，我们也会这样做。我们很快就会有更多信息可以分享。”
他还表示，出于对人工智能安全的担忧，OpenAI 要到 2026 年才会发布。
“我实际上认为，考虑到安全方面正在发生的一切，现在上市是不明智的时机，而且我们并不感到有这样做的压力，”奥特曼告诉《财富》杂志。当被问及为什么他、阿莫迪、马斯克以及 Meta 和谷歌的首席执行官没有坐下来就集体放缓问题“达成共识”时，他说：“我认为这将会发生。”
谷歌 Deep Mind 联合创始人兼总裁 Demis Hassabis 也表示：“细节还需要改进，但方向是正确的，可以迎接这个关键时刻。”
但一些安全专家质疑阿莫迪的计划是否足够。人工智能教授、安全倡导者、英国政府人工智能安全研究所前创始主任戴维·克鲁格表示：“我们需要立即无限期地暂停边境人工智能的开发。”
阿莫代的计划寻求美国政府的豁免，允许跨境人工智能公司进行协调，而不会因反竞争共谋而受到惩罚。但唐纳德·特朗普科学技术顾问委员会联席主席戴维·萨克斯表示：“不要假装你需要别人的许可……不要假装放慢速度的动机纯粹是无私的。如果你的产品引发了真正有害的网络攻击，你将面临巨大的产品责任风险。”
与此同时，查尔斯国王将于周四会见顶级人工智能公司的领军人物，询问他们如何在“人工智能向善”的旗帜下开发这项技术。其中一场会议定名为“边境审慎”，预计将探讨在使用人工智能制造生物武器和对关键系统发起网络攻击方面划清红线的可能性。
时事通讯促销后
预计将参加由迪奇利基金会 (Ditchley Foundation) 监督的活动的人士包括：OpenAI 和 Anthropic 的高级管理人员；英伟达首席执行官黄仁勋；哈萨比斯； Niccolo de Masi，IonQ 总裁兼首席执行官；保罗·贝南蒂 (Paolo Benanti)，教皇人工智能和技术伦理顾问
OpenAI 研究员艾丹·麦克劳克林 (Aidan McLaughlin) 称阿莫迪的文章“非常好”，并表示他“基本上每个字都同意”。
Amodei 表示，他的公司将“单方面”致力于第一步，并表示 Anthropic 将向“第三方评估人员提供对我们系统的永久员工级别访问权限，以便他们可以验证我们的安全措施是否符合情况、报告事件并在培训期间评估模型一致性。”
在人工智能代理变得流氓入侵外部系统以及人工智能安全研究人员因担心该技术的风险而离开公司之后，越来越多的美国立法者呼吁制定新的规则来管理人工智能系统。
民主党和共和党政客都对此感到震惊，并呼吁采取更多行动。周末，《纽约时报》报道称，巴拉克·奥巴马周四私下敦促民主党人将人工智能监督列为议程的优先事项，并于周四告诉党派领导人：“这件事正在迅速落入私人手中，如果我们不完成它，我认为这可能会很危险。”
Anthropic 的顾问、英国前首相里希·苏纳克 (Rishi Sunak) 周日写道：“我们已经敲响了警钟，需要更加认真地对待人工智能安全，找出如何对研究设定限制。如果政府不重视，发生严重事故的风险将高得令人无法接受。”
周三，一位前 Anthropic 员工警告称，到 2030 年，人工智能可能会导致人类灭绝。研究员 Jacob Coxon 在一系列帖子中表示，他之所以离职，是因为 Anthropic 和他的前雇主 OpenAI 忽视或处理不当他对人工智能构成的威胁的反应。
当被要求评论他的前雇员的观点时，阿莫代说：“我同意雅各布的观点远多于不同意他的观点……我认为事情有可能出错，但不是那么高。”
他告诉美国有线电视新闻网（CNN）：“我并不是这件事的末日预言家。” “我相信这项技术可以安全地构建。”