在一位前 Anthropic 研究人员发表有关人工智能的世界末日声明的第二天,这家人工智能初创公司的更多研究人员和工作人员公开同意他的观点,并发出了自己的警告。
作为回应,埃隆·马斯克和 X(前身为 Twitter)上的其他保守派人士将这种担忧称为“阴谋”和“心理战”。
人类专家担心他们正在开发的技术可能会变得如此先进和危险,以至于在十年内导致人类灭绝,他们说他们的许多同事也有同样的感觉,但没有公开这么说。
这些研究人员和员工发布的帖子是为了回应 Anthropic 研究员 Jacob Coxon 的一条现已疯传的帖子。 Coxon 周三表示,他将从公司辞职,因为 Anthropic 和竞争对手 OpenAI(也是他的前雇主)都没有负责任地构建人工智能模型,并且“在玩弄我们的生活”。
在 Anthropic 从事人工智能安全工作、曾在谷歌 DeepMind 工作的 Anna Wang 周四表示,Anthropic 的许多人希望放慢开发速度,以制定一项计划来减轻这些人工智能模型可能带来的风险。
王在《X》中写道:“仍然没有科学上可行的计划来解决递归自我改进人工智能带来的风险。”
Anthropic 的另一名员工德雷克·托马斯 (Drake Thomas) 表示,如果考克森担心这些模型可能会带来全球性的风险,他尊重考克森的选择,即不构建这些模型。
“事情进展太快,我们的 ASI 安全程度远未达到我们想要的水平 [artificial superintelligence]“托马斯说。
马斯克采取了更具对抗性的立场。 “听起来像是一个安排,”他写道。
考克森用一张自拍照回应了这位世界首富,并写道:“我是真实的,这些是我的真实信念。如果你没有解雇他们,你可以向你的 xAI 研究人员询问我的情况。”
Anthropic 发言人在给《卫报》的一份声明中为该公司的战略进行了辩护。声明称:“我们一直坦白地认为,人工智能将带来巨大的好处和前所未有的风险。为了应对这些风险,我们将继续构建具有业内最强大保障措施的模型。”
马斯克和其他对人工智能持更积极看法的人已经开始传播这样的理论:考克森的帖子以及由此产生的后果是“心理战”的一部分,旨在对公众对人工智能的看法产生负面影响。
马斯克在 X 上发帖称:“我认为这种心灵运作的基础(因为没有更好的术语)已经奠定了很长一段时间。”“这只是点燃火的火柴。”
马斯克是在回应保守派智囊团 Capital Research 研究员帕克·塞耶 (Parker Thayer) 的一篇帖子,他在帖子中提出了一种理论,但几乎没有证据表明考克森的帖子是“高度复杂且资金充足的公关行动的开始,目的是为民主党监管人工智能以争取支持”。其他值得注意的数字也被提及。
时事通讯促销后
对冲基金潘兴广场(Pershing Square)的亿万富翁首席执行官比尔·阿克曼(Bill Ackman)也引用了塞耶的帖子,只是说“有趣”。
在考克森周三宣布辞职后不久,其他 Anthropic 员工也发布了与考克森的协议。
“人工智能开发人员相信他们的技术可能导致人类灭绝(或同样糟糕的结果),”Anthropic 安全研究人员塞缪尔·马克斯 (Samuel Marks) 写道。 “这种情况可能会在未来几年内发生。一般来说,员工年龄越大,他们就越担心。”
Evan Hubinger 自称是该公司协调部门的领导者,该部门致力于确保 Anthropic 的人工智能模型符合人类目标,他表示 Coxon 是“正确的”,该行业在应对潜在灾难的尝试中落后了。
“我们真心相信人工智能可以杀死所有人类!”胡宾格写道。 “我个人认为未来十年将超过 10%。
目前尚不清楚考克森和其他人如何期望人工智能模型引发人类的灭亡。一些专家怀疑技术是否会变得如此智能以至于导致世界末日。科学家、人工智能领域的领军人物加里·马库斯 (Gary Marcus) 表示,现在是抵制人工智能的时候了,因为它已经造成了伤害。
马库斯表示,他不仅担心灭绝,还担心“人工智能产生的病原体、人工智能产生的虚假信息引发或升级的战争、破坏关键基础设施的黑客等带来的“灾难风险”。我没有看到任何迹象表明这些都受到控制。”
同一天,Anthropic 发布了一份报告,记录了该公司如何瓦解试图利用其人工智能模型制造生物武器的行动。