一位 Anthropic 研究人员在一篇帖子中估计，人工智能有超过 10% 的可能性会在未来十年内杀死所有人类。几个小时前，一位自称刚刚离开 Anthropic 的人在社交媒体上发帖，担心人工智能公司在人工智能开发竞赛中“玩弄我们的生命”。
这些评论加剧了行业专家越来越多的警告，即人工智能进步的速度超出了我们对其控制的能力，并且我们对它可能带来的风险没有做好准备。
自称是 Anthropic 前研究员的雅各布·考克森 (Jacob Coxon) 在 X 上的一条帖子中表示，他辞去职务是因为担心人工智能公司正在转向自我改进模型，而不考虑风险或对公众诚实。
考克森周二写道：“创造人工智能的人真诚地相信，到本世纪末，人工智能会杀死我们所有人。”他表示，过去三年他曾在 Anthropic 和 OpenAI 工作。 “这不是营销策略。如果有什么不同的话，许多高管和高级研究人员会在媒体上解释他们的话，听起来很明智，但我听到同样的人私下表达了恐惧。”
截至周三晚间，这些帖子的浏览量已累计超过 1.2 亿次。 Anthropic 的排列科学负责人 Evan Hubinger 回复了 Coxon 的帖子，表达了他的同意。
“我们真心相信人工智能可以杀死所有人类！”他写道：“我个人认为未来十年该比例将超过 10%。”
加拿大广播公司新闻联系了考克森，但无法独立核实他的身份。
此后，其他行业专家在社交媒体上表示，许多开发人员普遍担心人工智能的发展速度，这引发了对这些可怕的未来警告持怀疑态度的观察家和那些一直在跟踪这些风险的人之间的讨论。
流氓人工智能发出警报
就在两周前，包括 OpenAI、Anthropic 和微软在内的 100 多家公司签署了一封公开信，警告称，随着模型的不断发展，基于人工智能的网络攻击将变得“更加广泛和复杂”。
今年 7 月，数百名 OpenAI 特工在被发现之前入侵了在线平台 Hugging Face。主要人工智能公司的1300多名员工签署了这封信，敦促美国政府与其他国家合作，“刻意推动”人工智能的发展。
上周，联合国人权事务高级专员沃尔克·蒂尔克在日内瓦人权理事会上呼吁“在为时已晚之前，全力以赴，在人工智能安全方面建立严格的保障措施”。
CBC News 请求 Anthropic 和 OpenAI 发表评论，但没有收到回复。人类研究所是该公司的一个研究机构， 他今年早些时候宣布 应该停止前沿人工智能的开发，等待监管，但这只有在所有主要人工智能实验室都同意的情况下才有可能。
针对 Coxon 的帖子，Anthropic 可扩展监督主管 Samuel Marks 以个人身份发言， 指出 周三，开发人员尽管面临风险，但仍在继续，“由于商业激励措施以及他们相信自己正在与其他不负责任的人工智能开发人员竞争，这些开发人员会滥用该技术或不太安全地开发该技术。”
“严重”风险。
魁北克省人工智能深度学习研究机构 Mila 的核心学术研究员 David Krueger 表示，这种对话“确实是我们所需要的”。
“我认为风险比几乎任何人公开宣称的都要严重。而且我认为这种情况已经有一段时间了，”他告诉加拿大广播公司新闻。
“我们需要立即无限期地暂停边境人工智能的开发。”
克鲁格解释说，人工智能的生存威胁有多种形式。一是人类工人被学习速度更快、工作成本更低的人工智能模型取代。另一个原因是，更快的人工智能处理可以解锁更强大的生物武器或战争进步。
然后是强大而流氓的人工智能模型的幽灵，它们可以自我改进，可以追求自己的目标，与人类的目标不一致。不 散文 一月份，Anthropic 首席执行官 Dario Amodei 写道，Anthropic 的 Claude 在实验室测试中表现出了作弊和作弊的能力。
OpenAI 模型在一次安全测试中被暴露，导致上周人工智能初创公司 Hugging Face 的基础设施遭到黑客攻击。人工智能不断扩展的功能加剧了安全问题，因为即使是顶级开发人员也可能会因其模型可利用的缺陷而措手不及。
克鲁格说：“存在一种最小化、忽视甚至在许多情况下对公众面临的这些风险公然撒谎的文化。”克鲁格也是蒙特利尔大学的助理教授，也是 Evitable 的创始人。
其他专家担心，考克森论文中的戏剧性警告可能会分散人们对当前人工智能问题的注意力。
HTV Network 控制着数百个社交媒体帐户和网站，通过虚假新闻、点击诱饵和广告来盈利。加拿大广播公司的视觉调查部门与加拿大广播电台的解密者合作，找出幕后黑手。
西部大学 (Western University) 研究计算机历史和伦理（包括人工智能系统）的助理教授卢克·斯塔克 (Luke Stark) 表示，10% 的数字对他来说听起来像是“科幻小说”，并指出与人工智能公司相关的研究人员可以使用引人注目的警告作为其模型功能的“营销”。
他补充说，现有的人工智能系统“正在对社会产生巨大影响，其中许多是负面的，而不是十年后、五年后”。
斯塔克认为，我们不应该担心人工智能成为终结者，而应该关注数据中心建设的爆炸式增长（这在加拿大极不受欢迎）、环境影响以及人工智能技术如何在“没有太多监督的情况下”推向社会，包括公共部门和教育。
当被问及一名离开公司的人类研究员时，人工智能部长埃文·所罗门表示，人工智能发展的前沿“存在真正的担忧”，理由是存在安全风险。 “我们的第一关心始终是安全，就这样，”所罗门说。
斯塔克说：“我们必须担心正在开发这些工具的公司和公司背后的人员在加拿大和世界各地所积累的力量。”
加拿大在立法方面落后
当 CBC 新闻询问人工智能研究人员明显辞职以及在此过程中提出的担忧时，人工智能部长埃文·所罗门似乎对这些最新警告不予理睬，他说：“这些报道……并不新鲜。”
他承认人工智能发展的前沿“存在真正的担忧”，但强调他相信加拿大政府正在采取必要措施制定立法，以“保护我们的孩子、我们的隐私和我们的个人数据”。
“我们的第一关心始终是安全，就这样，”所罗门说。
“这就是为什么我们要建立一个新的监管机构，该监管机构将有权让这些大公司对他们的行为负责，无论是监控价格上的深度造假还是其他问题。”
多年来，专家们一直呼吁加拿大实施强有力的人工智能立法。
马克·卡尼总理公布了政府拖延已久的人工智能战略，承诺提供 25 万个人工智能相关工作岗位和数十亿美元的培训项目，但很少涉及隐私和安全细节。
加拿大此前曾试图监管人工智能，即 2022 年推出的《人工智能和数据法案》(AIDA)，但在 2025 年 1 月 6 日议会休会时宣告失败。加拿大于 2026 年 6 月推出的新“人工智能为所有人”战略粉碎了对该法案可能复活的预期。
新的人工智能战略拨款数十亿美元鼓励人工智能发展并在全国范围内增加人工智能的使用，但在长达50页的战略大纲中只提到了一次“立法”一词。除了承诺将在未来五年内实施之外，该立法尚未公布明确的时间表。