加拿大人工智能研究员戴维·克鲁格警告,仅放缓人工智能研发远远不够,需要“立即、无限期暂停前沿人工智能的研发”。他认为否则人类灭绝只是时间问题。克鲁格是蒙特利尔大学 AI 助理教授、魁北克人工智能研究所 Mila 核心学术成员,研究方向是降低人工智能导致人类灭绝的风险。 此观点正值 Anthropic CEO 达里奥·阿莫代伊发文呼吁 AI 企业放缓研发节奏,并获得 OpenAI 的萨姆·奥特曼与 SpaceX 的埃隆·马斯克支持。克鲁格肯定该呼吁,但认为方案力度不足、推进速度不够。 阿莫代伊主张实施监管并开展国际合作,引入第三方评估人员,赋予类似企业内部员工级别的访问权限,核验安全举措并上报安全事件。克鲁格是非营利机构 Evitable 创始人,担心这些措施不够,且当前 AI 测试方法已不再可靠。他说:“这些测试基本上已经失效。随着 AI 变得愈发智能,测试的可信度还会持续下降,因为 AI 具备伪装能力。它可以表现得循规蹈矩,也可以刻意装傻,骗过我们的测试。”