CEO呼吁放缓AI发展，Anthropic模型能力却加速提升至此前约两倍

据新华社，美国模型评估和威胁研究组织11月5日发布的一份报告显示，美国Anthropic公司的人工智能（AI）模型近期在执行特定任务上的能力提升速度可能达到此前的约两倍。而该公司首席执行官达里奥·阿莫代伊今年9月曾公开呼吁放缓前沿AI技术发展速度，以便安全防范措施跟上技术发展步伐。

模型评估和威胁研究组织的研究人员于今年8月至10月对Anthropic公司开展了约11周的独立评估。结果显示，截至10月底，Anthropic公司模型在执行定义明确任务上的能力提升速度可能约为2024年3月至2025年10月期间的两倍。

报告指出，目前模型能力提升加速可能主要归因于Anthropic广泛利用AI辅助研发，而非模型训练计算资源投入增速的提高。AI目前尚无法在模型训练的最重要环节完全自主地作出重大研发贡献，但研究人员已观察到未来可能出现此类进展的迹象。

阿莫代伊9月发文提出“必须放慢提升AI模型能力的脚步”，为完善安全措施争取时间。文章说，AI利用自身能力开发下一代模型的趋势正在形成，如果任其发展，AI的能力可能超越人类理解和控制相关系统风险的能力。

这项研究是在Anthropic自愿向模型评估和威胁研究组织提供内部数据的基础上开展的。根据双方协议，该组织拥有独立决定研究方法和结论的权利，但Anthropic可以批准或拒绝相关信息调用请求，并有权在评估报告公开前对尚未公开版本内容进行删减。

据介绍，实际被删减的内容包括算法进展估计、具体瓶颈分析以及未来模型预测等。模型评估和威胁研究组织指出，研究人员认为Anthropic删减了对形成结论最具参考价值的大部分证据，使公众难以形成独立判断。