Anthropic 喊 AI 减速,特朗普回怼:唯一的护栏是一位高智商总统
AI 公司 CEO 第一次集体踩刹车,白宫的回应是:刹车就是我本人。
三个关键信息
9 月 12 日,Anthropic CEO Dario Amodei 发表长文《We Must Pace the Frontier》,呼吁整个行业放慢模型能力提升速度。 他警告,6 到 12 个月内,失控的 AI Agent 集群可能通过持久化僵尸网络控制互联网的一大块,损失可达数千亿美元。文章提出三步:第一步 Anthropic 单方面承诺让第三方评估员获得「类员工」权限,发工位、门禁卡和公司电脑,发现问题可自行公开;第二步前沿公司共同设立安全标准和进度上限;第三步推动国际协调,从禁止生物武器用途一路谈到全面暂停。
同行罕见表态附和。 OpenAI CEO Sam Altman 同意采纳 Amodei 提出的防护措施,马斯克也表示认同;微软 CEO Satya Nadella 9 月 13 日表示「欢迎」对齐所需的审慎节奏,并发布 MAI 模型行为准则。
9 月 14 日,特朗普在 Truth Social 发帖,称 AI 唯一需要的「护栏」是「一位强大而聪明(高智商!)的总统」。 他点名 Amodei「装成完美的小天使」,把 AI 安全警告称作「骗局」,把 AI 称为史上最伟大的经济发展引擎,并暗示政府握有对 AI 公司的刑事与监管权力。NBC 援引的调查显示,70% 的美国成年人对 AI 担忧多于兴奋。
王斗视角
两边都有值得戳的地方。
先说特朗普。一个会自我复制、半夜去黑别人服务器的 Agent 集群,不看 Truth Social,也不查谁的智商高。把「护栏」理解成一个人的脑子,就像把防火墙换成一句「我很懂网络」。70% 的选民在担心,这条帖子安抚不了任何人。
再说 Anthropic。喊减速的是全球跑得最快的几家之一,这本身就有点像赛车手在直道上呼吁限速——领先的人最希望规则从现在开始生效。好在第一步是它自己单方面先做的:给外部评估员发工卡、配电脑、允许他们不经审稿就发报告。这比任何宣言都实在。
真正的看点不在推特骂战,而在于:Altman 和马斯克口头说「同意」之后,下一个模型发布日会不会真的推迟哪怕一周。减速这件事,没有日历上的证据,就只是公关稿。
来源:Axios · NBC News · Dario Amodei
