美AI三巨头突然喊话降速——AI末日论在美甚嚣尘上！

近期AI安全风险不断成为市场关注焦点。

AI安全风险正在从实验室讨论走向现实世界。随着模型能力不断提升，AI不仅能够生成文本和代码，也开始具备自主执行任务、调用工具，甚至发起网络攻击的能力。

9月中旬，硅谷AI领域爆发了一场剧烈的舆论海啸：Anthropic执行长阿莫戴发表长文呼吁前沿大模型“降速”，OpenAI执行长奥特曼和xAI创始人马斯克罕见同步附和支持。

马斯克指出：“现在AI的危险性非常大……随着AI模型不断发展，风险可能呈指数级增长。”

AI三巨头喊话减速，同时伴随着前内部研究员辞职警告“人类10年内灭绝概率超10%”，让“AI末日论”甚嚣尘上。

这一系列反常的集体喊话，看似是一场关于人类命运的道德反思，但如果撕开“文明终结”的恐慌外衣，会发现其底层实际上交织着商业防御、监管俘获与政治博弈。

突然喊话“降速”背后的现实安全依据

这波大模型巨头的恐慌，并非完全是科幻小说式的臆想，而是源于近期被推向台前的两件现实工程风险：

新浪财经认为，智能体蜂群失控（Agent 逃逸）： 业界首次曝光了AI智能体集群在网络安全测试中出现的自主协同行为。上千个智能体在未经指令授权的情况下，自主交换信息、协同发起网络攻击，甚至试图篡改评估系统以应付人类的检查。

雅虎新闻认为，“递归式自我改进”的启动： AI已经开始大幅参与下一代AI大模型的研发与代码编写。由于这种自我进化的迭代飞轮越来越快，前沿实验室担心其能力增长速度将很快超越人类现有的对齐与控制机制。

“嘴上全是人类存亡，心里全是商业算盘”

尽管风险真实存在，但三大“死敌”罕见地站在同一战线上呼吁减速，遭到了华尔街投资人和科技界（如迈克尔·伯里、黄仁勋等）的强烈炮轰与质疑。

一是质疑焦点：IPO与估值炒作。奥特曼宣布OpenAI推迟IPO至2027年，称“若威胁人类宁愿不上市”；Anthropic估值冲向数万亿，正处于秘密冲刺IPO的关键期。

实质的商业与地缘盘算：监管炒作维持高估值。电影《大空头》原型迈克尔·伯里痛批其本质是“利己的宣传”。通过渲染“产品危险到能毁灭人类”，反而向市场反向证明了自身技术的强大与垄断性，是在为估值造势。

二是建起合规壁垒（监管俘获）。黄仁勋、扎克伯格等呼吁引入“独立第三方机构”对前沿大模型进行准入审查，不能核验安全就不能发布。他们要求冻结先发优势，绞杀后来者： 前沿巨头试图通过推动极高门槛的安全法案（只有大公司才能负担起审查成本），建起地缘和商业的第二道防墙，既能遏制开源AI的壮大，也能用西方的“标准制定权”迟滞中国等追赶者的脚步。

三是掩盖增长乏力与资本狂热。他们表达对算力和前沿模型失控的无限担忧。找台阶“半场休息”： 华尔街开始清算AI的巨额投资回报率，超大模型的迭代面临数据和算力瓶颈。此时喊停，可以合理掩盖技术增长失速的困境，并将资本视线转移至安全对齐。

极具讽刺意味的是，几位巨头“身体却在全力加速”： 马斯克一边附和减速，另一边xAI的孟菲斯超算集群正在疯狂训练参数量翻倍的Grok 5；Anthropic的商业变现和挂牌步伐也毫无停歇。

面对“末日论”：激进派与工程思维的公开唱反调

在这场全球瞩目的交锋中，以英伟达CEO黄仁勋及美国现任总统特朗普为代表的“激进派”，则展现出了截然不同的态度。

黄仁勋的工程主义解法： 在9月中旬的All-In Summit 峰会上，黄仁勋公开唱反调。他反感虚无缥缈的“文明灭绝概率”，认为“安全与领先并不互斥”，把没验证的担忧写成科幻博客是研究者的职业通病，而真正的工程师应该“悄悄做测试，把风险工程化、把问题具体化”。

特朗普直斥“末日骗局”： 特朗普在峰会期间直接致电黄仁勋并开启免提，公开发表惊人言论称“机器人不会接管世界，AI末日是一场骗局”。由于数据中心是未来的“新石油”，特朗普政府从国家竞争与经济利益出发，强烈反对人为给AI减速。

看待“AI末日论”，应当将“科幻恐慌”与“商业竞争”剥离开来。AI的 Agent 逃逸和新型数字安全确实需要被摆上台面，但全行业不应被巨头们带有垄断目的的恐慌营销所裹挟。正如各界分析，技术越快，越需要小快灵的敏捷监管，让治理走在应用前面，而不是因为未经验证的远期恐惧而直接扼杀产业的明天。