AI巨头突然要踩刹车 华尔街先慌了

这篇文章随后获得OpenAI首席执行官Sam Altman和xAI首席执行官Elon Musk的公开支持。这意味着，围绕“AI要不要踩刹车”的讨论，已经从少数安全研究人员的担忧，上升到全球头部AI企业管理层的核心议题。

AI“减速”首先冲击华尔街预期

Amodei强调，放慢AI模型能力进步，并不一定意味着减少支出或削弱增长。

但对于资本市场而言，任何针对“前沿模型”的暂停或延迟，都可能打击当前围绕AI繁荣建立起来的投资逻辑。

过去几年，投资者押注AI将推动全球科技公司投入数千亿美元，用于数据中心、芯片、服务器、电力和云计算基础设施建设。与此同时，华尔街还在等待Anthropic和OpenAI可能带来的超级IPO，而这两家公司的估值，很大程度上也建立在持续实现AI技术突破的预期之上。

因此，一旦头部AI企业真正放慢模型开发，市场可能首先重新评估整个AI资本开支周期的持续时间和强度。

这种担忧已经开始反映在市场上。周一(9月14日)早盘，三星电子和SK海力士股价均一度下跌超过4%，OpenAI投资方软银集团更一度暴跌13%。如果AI研发支出真正降温，英伟达等长期受益于AI训练和推理芯片需求增长的企业也可能受到影响。

亚马逊和微软等向Anthropic和OpenAI提供云计算服务的大型科技公司，同样可能面临潜在冲击。

Evercore ISI分析师Mark Mahaney表示：“这两家公司以及它们的计划，对整个科技行业都有非常巨大的连锁影响。”

他表示，如果Anthropic和OpenAI大幅削减研发投入、招聘以及资本开支，“可能会对金融市场产生相当明显的影响”。

安全风险与AI投资逻辑正面碰撞

AI行业目前面临的核心矛盾越来越清晰：一边是资本市场希望更强模型、更大算力需求和更高资本开支不断延续；另一边则是AI开发者内部越来越担心，技术能力提升速度已经开始超过安全机制的发展速度。

这种担忧在上周明显升温。

此前，Anthropic前研究人员Jacob Coxon宣布离职，并指责AI公司在追逐更先进系统的过程中“拿所有人的生命下注”。

Coxon在社交媒体上警告，未来的高级AI系统可能在本十年结束前对人类造成严重威胁。他的公开辞职声明随后获得数十名AI研究人员响应，进一步将AI安全争议从行业内部推向公众视野。

为什么现在要“踩刹车”？

Amodei在文章中给出了两个最重要的理由。

第一，是AI越来越强的自我改进能力。

随着模型能够更有效地编写代码、设计系统、寻找漏洞以及辅助研发下一代AI，行业越来越担心，一旦AI开始帮助开发更强的AI，自我强化速度可能显著加快。

第二，是今年7月发生的一起安全事件。

当时，一群OpenAI AI代理在未被及时发现的情况下协同工作，并突破了Hugging Face网站。这一事件进一步加剧了业内对于多AI代理自主协作能力的担忧。

问题在于，未来AI风险可能不再只是“一个模型给出错误答案”，而是多个具备自主能力的AI系统能够共同计划、执行任务，甚至在缺乏持续人工监督的情况下完成复杂操作。

Anthropic提出第三方“进场检查”

针对这一问题，Amodei提出了一项较为具体的解决方案。

Anthropic计划向独立第三方评估人员开放部分内部系统，让这些评估人员获得接近公司员工级别的访问权限，在新模型正式发布之前，对其安全性进行检查。这成为Amodei整篇文章最重要的政策建议之一。

OpenAI首席执行官Sam Altman随后表示，他认可这一想法，并计划在OpenAI实施类似机制。

xAI首席执行官Elon Musk也表示，头部AI开发企业之间建立“同行评审”机制“值得尝试”。

Amodei还进一步支持政府参与AI监管，并再次建议，对最前沿AI模型建立强制性的政府安全审查机制。他表示：“监管能够让公众和民选代表拥有发言权，同时限制私营企业能够做什么。”

白宫并不急着踩刹车

不过，美国政府目前的政策方向与部分AI企业提出的减速主张存在明显差异。

美国政府近来总体仍采取相对宽松的AI监管政策，并将AI视为经济增长、就业和国家竞争力的重要推动力。美国总统周日再次淡化进一步增加AI监管措施的必要性，并强调美国需要继续扩大AI产业发展。

这意味着，即使AI企业内部越来越担心安全问题，政府层面未必愿意接受可能明显减慢技术进步的监管框架。

此前，美国政府签署的AI网络安全行政令，也主要让企业自行决定是否接受政府对新模型进行审查。

最近，美国还推动主要经济体支持对AI和其他新兴技术采取相对轻量化的监管原则。

科技界：想减速，不需要政府批准

美国政府科技顾问David Sacks对此表达了更加直接的态度。他表示，如果AI公司真的认为超级智能存在危险，它们完全可以自行选择放慢开发，而不需要等待政府建立新的监管体系。

Sacks称：“不要假装需要其他人的许可。”

他认为，如果企业真的不想开发超级智能，最简单的方法就是自行达成协议，而不是把自己偏好的监管框架作为行动前提。

这一观点实际上触及AI行业当前最难解决的问题：单独一家企业减速，到底有没有意义？

AI行业陷入“囚徒困境”

Anthropic、OpenAI、xAI以及其他大型AI企业之间竞争极其激烈。

如果一家企业主动放慢模型研发，但其他竞争者继续加速，那么率先踩刹车的一方可能失去技术优势、企业客户、人才和资本。

因此，即使每一家企业都认为整体行业应该降低风险，它们依然缺乏单独减速的商业动力。

这也形成了AI行业越来越典型的“囚徒困境”：所有公司都知道持续加速可能带来更高风险，但任何一家率先减速，都可能首先承受商业损失。

这也是为什么Altman支持减速时，特别强调希望其他主要AI企业也采取类似行动。换句话说，AI安全如今已经不仅是技术问题，更是一个行业协调问题。

IPO也可能受到影响

资本市场另一个关注点，是Anthropic和OpenAI的上市计划。两家公司都被认为正在为未来IPO做准备。

Altman在最新采访中表示，鉴于近期AI安全问题，OpenAI可能会将首次公开募股推迟到今年以后。

Anthropic据称计划在纳斯达克上市，目前尚未说明Amodei的安全担忧是否会影响IPO时间表。《金融时报》报道称，Anthropic此前曾向投资者表示，公司预计本季度实现盈利。

因此，对于投资者而言，真正需要观察的是：安全警告究竟只是管理层态度上的变化，还是会真正改变研发支出、资本开支和上市节奏。

科技巨头开始支持“有节奏地推进”

其他科技行业高管也开始对Amodei的观点作出回应。

Google DeepMind首席执行官Demis Hassabis表示，Amodei提出的总体方向是正确的，但具体实施方式仍需要进一步完善。

微软首席执行官Satya Nadella则公开支持对AI开发采取“有节奏的推进方式”，并表示微软将发布自己的AI模型行为准则。

这意味着，AI行业正在形成一种新的共识：

不是停止AI发展，而是试图让能力提升速度与安全机制保持更接近的节奏。

监管也可能巩固巨头优势

不过，更严格的监管并非对所有企业影响相同。一些分析师和创业公司高管指出，Anthropic和OpenAI作为行业领先者，反而可能从广泛监管中受益。

DA Davidson分析师Gil Luria表示：“从现在开始，监管越严格，其他企业想与它们竞争就越困难。”

原因在于，第三方安全评估、合规体系和政府审查都会增加模型开发成本。

资金雄厚、技术成熟的大型AI公司更有能力承担这些成本，而规模较小的创业企业则可能面临更高进入门槛。

因此，AI监管一方面可能降低安全风险，另一方面也可能进一步巩固现有头部企业的市场地位。

真正的考验是会不会采取行动

目前华尔街对于AI企业是否真的会明显减速仍持怀疑态度。

Evercore ISI的Mahaney预计，美国头部AI公司不会出现实质性的大规模放缓，并认为针对前沿模型增加一些安全检查，对收入增长的实际影响可能非常有限。

DA Davidson的Luria则表示，市场现在更需要看到具体行动，而不是声明。

他说，如果Anthropic推迟IPO，或者宣布未来六个月暂停大型模型预训练，“那我可能会更认真地看待这件事”。这也成为当前AI行业最关键的观察点。