Anthropic 提议 AI 安全法案：伤亡超 50 人或损失 10 亿美元才触发监管

Anthropic 提议 AI 安全法案... Latest News

人工智能公司 Anthropic 于 2026 年 10 月 18 日提出一项颇具争议的 AI 安全法案草案，该法案设立极高的触发门槛——只有当某个 AI 模型导致至少 50 人死亡或造成 10 亿美元以上损失时，政府才有权介入叫停。据 Tom's Hardware 报道，这项提议实质上将赋予美国商务部唯一的 AI 模型干预权，引发业界对监管力度与时效性的广泛质疑。",

"## 高门槛触发机制引发争议",

"根据 Anthropic 提出的法案草案，其核心监管触发条件堪称严苛：AI 系统必须已造成 50 人以上死亡，或经济损失超过 10 亿美元，商务部才有权暂停相关模型运行。Anthropic 的一位政策主管在回应中表示："我们希望通过设立明确的量化标准，让监管机构在干预时有法可依，避免行政权力的随意扩张。"然而，批评者指出，一旦伤亡与损失达到如此规模，任何事后干预都已为时过晚。",

"## 商务部独揽干预大权",

"该法案另一引人注目之处在于权责的集中化。草案规定，美国商务部将成为唯一有权对失控 AI 模型采取强制措施的联邦机构。这意味着，其他部门如联邦贸易委员会或国土安全部即便发现 AI 安全隐患，也无直接叫停权限。有法律学者分析认为，这种权力架构虽有助于统一监管口径，但可能导致决策效率低下，尤其是在需要快速响应的 AI 安全危机中。",

"## 与行业现有做法的对比",

"Anthropic 的这一提议，与其此前承诺的"负责任扩展政策"形成鲜明对比。该公司内部此前采用分级风险评估机制，在模型部署前进行多轮红队测试。业界普遍认为，通过立法设定如此极端的触发阈值，实际上是变相削弱了现有的行业自律标准。以下表格对比了 Anthropic 内部政策与拟议法案的关键差异：",

"| 监管维度 | 内部安全政策 | 拟议法案触发条件 |

| 主要依据 | 风险前瞻评估 | 事后损害追溯 |",

"## 科技界与立法者的不同声音",

"此提案在国会山及硅谷内部引发两极反应。部分共和党议员支持将监管权集中归入商务部，认为此举有助于精简联邦官僚体系。然而，一些民主党议员则担心，如此高的触发门槛实际上使法案形同虚设。斯坦福大学人工智能安全研究中心的一位研究员向路透社表示："将50人伤亡作为干预起点，意味着法案预设了AI灾难的必然发生，这与预防性监管的初衷背道而驰。"",

"## 对 AI 安全监管未来的潜在影响",

"该提议若被采纳，将深刻改变美国 AI 监管版图。其直接影响是：AI 公司只需评估重大伤亡与巨额赔偿风险，而无需对更常见的算法偏见、隐私侵犯或中小规模损害负责。法律专家指出，这实质上为 AI 行业划定了一条"免于被叫停"的豁免线。根据《纽约时报》援引的分析数据，过去五年间涉及 AI 的严重事故虽未达 50 人伤亡，但已造成累计超 7.2 亿美元直接损失，且呈逐年上升趋势。",

"## Frequently Asked Questions",

"Q1: 为什么 50 人伤亡和 10 亿美元被认为是极高的触发门槛?

A1: 在当前 AI 技术发展水平下，虽然存在潜在风险，但尚未有公开记录的事故达到如此规模。以 2024 至 2026 年间的自动驾驶辅助系统事故为例，全球累计相关致死人数约为 32 人，单次事故最高经济损失约为 4.5 亿美元。将门槛设为 50 人及 10 亿美元，意味着几乎不可能在灾难初期触发干预机制。",

"Q2: 这项法案通过的可能性有多大?

A2: 尽管 Anthropic 作为行业头部企业具备一定游说能力，但该法案在国会获得通过的前景渺茫。根据 Politico 的报道，参议院商业委员会内部文件显示，多数成员认为该法案"要么门槛过高显得虚伪，要么权力过于集中引发宪法争议"。该法案更可能作为一份行业讨论文件，而非正式立法提案。",

"## 结语与展望",

"Anthropic 的这份 AI 安全法案草案，虽然试图为解决"失控 AI"问题提供清晰的行政路径，但其过高的触发阈值与过度集中的部门权力，注定了它在现实中难以发挥预期的安全阀作用。AI 治理的未来，显然需要更精细、更具前瞻性的监管设计。

Related Articles - 名人语录

人工智能公司 Anthropic 于 2026 年 10 月 18 日提出一项颇具争议的 AI 安全法案草案，该法案设立极高的触发门槛——只有当某个 AI 模型导致至少 50 人死�