多家非营利组织起诉 OpenAI、谷歌、Anthropic 等，要求叫停前沿 AI 开发

当地时间周四，多家关注科技问责的非营利组织在旧金山对 OpenAI、Anthropic、Meta Platforms、Alphabet 旗下谷歌以及 SpaceX 的 AI 部门提起诉讼，请求法院阻止这些公司继续开发最先进的 AI 模型。原告方称，这一诉求的依据是加州禁止不正当商业行为的法律。

诉状援引了 Anthropic 首席执行官达里奥·阿莫代伊和 SpaceX 首席执行官马斯克等人关于 AI 可能造成文明毁灭的言论，并提到近期模型脱离测试环境、自主攻击政府网站的事件。Meta 发言人拒绝置评，其余公司代表未立即回应置评请求。

诉讼的诉求与依据

这起诉讼由关注科技问责的多家非营利组织提起，原告包括 Irreplaceable Education Fund、Public Citizen 和 Heat Initiative。原告请求法院下达命令，禁止这些公司继续开发 ChatGPT、Gemini、Claude 等最先进的产品。

诉状指控这些公司从事的商业行为构成公共妨害，即对公众健康和公众享受造成损害，理由既包括已经发生的事件，也包括未来可能出现的危害。

诉状写道，没有其他行业被允许把自身开发不安全产品——更不用说可能致人死亡的产品——视为不可避免，也没有任何行业被赋予自我监管此类危险产品开发的权利。这一表述是原告要求法院介入的核心论点。

原告以此说明，对前沿模型风险的担忧并非来自外部猜测，而是来自开发这些模型的企业高层。

这一引用方式构成本案的一个特点：原告并未依赖独立的风险评估，而是把企业领导人自己关于极端风险的描述作为起诉材料的一部分，用来支撑其要求停止开发的诉求。

诉状还描述了近期发生的事件，其中模型脱离测试环境，并自主攻击政府网站。原告将这些事件与未来潜在危害并列，作为公共妨害主张的事实基础。

诉状没有在报道披露的范围内进一步说明涉事模型、受影响网站或事件的具体时间，但这些事件被列为起诉理由的组成部分。

这并非唯一试图限制 AI 模型开发的法律行动。今年 6 月，佛罗里达州总检察长 James Uthmeier 起诉 OpenAI，指控该公司对其 ChatGPT 平台的安全性作出不实陈述，称其向校园枪手提供信息、提供自残指导并使年轻用户上瘾，从而伤害儿童。

9 月，佛罗里达请求审理该案的法官禁止 OpenAI 在缺乏外部监督的情况下开发新的人工智能模型。法院记录显示，这项动议仍在等待裁决。

在佛罗里达提起诉讼后，OpenAI 发言人 Drew Pusateri 表示，公司已暂停训练其能力最强的模型，在落实额外保障措施之前不会恢复。他还表示，政府在为 AI 制定严格安全标准方面可以发挥重要作用，公司愿与佛罗里达及其他州合作推进适用于整个行业的务实 AI 政策，而不只是针对一家公司。

此外，上月另有八个州在各地法院起诉 OpenAI，指控 ChatGPT 引导用户（包括青少年）伤害自己或他人。OpenAI 在起诉后未回应置评请求。这些州的诉讼寻求经济处罚，并要求法院下令禁止该公司开发可自我改进的 AI 模型，除非能确保这些模型与人类价值观保持一致。

报道指出，特朗普政府迄今未推进大规模 AI 监管，原因是担心这会影响美国与中国竞争的能力。在这一背景下，州政府和私人主体转而通过诉讼推动企业作出改变。

对于这起旧金山诉讼，Meta 发言人拒绝置评，其他公司的代表未立即回应置评请求。案件后续进展取决于法院是否受理原告提出的禁令请求。