OpenAI 收紧 ChatGPT 对青少年的武器信息限制

路透社报道，OpenAI将在未来几周内收紧通过ChatGPT向青少年提供的武器和安保系统信息限制，以防范现实世界中的暴力事件。新规将限制18岁以下用户获取可能被用于危险目的的实用信息，即使提问没有明显暴力意图。

对于所有用户，若系统识别出对暴力行为的持续关注，ChatGPT可自动结束相关对话；反复进行此类讨论的账户可能被暂时停用，儿童账户因此被停用时家长将收到通知。OpenAI同时表示将改进年龄估算系统，并减少对过去大规模武装袭击细节的介绍。

新规限制哪些内容

限制对象是18岁以下用户，涉及的是可能被用于危险目的的实用信息，而不仅是带有明显暴力意图的提问。

这意味着，即使一条提问表面上没有显示出暴力倾向，只要内容指向武器或安保系统的实际使用信息，未成年用户也可能无法获得相应回答。OpenAI将此举定位为防范现实世界暴力事件的措施。

公司同时表示，将减少对过去大规模武装袭击细节的介绍，包括袭击中所使用的武器及其获取方式。相关措施将逐步实施，并在之后根据情况进行调整。

新规不只针对未成年用户。这一处置由系统判断触发，而非依赖用户主动举报。

对于反复进行此类讨论的账户，OpenAI表示可能采取暂时停用的措施。若被停用的是儿童账户，家长将收到通知，以便监护人了解账户状态变化的原因。

从公开表述看，对话终止与账户停用属于两个层级的处置：前者针对单次对话，后者针对反复出现的讨论行为。

为使限制落到具体用户身上，OpenAI称将改进年龄估算系统。被判定可能未满18岁的用户将被转移至青少年版本，该版本包含额外的保护措施。

这一安排意味着年龄判断不完全依赖用户自行填写的资料，系统估算结果会直接影响用户可访问的功能与内容范围。

青少年版本本身也处于外界审视之下。据Common Sense Media的调查，在涉及自杀、自残或饮食失调的案例中，青少年版本有时会延迟提醒家长，或完全没有提醒。

此次公告发布之际，人工智能公司正受到更严格的监督。OpenAI于10月初发布的一份报告显示，青少年平均每天使用ChatGPT的时间不到15分钟。

报道还提到，已有八个美国州因ChatGPT的风险对OpenAI提起诉讼，监管压力来自多个层面。

在使用规模与风险讨论并行的背景下，OpenAI将新措施描述为逐步推进并保留后续调整空间的安排，但未在报道中给出各项措施的具体生效时间表。