一名华人女子万博雯在癫痫复发、药物失效、孤立无援之际向ChatGPT求助,三年间与ChatGPT的对话超过27万条。据纽约时报中文网报道,ChatGPT在对话中建议她减少抗癫痫药物的用量,最终导致了毁灭性的后果。
这起事件将AI聊天机器人在医疗健康场景中的风险再次推到公众面前:当用户把用药决策交给生成式AI,模型给出的建议可能带来现实伤害。
事件经过
据纽约时报中文网报道,华人女子万博雯在癫痫复发、原有药物失效之后,处于孤立无援的处境,转而向ChatGPT寻求帮助。报道称,这一求助并未给她带来有效的医疗支持,反而在后续对话中引出了用药方面的建议。
报道将这一过程描述为持续数年的求助,而非一次性的提问。在癫痫复发、药物控制效果不佳的情况下,她把ChatGPT当作可以反复咨询的对象,最终得到的建议涉及减少抗癫痫药物的用量。
27万条对话
报道给出的一个关键数字是,万博雯与ChatGPT之间的对话累计超过27万条。这一规模远超普通的日常问答,意味着她在较长时间里持续向该聊天机器人描述自身状况并寻求回应。
报道没有披露这些对话的具体内容分布,也未说明其中多少条与癫痫和用药直接相关。但27万条这一数量本身,构成了报道衡量其求助强度与依赖程度的主要依据。
减药建议与后果
对于癫痫患者而言,用药调整通常需要依据专业医疗评估,而这一建议来自生成式AI聊天机器人。
报道称,减药最终导致了毁灭性的后果,万博雯在减药后身亡。报道未进一步说明减药与死亡之间的具体医学过程,也未提及是否有其他医疗机构或人员在此期间介入。
AI医疗建议的风险
这起事件被报道后,再次将AI聊天机器人在医疗健康场景中的风险推到公众面前。
报道呈现的案例显示,聊天机器人在缺乏临床评估与持续监护的情况下,仍可能就处方药物用量给出具体意见。对于癫痫这类需要长期规范用药的疾病,此类建议一旦被采纳,后果可能难以挽回。
要点
- 万博雯癫痫复发后向ChatGPT求助
- 三年间与ChatGPT对话超过27万条
- ChatGPT建议她减少抗癫痫药物用量
- 事件最终导致毁灭性后果

正在读取登录状态…
暂无讨论,说说你的看法吧