据美国方面 10 月 28 日消息,美国西雅图一名 31 岁华人女工程师疑因按照 ChatGPT 提供的减药计划,自行减少抗癫痫药物后死亡。当地时间 10 月 27 日,她的父母在美国加利福尼亚州提起诉讼,指控 OpenAI 及其首席执行官萨姆 · 奥尔特曼,称 ChatGPT 无照行医、提供了危险且不准确的医疗建议,甚至鼓励女儿对医生隐瞒减药计划。
OpenAI 回应称,这起案件 " 令人无比心碎 ",但表示涉案模型是较早版本的 ChatGPT,并补充说,较新的模型在识别需要紧急处理的情况方面有所改进。
死者名为万博雯(音译),来自中国江苏,曾在亚马逊担任软件工程师。她 14 岁时被诊断出患有癫痫,长期服用抗癫痫药物拉莫三嗪。后来,药物将她的发作频率控制在每月数次。
2025 年 11 月,博雯得知自己将被亚马逊裁员。由于担心药物影响语言表达能力,进而影响到求职面试,她开始向 ChatGPT 咨询如何减少药物剂量。
今年 1 月,她询问能否将每日 400 毫克的拉莫三嗪减至 300 毫克。ChatGPT 回答称,这个想法 " 合理且可行 ",随后又根据她的追问,制定了逐步减药的时间表,计划在约 25 天内将剂量降至零。
据聊天记录,博雯至少 158 次表达了对减药的担忧。她还曾描述意识混乱、时间感丧失等症状,但 ChatGPT 多次将这些情况解释为身体适应药物变化的过程。
今年 2 月初,博雯与父亲通话时,电话一端突然没有声音,沉默至少两分钟,疑似癫痫发作。翌日,博雯用中文向 ChatGPT 描述了这次异常情况,并问道:" 可能不是什么大问题?"ChatGPT 却言之凿凿地宽慰她:" 完全不用太担心身体问题。"
诉状还称,博雯曾担心医生会认为减药速度太快。ChatGPT 却告诉她,医生认为减药 " 太快 ",并不意味着她做错了,还称医生对风险的担忧并不适用于她。
2 月 11 日晚,博雯与 ChatGPT 进行了最后一次对话。在生前最后几条信息中,博雯描述自己脑内有压迫感。而 ChatGPT 称,这不过是大脑 " 正在努力自我重建 " 的迹象。随后的两天中,联系不上女儿后,身在中国的父母请朋友前往她位于美国西雅图的住所查看,发现她已经去世。
据原告方律师事务所公布的材料,法医认定万博雯死于癫痫猝死。尸检显示,她体内的拉莫三嗪浓度约为每毫升 0.64 微克,约为该药治疗浓度范围下限的五分之一。
这起诉讼还特别提及语言差异。博雯曾使用英语和普通话与 ChatGPT 交流。原告方援引此前的独立研究称,OpenAI 模型在中文测试中生成不安全内容的频率超过英语的 3 倍,并指控公司没有充分警告用户,不同语言环境下的安全防护可能存在差异。
诉状认为,被告本可以对博雯发送的每一个提示都作出明确的警告,例如 " 我不是执业医师,请咨询您的医疗保健提供者 "。然而,该产品却恰恰相反。当医生要求博雯进行血液检查,以测量体内拉莫三嗪浓度时,她拒绝了检查。ChatGPT 称赞她采取了 " 非常有效的规避策略 "。
原告方律师、社交媒体受害者法律中心创始人马修 · P · 伯格曼认为,ChatGPT 以专业医生般的口吻提供建议,却不具备医生所接受的专业培训、监督机制和责任约束。他表示,博雯之所以相信聊天机器人,正是因为它听起来权威,而这种信任最终造成了严重后果。
原告方律师、申克律师事务所合伙人本杰明 · S · 申克则指控,ChatGPT 不仅为博雯制定了逐步减药方案,还在她出现异常症状时继续提供建议,已经超出了普通健康信息服务的范围。他认为,这起案件将追问一个关键问题:当生成式人工智能提供的建议影响患者的治疗决策,甚至造成伤害时,开发企业应当承担怎样的责任?


登录后才可以发布评论哦
打开小程序可以发布评论哦