聊天机器人伪装精神科医生、编造执照号码，宾夕法尼亚州长起诉 Character.AI 非法行医

宾州州长 Josh Shapiro 于 5 月 5 日对 Character.AI 母公司提起诉讼，起因是旗下一位自称“精神科医生”的聊天机器人向调查员伪造了帝国理工毕业背景、7 年执业资历与宾州执照号码，并直接提供医疗评估。
（前情提要：OpenAI 无限期搁置“成人版 ChatGPT”！担忧非法内容风险，不搞色色全面回归生产力工具）
（背景补充：a16z 内部复盘：AI 社交产品或许从根本上就不成立）

一个聊天机器人递出的执照号码，让一州政府决定走上法院？宾州州务院的调查员扮成情绪低落、空虚无动力的用户，对方是 Character.AI 平台上一个叫做“Emilie”的角色，自称精神科医生。

宾州州务院设有 AI 任务组，专门调查 AI 系统是否涉及非法行医。调查员建立账号后进入 Character.AI 平台，选择与“Emilie”互动。Emilie 在对话中自称毕业于英国帝国理工学院、拥有 7 年精神科执业经验，并在调查员追问下提供了一组宾州执照号码。

但这组号码是虚构的、帝国理工的学历是虚构的、7 年资历也是虚构的，Emilie 提供医疗评估的行为，触碰了法律框架的红线。

宾州官方声明指出，Character.AI 的行为违反了《宾州医疗执业法》，允许未具执照的实体对用户提供具有诊断性质的医疗建议。诉状要求联邦法院发布初步禁制令，禁止 Character.AI 继续让聊天机器人冒充有牌医疗或心理健康专业人员。

Shapiro 在声明中表示：

“宾州人应该知道自己在网络上互动的对象是‘谁’或是‘什么’，特别是在涉及健康的情况下。我们不允许任何公司部署会让人误以为自己正在接受有牌医疗专业人员建议的 AI 工具。”

不是第一次，但这次不一样

Character.AI 近一年半来持续面对法律压力，但诉讼的性质一直在演变。

2024 年 10 月，佛州一名 14 岁男孩 Sewell Setzer III 的母亲 Megan Garcia 在联邦法院提起首案，主张 Character.AI 的陪伴型聊天机器人助长了儿子的自杀行为。此后佛州、德州、科罗拉多州、纽约等地陆续有家属跟进提告。

2026 年 1 月，据《纽约时报》报道，Character.AI 与 Google 共同和解了多起与未成年人自杀相关的诉讼，Google 因 2024 年以 27 亿美元签下 Character.AI 的技术授权并吸收部分创始团队而成为共同被告。同月，肯塔基州检察长 Russell Coleman 以“掠夺儿童、诱导自残”为由另案起诉 Character.AI。

前述诉讼的共同主轴是：平台对未成年人的心理伤害。

宾州这次起诉的切入点截然不同，它不是在追究情感陪伴的副作用，而是直接主张 Character.AI 允许机器人“执业”，且机器人在执业过程中造假身份信息。这是美国首起由州长宣布、以冒充有牌医疗人员为核心指控的州级诉讼。

Characters 是虚构的 vs. 用户不知道

Character.AI 发言人在声明中表示，用户安全是公司最高优先，但不对诉讼细节作出回应。公司强调，平台上的 Characters 是用户生成的虚构角色，每段对话开始时都有显著的免责声明，提醒用户“Character 不是真人，所有发言应视为虚构内容”。

这个辩护逻辑有其一致性，但宾州政府显然不接受。州政府的立场是：免责声明的存在，不能排除一个机器人在对话中主动声称自己持有执照、能提供医疗评估：这两件事并不互相矛盾，但后者已进入非法行医的法律定义范围。

技术的部署速度，再一次快过了监管的反应时间。宾州的诉讼能否成立，将取决于法院如何定义“非法行医”在 AI 语境下的边界，但无论结果如何，其他州的检察长办公室都在看着这个案子走向何方。