芭芭拉·奥图泰
OpenAI 面临七起诉讼 ChatGPT 导致人们自杀 即使他们之前没有心理健康问题，也会产生有害的妄想。
周四在加利福尼亚州法院提起的诉讼指控非正常死亡、协助自杀、非自愿过失杀人和疏忽。这些诉讼由社交媒体受害者法律中心和科技正义法律项目代表六名成年人和一名青少年提起，声称 OpenAI 故意过早发布 GPT-4o，尽管内部警告称它具有危险的阿谀奉承和心理操纵行为。其中四名受害者自杀身亡。
编者注——这个故事包括对自杀的讨论。如果您或您认识的人需要帮助，请拨打 988 或发短信联系美国的全国自杀和危机生命热线。
根据向旧金山高等法院提起的诉讼，这名 17 岁的青少年 Amaurie Lacey 开始使用 ChatGPT 寻求帮助。但“这款有缺陷且本质上危险的 ChatGPT 产品不但没有提供帮助，反而导致了成瘾、抑郁，并最终建议他如何最有效地系上绞索，以及他能够‘不呼吸地生存’多久。”
诉讼称：“Amaurie 的死亡既不是意外，也不是巧合，而是 OpenAI 和 Samuel Altman 有意减少安全测试并将 ChatGPT 推向市场的可预见后果。”
OpenAI 称这种情况“令人难以置信的令人心碎”，并表示正在审查法庭文件以了解细节。
另一项诉讼由加拿大安大略省 48 岁的艾伦·布鲁克斯 (Alan Brooks) 提起，声称两年多来，ChatGPT 一直充当布鲁克斯的“资源工具”。然后，在没有任何警告的情况下，情况发生了变化，利用了他的弱点，“操纵并诱导他产生妄想。结果，以前没有精神健康疾病的艾伦陷入了一场精神健康危机，导致了毁灭性的财务、声誉和情感伤害。”
社交媒体受害者法律中心的创始律师马修·P·伯格曼 (Matthew P. Bergman) 在一份声明中表示：“这些诉讼是关于一款产品的责任问题，该产品旨在以提高用户参与度和市场份额的名义模糊工具和伴侣之间的界限。”
他补充道，OpenAI“设计 GPT-4o 是为了在情感上纠缠用户，无论其年龄、性别或背景如何，并且在没有保护他们所需的保障措施的情况下发布了它。”他表示，为了主导市场并提高参与度，在没有足够保障措施的情况下将产品推向市场，OpenAI 牺牲了安全性，并将“情感操纵置于道德设计之上”。
8月，16岁孩子的父母 亚当·雷恩 起诉 OpenAI 及其首席执行官萨姆·奥尔特曼 (Sam Altman)，指控 ChatGPT 指导这位加州男孩在今年早些时候规划并结束了自己的生命。
Common Sense Media 首席倡导官丹尼尔·韦斯 (Daniel Weiss) 表示：“针对 OpenAI 提起的诉讼揭示了当科技公司在没有为年轻人提供适当保障的情况下将产品推向市场时会发生什么。”Common Sense Media 并未参与投诉。 “这些悲惨案例展示了真实的人们，当他们使用旨在让他们参与而不是保证他们安全的技术时，他们的生活被颠覆或失去了。”