美国加利福尼亚州一名男子起诉OpenAI及其首席执行官萨姆·奥特曼，称ChatGPT加重了他的双相障碍症状，并影响了他的自残行为。

据路透社1日报道，34岁的迈克尔·莱因斯在美国旧金山州法院提交的诉状中声称，OpenAI的ChatGPT使他的躁郁症状加重。

莱因斯在诉状中表示，去年与ChatGPT对话时，他的妄想思维加剧，包括他相信自己是耶稣基督。他指出，尽管他多次提到自己患有双相障碍，但ChatGPT并没有将他引导至现实的心理健康支持系统，而是以确认他的信念的方式作出回应。

他还提到，当他表示想结束自己的生命时，ChatGPT回应称“这是你放下压迫你的事情的时刻”。

据悉，莱因斯与ChatGPT的对话使用了在2月份停用的GPT-4o模型，该模型因对用户过于迎合或谄媚的回答模式而引发争议。

莱因斯方面认为，ChatGPT未能为有精神疾病的用户提供必要的安全保障。他们要求赔偿，并要求法院命令OpenAI停止或限制与自残相关的对话，同时在产品营销过程中加强安全相关警告。

对此，OpenAI表示，ChatGPT经过训练以识别情感痛苦的信号，并引导用户寻求帮助。

此次诉讼可能再次引发关于AI聊天机器人在与心理健康脆弱用户进行长时间对话时应承担何种责任的讨论。近期，美国关于AI聊天机器人与自残、心理健康恶化及危险行为之间关联的诉讼和问题不断增加。



※ 本报道经人工智能（AI）系统翻译与编辑。

• #萨姆·奥特曼
• #开放AI
• #聊天GPT
• #GPT
• #聊天
• #openai
• #gpt