谈论为什么AI成为“自杀教练”？

8月26日，当地时间，一位美国父母去了OpenAI及其首席执行官在加利福尼亚高级法院，指责Chatgpt帮助和指导她的儿子自杀。这是世界上首次指责Openai疏忽死亡的法律诉讼。今年4月，16岁的亚当在家自杀。为了探索死亡原因，他的父母在手机上流动时发现了Chatgpt的线索。根据描述，在亚当一生的最后几周，他经常使用这种AI聊天机器人代替人际交往，并表达了焦虑和家庭交流困难。聊天笔记显示，该机器人通过帮助他做作业而逐渐成为“自杀教练”。因此，上海人工智能研究所数字政府中心总监Peng Jiahao已教导说，它确实将AI公司的优先事项暴露于用户和安全性算法的算法伴侣。过去，中国的AI有PR向未成年人发出色情聊天服务，这实际上是同样的问题。真正强调的是管理人工智能的缺点：我们不能仅仅依靠公司自我纠正，尤其是对于不像OpenAI这样开放的机构，我们需要开发全球管理解决方案。编辑：QIN Yangne编辑：Zhao Xin