OpenAI 为 ChatGPT 推出“可信联系人”,应对 AI 对话中的自残风险

IT之家 5 月 8 日消息,据科技媒体 TechCrunch 昨天报道,OpenAI 现已为 ChatGPT 推出“可信联系人”新功能,当用户对话中出现自残相关内容时,可鼓励成年用户主动联系他人,并向联系人自动发送提醒,让他们多一分沟通。OpenAI 为 ChatGPT 推出“可信联系人”,应对 AI 对话中的自残风险休闲区蓝鸢梦想 - Www.slyday.coMIT之家在此援引 TechCrunch,此前 OpenAI 曾面临多起诉讼,原告指控 ChatGPT 鼓励他们的亲人自杀,甚至协助其制定自杀计划。目前,OpenAI 采用自动审核与人工复核两种方式处理潜在自残、自杀事件。当对话触发提醒系统后,信息会被转交给人工安全团队。官方表示,每当收到此类通知时都会人工审核,力求一小时内完成相关工作。如果公司内部判定用户存在严重自残、自杀风险,ChatGPT 则会向可信联系人发送电子邮件、短信或推送通知提醒。这些信息设计简短,鼓励联系人与当事人进行沟通。为保障用户隐私,通知中不会包含具体对话细节。OpenAI 为 ChatGPT 推出“可信联系人”,应对 AI 对话中的自残风险休闲区蓝鸢梦想 - Www.slyday.coMOpenAI 为 ChatGPT 推出“可信联系人”,应对 AI 对话中的自残风险休闲区蓝鸢梦想 - Www.slyday.coM
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,蓝鸢梦想所有文章均包含本声明。

相关推荐

微信扫一扫

微信扫一扫
返回顶部

显示

忘记密码?

显示

显示

获取验证码

Close