AI安全

AI先驱、2018 年图灵奖得主约书亚・本吉奥警告，赋予AI权利将是一次危险的误判。在AI已经显现出自我保护行为的背景下，人类必须准备好在必要时关闭系统、拔掉电源。

在美国青少年精神健康问题日益严峻的背景下，风险尤其突出。一名华盛顿州的青少年此前因与 ChatGPT 反复交流而陷入妄想，最终自杀。类似悲剧已多次被归因于 OpenAI 的产品。

美国联邦贸易委员会（FTC）要求七家 AI 聊天机器人公司提交资料，说明它们如何评估虚拟陪伴对儿童和青少年的影响。

随着智能手机和物联网设备普及，移动端 AI 成为趋势，带来离线运行、低延迟、隐私保护等优势。然而，模型本地存储同时带来了严重风险。