微软 AI 主管警告:AI 不应模仿人类,需设“安全围栏”

IT之家 8 月 25 日消息,微软人工智能部门主管穆斯塔法・苏莱曼上周(8 月 19 日)发布博文,谈及 AI 的现状和未来。苏莱曼表示,他此生的使命就是让世界更好,创造安全且有益的 AI。如今微软的目标是用 AI 赋能人类,专注于将 Copilot 打造成负责的技术,帮助人们获得更高的创造力。微软 AI 主管警告:AI 不应模仿人类,需设“安全围栏”休闲区蓝鸢梦想 - Www.slyday.coM他想创造出“更通人性”的 AI,和真实世界紧密联系,并加深人与人之间的信任和理解。但这种设计也存在诸多挑战,最重要的是需要非常谨慎的思维,且微软会围绕着“以人为本”的价值观来指引其行为。文中苏莱曼还担忧起 AI 的现状,他认为现在许多人已经开始相信 LLM(IT之家注:大语言模型)是具有意识的实体,以至于他们会依感觉为“AI 权利”、“AI 福利”甚至“AI 公民身份”发声,且这些症状在没有心理疾病的人中也会出现,他将这种行为形容成“AI 精神分裂”。微软 AI 主管警告:AI 不应模仿人类,需设“安全围栏”休闲区蓝鸢梦想 - Www.slyday.coM苏莱曼认为 AI 应以人为本,不应让 AI 来“模仿人类”,AI 业界必须紧急设置一个“安全围栏”来保护人类,并明确哪些东西不应去造,只有这样 AI 才能被关进制度的笼子,真正为世界创造价值。外媒 WindowsReport 对此认为,苏莱曼的担忧并非天方夜谭,毕竟本月初 OpenAI 停用 GPT-4o 模型时就遭到了用户强烈反对,他们认为这个 AI 模型就像是他们的伴侣,并恳切它能“回归”。此外,OpenAI 的 CEO 山姆・奥尔特曼也承认,AI 提供的情感依附比以往任何技术都强,他还认为 AI 技术强的“能让人类自我毁灭”。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,蓝鸢梦想所有文章均包含本声明。

相关推荐

  • 友情链接:
  • PHPCMSX
  • 智慧景区
  • 微信扫一扫

    微信扫一扫
    返回顶部

    显示

    忘记密码?

    显示

    显示

    获取验证码

    Close