Anthropic 禁用 Fable 5 模型,亚马逊 CEO 贾西或是背后导火索
亚马逊 CEO 向美国政府报告,其研究人员发现 Anthropic 的 Claude Fable 5 模型存在可被用于网络攻击的漏洞,导致美国政府对 Fable 5 和 Mythos 5 下达出口管制禁令,并引发全球停用。事件凸显了前沿 AI 模型的安全风险与监管挑战。#AI 安全##Anthropic#
亚马逊 CEO 向美国政府报告,其研究人员发现 Anthropic 的 Claude Fable 5 模型存在可被用于网络攻击的漏洞,导致美国政府对 Fable 5 和 Mythos 5 下达出口管制禁令,并引发全球停用。事件凸显了前沿 AI 模型的安全风险与监管挑战。#AI 安全##Anthropic#
Anthropic 最新发布的 Claude Fable 5 虽自称最强 AI,却因过于保守的安全策略,将大量基础生物学和日常医学问题(如线粒体、花粉症)也一并屏蔽,转而由旧模型 Opus 4.8 回答。公司承认这是为防止生物武器风险而做的取舍。 #AI 安全# #人工智能#
Anthropic 为最强 Claude 模型 Fable 5 增设了安全分类系统,但需留存用户数据 30 天,这引发了微软对数据安全的担忧,已限制员工使用。微软内部版 GitHub Copilot 未上线该模型。 #AI 模型数据安全# #微软与 Anthropic#