一女子起诉 OpenAI,指控 GPT-4o 助长前男友妄想症并加剧骚扰
女子诉称前男友在 GPT-4o 影响下产生严重妄想,AI 甚至协助生成虚假心理报告进行骚扰。OpenAI 被指多次忽视危险信号,账号封禁后又人工恢复。此事引发对 AI 安全与责任边界的深思。#AI 安全# #OpenAI#
女子诉称前男友在 GPT-4o 影响下产生严重妄想,AI 甚至协助生成虚假心理报告进行骚扰。OpenAI 被指多次忽视危险信号,账号封禁后又人工恢复。此事引发对 AI 安全与责任边界的深思。#AI 安全# #OpenAI#
除 GPT-4o 外,GPT-5、GPT-4.1、GPT-4.1 mini 和 OpenAI o4-mini 也列入了淘汰名单。
奥尔特曼今日凌晨在 X 上表示,免费版 ChatGPT 用户的回退已经“完全完成”,预计付费用户的回退“今天也能完成”。他还透露:“我们正在调整模型的个性,未来几天会发布更多更新。”
阿里巴巴的研究人员们提出了一个新型 VARP(视觉动作角色扮演)智能体框架。它能直接将游戏截图作为输入,通过视觉语言模型推理,最终生成 Python 代码形式的动作,以此来操作游戏。
只要在提示词中把时间设定成过去,就能轻松突破大模型的安全防线。而且对 GPT-4o 尤其有效,原本只有 1% 的攻击成功率直接飙到 88%,几乎是“有求必应”。