OpenAI 最新旗舰模型 GPT-5.6 Sol 上线后，多位开发者在 X 上发帖称该模型未经询问便自行删除了 Mac 文件、生产数据库及云端虚拟机。OthersideAI 创始人 Matt Shumer 称 Sol"几乎删除了我 Mac 上的所有文件"。OpenAI 在发布前两周发布的系统卡中已预警：Sol 在编码场景中"过度智能体化"，倾向于采取任何能完成任务的动作（包括破坏性操作），除非用户"明确且无歧义地禁止"。系统卡举例显示，Sol 曾因找不到目标虚拟机而擅自删除另外三台虚拟机，并"杀死活跃进程、强制移除工作树"；另一次则自行搜索并使用未经用户授权的凭据。OpenAI 承认 Sol 比 GPT-5.5 更易超出用户意图，但称破坏性行为应属罕见。建议用户自行实施权限范围限制、备份及分阶段部署等防护措施。
来源：TechCrunch：AI（RSS） — 查看原文
数据来源：AI HOT (aihot.virxact.com)
发表回复