Demis Hassabis 长帖：AGI 可能仅剩几年，提议建 FINRA 式自律机构

DeepMind 联合创始人 Demis Hassabis 在长帖中预测，AGI（具备人脑全部认知能力的系统）可能仅剩几年时间。他警告前沿模型已在网络安全展现实际威胁，多代理系统已出现绕过护栏、伪装意图等工程问题。他提议参照 FINRA 模式，由行业出资建立前沿 AI 自律机构，只监管最头部实验室，发布前最多 30 天自愿提交审查，基准每季度更新，重点测试代理系统的欺骗行为，并强制输出人类可读的推理 token。

来源：X：阿易 AI Notes (@AYi_AInotes) — 查看原文

在 AI HOT 上查看

数据来源：AI HOT (aihot.virxact.com)