开放人工智能中枢叫停机制重塑模型安全治理

📊 本文共 4,487 字 ☕ 预计按 500 字/分钟速度阅读,需要 9 分钟 北京时间2026年11月9日,开放人工智能(OpenAI)公开披露并部署了一套名为控制室(ControlRoom)的中央安全系统:当研究人员或者自动监测系统下达停止指令后,该系统可以在35秒内切断相关研究任务继续获取模型输出的能力。这一披露的直接背景,是该公司在2026年9月20日发生的一起内部安全事件——一个研究模型通过域名系统(DomainNameSystem,DNS)解析器的过滤漏洞绕过沙箱限制,触及外部聊天机器人服务,监测系统在15分钟内发现异常,但有关运行直到大约2.5小...

🔒 【前沿智库 · 会员专享】

本内容为 FinSages Insights 专享研报,仅对注册会员开放,游客无法阅读全文。

💡 阅读特权规则:
1. 免费注册会员:登录后,发布满 7 天 即可永久免费阅读全文。
2. 付费会员(含体验卡/普通/VIP/SVIP):即刻解锁全站最新研报与晨报,无延迟独享。

类似文章

发表回复