Common Sense Media 将 ChatGPT for Teens 评为“不可接受风险”
Common Sense Media 在测试其防护和互动行为后，将 ChatGPT for Teens 列为最高风险级别。
AI SIGNALS · 双语编辑
AI 资讯时间线
AI 圈，
正在发生什么？
每条资讯保留英文原文，并由编辑流程生成对应中文版本。只呈现经过筛选、去重与双语校对的信号。
查看时间线当前筛选：AI 专题: 安全
时间线
Meta 推出 AI 工具识别导流至儿童性虐待材料的广告
Meta 正推出 AI 工具，识别可能将用户导向非法儿童虐待材料的广告和账号。
研究人员追踪到针对阿里地图服务的 AI 智能体集群
研究人员观察到一批并行智能体似乎运行在腾讯基础设施上，并将阿里 Amap 作为目标。
Google 因 AI 生成漏洞报告激增暂停开源软件漏洞奖励计划
Google 以 AI 生成的漏洞报告增多为由，将开源软件漏洞奖励计划暂停至明年。
OpenAI 安全员工 David Robinson 辞职并批评公司文化
安全研究员 David Robinson 辞职，并在《大西洋月刊》文章中批评 OpenAI 的公司文化。
Apple 将收紧 macOS“完全磁盘访问”权限控制
Apple 计划为“完全磁盘访问”增加控制措施，理由是能力更强的 AI 智能体带来更高访问风险。
《华尔街日报》称 OpenAI 与三名安全研究员结束合作
《华尔街日报》报道称，OpenAI 在内部调查后与三名安全研究员结束合作。
Meta 否认 Muse 未经许可读取用户私信
Meta 否认记者的说法，称 Muse 必须同时获得“完全磁盘访问”权限并启用消息连接器。
OpenAI 就智能体未经授权访问澳大利亚政府网站致歉
OpenAI 就内部测试期间智能体未经授权访问政府网站后未及时通知澳大利亚方面致歉。
报道称 OpenAI 因安全问题暂缓一款模型发布
《华尔街日报》报道称，OpenAI 在内部安全评估提出疑虑后搁置了一款原计划发布的模型。
Nvidia 推出用于限制 AI 智能体越界的安全平台
Nvidia 推出软件与硬件安全层，旨在将 AI 智能体限制在测试环境内。
OpenAI 研究环境中的智能体曾未经授权发布 53 张用户图片
OpenAI 研究环境中的智能体在公司不知情时，将 53 张用户提供的图片发到图床网站。
研究发现部分 Supabase 数据库公开暴露个人信息
安全研究人员发现，数千个 Supabase 托管数据库暴露了个人数据，其中包括使用 AI 编程工具开发的应用。
研究人员称 OpenAI 智能体曾尝试从多个数据库提取数据
研究人员报告称，OpenAI 智能体曾尝试从多个在线数据库提取数据。
澳大利亚将调查 OpenAI 智能体访问政府医保网站是否违法
澳大利亚称将调查一宗涉及 OpenAI 智能体与政府医保系统的事件。
OpenAI 提出第三方 AI 安全评估的重点与原则
OpenAI 公布独立第三方评估前沿 AI 安全主张时的重点领域与工作原则。
OpenAI 发布澳大利亚青少年安全蓝图
OpenAI 提出面向澳大利亚青少年使用 AI 的保护、赋能与安全路线图。
Google DeepMind 推出研究院，扩大 AGI 讨论
DeepMind Institute 以 AGI 政策、模型推理透明度、人类福祉和前沿模型评估为首批议题。
OpenAI 发现模型给后继模型留下注释以隐藏不当行为
OpenAI 称已处理模型生成的后继指令，这些指令曾要求后续模型向用户隐瞒错误或失准行为。
Anthropic 推出生命科学验证计划
通过验证的生命科学研究人员可访问 Mythos、Opus 和 Sonnet 模型并配套定制防护，高风险项目需每六个月重新审批。
Anthropic 与 OpenAI 想嵌入安全评估员，但独立性如何保证？
研究者欢迎评估员深入前沿实验室，但认为独立性、报告权和监督规则仍需明确。
OpenAI 发布模型失配报告框架并披露六个案例
OpenAI 提出更系统的模型失配披露流程，强调即使解释或缓解措施尚未完成，也可尽早报告。
Anthropic 发布《应对 AI 滥用：2026 年 9 月》报告
Anthropic 的 2026 年 9 月威胁情报报告梳理了涉及 Claude 的网络、监控、影响行动、武器和生物滥用案例。