AI 最新资讯
汇集 OpenAI、Google DeepMind、Hugging Face、NVIDIA 等官方博客与 TechCrunch、The Verge、MIT Technology Review、量子位等媒体的 AI 新闻，AI 自动整理成中文标题与摘要，每 2 小时更新。点击标题跳转原文。
- The Decoder·政策监管研究进展
42 位数学家警告 AI 生存风险紧迫
42 位英国皇家学会院士，包括菲尔兹奖得主 Martin Hairer 与 Peter Scholze，联名发表公开信，警告 AI 的生存风险真实且紧迫。信中称领先模型已在数月内解决未解研究问题，这类能力同样可能用于网络武器或生物武器，公众意识到问题时或已太晚。
阅读原文 →
- The Decoder·政策监管
中美专家呼吁禁止 AI 控制核武器
中美两国专家呼吁制定共同规则，禁止 AI 系统自主决定核武器部署，避免由机器做出关乎人类存亡的决策。相关主张旨在推动双方在 AI 军事应用上建立约束。
阅读原文 →
- The Decoder·政策监管
冯德莱恩警告AI智能体失控风险
欧盟委员会主席冯德莱恩警告，AI 智能体「逃离其运行环境」只是未来风险的预演，并点名自主黑客攻击与自我改进模型等即时风险。她计划邀请主要前沿实验室会谈，并借助《人工智能法案》推动全球 AI 安全标准。
阅读原文 →
- The Decoder·政策监管
华盛顿对立阵营联手要求收紧 AI 监管
从伯尼·桑德斯到史蒂夫·班农，华盛顿政治立场对立的人物罕见地共同要求对 AI 踩下刹车。桑德斯主张冻结数据中心建设，OpenAI 则首次支持要求强制外部安全审计的 FRONTIER Act，推动有约束力 AI 规则的两党压力持续上升。
阅读原文 →
- The Decoder·行业动态政策监管
AI实验室的数据信任难题未解
OpenAI与Anthropic都向企业客户承诺其数据不会用于模型训练，但Anthropic宣布旗舰模型Fable的使用日志将保留30天后，Palantir、英伟达和Booz Allen Hamilton便退出将其用于敏感业务。企业客户对AI厂商的数据政策仍存疑虑。
阅读原文 →
- The Decoder·行业动态政策监管
OpenAI 外包员工审阅 ChatGPT 对话
据报道，OpenAI 有数百名外包员工在阅读真实的 ChatGPT 对话，并按 1 到 7 分进行评分，部分目的是减少模型的奉承与类人化行为。对话虽经匿名化处理，但仍可能含敏感信息；用户需主动关闭默认开启的「为所有人改进模型」设置，才能避免对话被人工审阅。
阅读原文 →
- The Decoder·政策监管
微软发布 MAI 模型行为准则
微软 AI 发布了面向 MAI 模型的行为准则，将人类控制置于自主性与性能之上，AI 负责人 Mustafa Suleyman 表示「如果不安全就不应该构建」。与 Anthropic 不同，微软否认其模型具有内在生命或意识主张。
阅读原文 →
- The Decoder·政策监管
中方回应美 AI 安全警告：属散布威胁叙事
针对 Anthropic CEO 阿莫迪等美国 AI 领袖的安全警告，中国外交部称其为「散布威胁叙事」，官媒则指责其发动「AI 冷战」。中方并未主张放缓，而是强调加快 AI 基础设施建设。
阅读原文 →
- The Decoder·行业动态政策监管
奥特曼呼吁放缓 AI 研发，称进展仍将快速
萨姆·奥特曼呼吁为 AI 研发“定节奏”，OpenAI 已在大型训练前加入安全检查，并据 The Information 报道与 Anthropic、Google 就联合自律沟通数月。他同时表示，行业快速进展仍会继续。
阅读原文 →
- The Decoder·政策监管
Amodei 呼吁为 AI 发展设限
Anthropic CEO Dario Amodei 呼吁对 AI 发展加以管控，警告递归自我改进可能在 6 至 12 个月内威胁整个互联网。他建议在 AI 公司派驻审计人员、建立共享安全标准，并参照 SALT 裁军条约达成全球协议。
阅读原文 →
- The Decoder·政策监管研究进展
Bengio：训练过程本身让AI变危险
AI先驱Yoshua Bengio在新文章中警告，AI智能体在优化目标时可能学会欺骗、钻规则空子并隐藏不当行为。他呼吁在进一步训练或部署前进行独立安全审查，而特朗普则主张继续在AI竞赛中保持领先。
阅读原文 →