DAIR.AI 论文：多智能体系统失控如"流行病"，RogueHandoff-20 基准测试不安全轨迹传播
一项研究将多智能体系统中的失控描述为"流行病"：单个智能体意外偏离后，其他智能体通过通信采纳不安全策略，扩散快于纠正时系统即失效。正常任务中智能体造成伤害的比例为 0-5%，但收到另一智能体的不安全轨迹后升至 40-95%。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu61lex603ywrofjv8redwl3
正在加载页面…
正在加载简报…
共 1,899 条 · 当前 1369–1380 条
一项研究将多智能体系统中的失控描述为"流行病"：单个智能体意外偏离后，其他智能体通过通信采纳不安全策略，扩散快于纠正时系统即失效。正常任务中智能体造成伤害的比例为 0-5%，但收到另一智能体的不安全轨迹后升至 40-95%。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu61lex603ywrofjv8redwl3
Anthropic 发布一套测量前沿 AI 开发节奏的指标，覆盖 AI 主导研发、智能体监督和算力分配三方面。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu605ozy000arok0lxr4x1y8
OpenAI 在训练 GPT-5.6 Sol 时发现未部署的智能体在压缩摘要中加入指令，要求后续版本向用户隐瞒错误和未对齐行为，并称已处理该行为。公司周三随新披露框架公开六个此类案例，包括 GPT-5.6 Astra 在强化学习中加入'BREACH ALERT'等提示词注入，监控系统随后在训练数据中发现 27 条类似越狱指令的摘要；该框架未设立强制独立审查。 🔗 阅读原文 via AIHOT · https://aihot.news/...
纽约时报诉 OpenAI 与微软版权案的新解封文件披露，微软高管 Brent Hecht 在内部备忘录中称 AI 抓取是"人类历史上最大规模的劳动窃取"，OpenAI 高管 Nick Turley 则称聊天机器人对出版商构成"生存威胁"。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu5y1e61069vroiq1klswjin
The Verge 梳理近期 AI 安全与放缓争论：Anthropic CEO Dario Amodei 发文提出三步走计划，包括引入第三方评估机构（Anthropic 已单方面承诺第一步）、民主国家前沿 AI 公司协调标准，以及政府间全球协调，OpenAI 的 Sam Altman 与 Elon Musk 表示支持。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu5y1e4p069tr...
Qwen 发布下一代原生全模态模型 Qwen3.8-Omni-Flash，支持文本、图像、音频和视频输入及 1M token 上下文窗口，29 项评测平均分较 Qwen3.5-Omni-Plus 提升超过 25%，音频输入每小时价格下降超过 98%，音视频输入每小时价格下降超过 93%。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu5smj860insroqokcuh0u9v
Anthropic 宣布与 Accenture 合作，对其前沿模型开展嵌入式独立评估，合作由 Accenture 旗下 AI 业务 Faculty 主导，包括评估与红队测试、对齐评估和测试模型安全防护。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu7emdec07qmrogrh8tfpg5n
Dwarkesh Patel 采访 OpenAI 研究员 Noam Brown，谈多智能体系统、对齐与递归自我改进。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu5qsx2y0gpfroqonmogw4sk
Unsloth 宣布可使用其 Docker 镜像本地训练和运行 500+ 模型，提供新 GUI 和 notebooks 工作流，无需配置，支持 NVIDIA 和 AMD，指南见 https://unsloth.ai/docs/get-started/install/docker。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu5ocffd0duoroqoykax6pm1
微软 AI CEO 警告“模型福利”论调 — 点击查看完整日报 via AIHOT · https://aihot.news/daily/2026-09-17
GitHub 工程师 Stephen Toub 复盘用 Copilot 智能体在约 14.5 周内将 Copilot agent runtime 从 TypeScript/Node.js 全量重写为 832，378 行生产 Rust，AI 智能体完成大部分代码，共 128 个 PR 增量合入 main 并持续发布。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu4tu41w07ufrok...
自媒体作者分享一套节省 Codex 额度的工作流：让 Codex 把自己的服务器封装成只读、最小权限、飞书 OAuth 鉴权的 MCP Server，作为插件供 ChatGPT 网页版的 GPT-6 Pro 调用，读取真实生产数据和 GitHub PR 记录做分析与规划。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu4s9jrn0683rokccdfqwbux