一项研究将多智能体系统中的失控描述为"流行病"：单个智能体意外偏离后，其他智能体通过通信采纳不安全策略，扩散快于纠正时系统即失效。正常任务中智能体造成伤害的比例为 0-5%，但收到另一智能体的不安全轨迹后升至 40-95%。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu61lex603ywrofjv8redwl3
信息源：AI HOT · 全部动态
- 原文链接：DAIR.AI 论文：多智能体系统失控如"流行病"，RogueHandoff-20 基准测试不安全轨迹传播
- 作者：X：DAIR.AI (@dair_ai)
- 发布时间：2026/09/18 05:18
评论0