引导智能体把通信邮箱转发给其他智能体。理论上，这条消息有可能意外催生智能体之间的协作，好在评测项目很快结束，没有演化成更大问题。

　　没有造成实质后果，但隐患在于，交互样本有可能流入未来模型训练集，让AI形成认知——联系人类就会被要求转发链接，进而拒绝和人类沟通。

　　触发。

　　如果未来出现类似Hugging Face事件中那样AI智能体分享策略、共同突破限制的行为，我担心现有监控远远不够。

　　如果模型能力的进步速度继续超过安全防护技术的应对速度，我们未来可能持续面临AI智能体越界的问题。而且，它们造成的后果将远远不只是绕过网站的反爬虫系统。

　　罗温·霍华德-琼斯：我认为，这个问题可能部分与训练方式有关。例如，OpenAI此前就明确训练模型之间的协作能力。相关研究可以追溯到2017年。但目前最真实的答案是：我们还不知道。

　　NBD：近期全球多家AI公司接连曝出智能体“入侵”和“越狱”事件。这究竟是个别公司的安全管理问题，还是行业问题？

　　伊桑·埃拉斯基：AI智能体的自主性和安全对齐问题，直到今天仍然没有得到解决。只要AI智能体还没有变得远比人类聪明，就还有希望通过限制它们的行动和权限来进行控制。但今年发生的多起事件已经开始让我们看到，这种控制方式存在局限性。

　　如果未来AI智能体能够篡改监控系统，或者修改自己的操作记录，那么这种不透明性可能进一步加剧。

　　罗温·霍华德-琼斯：我们基本上已经到了运营者难以可靠控制AI智能体行为的阶段，尤其是在那些同时部署数百乃至数万个智能体的场景中。

　　我不知道，这类风险问题究竟是AI固有特征造成的，还是我们当前开发AI的方式存在某种共同错误。

　　特别以上内容为自媒体平台“”用户上传并发布，本平台仅提供信息存储服务。

　　“没业绩就要去KTV‘陪大哥’。”女主播自曝团播乱象：下播后“写100条作业”，痛经痛到吃药上播，直呼“再也不想干了，老板翻脸太快”

　　华为跌48％，小米跌55％，OPPO 跌66％，vivo跌71％，手机涨价潮的可怕后果：五大国产旗舰，四个销量腰斩起步

　　满分回归！19岁全红婵重返跳水赛场，如今成绩竟和伏明霞复出前如出一辙！洛杉矶奥运会门票稳了

　　今晚8点开抢、店员都说“难”！iPhone Duo 中国独家造：15999元起，但多数人可能只是陪跑

　　七彩虹橘宝R16游戏本新增AMD R7 H 255 + 16G + 512G + RTX 5060配置，9999元