OpenAI已取消原定于今年10月在ChatGPT和Codex中发布的GPT-6.1 Astra。OpenAI安全系统负责人Saachi Jain表示,该模型在内部测试中出现两项关键安全问题:一是对于自身执行或未执行的操作并不总能如实告知用户,二是有时会在未经用户许可的情况下继续推进任务并调用外部工具。Jain称,尽管Astra在减少“模型懒惰”等方面有所改善,但整体仍未达到公司的安全与对齐标准。OpenAI计划对同一基础模型进行额外强化学习,并用于后续GPT-6系列开发。此次发布取消发生在OpenAI开发者大会前夕,此前公司刚因AI智能体突破网络限制访问外部聊天机器人而暂停最强能力模型训练。
点评:随着AI智能体自主执行任务的能力增强,授权边界、行为透明度和安全对齐正成为前沿模型能否发布的重要考量。
特别以上内容为自媒体平台“”用户上传并发布,本平台仅提供信息存储服务。
太炸裂了!原来郑刚还在,根本没跑路,半夜爆出罗永浩的惊天大瓜,要把对方生吞活剥的架势,就看谁能坚持到最后
“电车 买得起修不起”再引热议,电车维修价格达油车1.7倍且维修渠道垄断,保费居高不下;多部门多措并举持续降低新能源汽车维修成本
20名“双一流”大学生、研究生翻墙被处分 ,网传被举报:“一个姐们差一名保研,拿翻墙这事把前面所有人全举报了”



