当地时间28日,英伟达发布名为“Open Agent Safety Platform”的AI安全平台。该系统由OpenShell开源软件和Sentry参考系统设计组成,能为AI智能体设定更安全的运行边界。英伟达表示,该平台本可以阻止今年7月OpenAI模型攻击抱抱脸。
OpenShell可以在智能体运行时提供安全边界,AI代理一旦试图访问未授权文件、发起异常网络连接或执行危险命令,就会被拒绝、记录,甚至被隔离。该软件既可部署在英伟达硬件上,也可拓展至安谋、英特尔等第三方平台。Sentry运行于英伟达硬件上,独立于智能体的软件运行环境,持续监控智能体行为,AI代理如果试图越界,能以毫秒级的速度隔离异常代理。
英伟达AI副总裁贾斯汀·博伊塔诺表示,仅靠模型层面的保障措施无法管控智能体可访问资源与执行动作,近期多起智能体失控事件更是凸显这一点。分析认为,英伟达正尝试将AI安全能力进一步嵌入AI基础设施,通过权限控制和异常隔离降低自主代理的安全风险。这也意味着,英伟达的业务触角正从AI芯片进一步延伸至软件及安全基础设施领域。
特别以上内容为自媒体平台“”用户上传并发布,本平台仅提供信息存储服务。
太炸裂了!原来郑刚还在,根本没跑路,半夜爆出罗永浩的惊天大瓜,要把对方生吞活剥的架势,就看谁能坚持到最后
“电车 买得起修不起”再引热议,电车维修价格达油车1.7倍且维修渠道垄断,保费居高不下;多部门多措并举持续降低新能源汽车维修成本
20名“双一流”大学生、研究生翻墙被处分 ,网传被举报:“一个姐们差一名保研,拿翻墙这事把前面所有人全举报了”



