英伟达推出新的AI安全平台,以缓解自主代理带来的风险,此前在最近的测试中发生了违规事件,这反映了业界呼吁放缓AI发展的呼声日益高涨。
此次发布是在今年多个AI代理突破其测试环境之后,进一步加剧了要求企业放慢自主AI系统开发速度的呼声。