据媒体当地时间9月9日报道，美国商务部工业与安全局（BIS）当天表示，为确保先进人工智能技术的安全性和抗击网络攻击能力，该部门提议要求先进人工智能开发商和云计算服务提供商提交详细报告。

由于人工智能领域的迅速发展引发了安全担忧，拜登政府已采取一系列措施防止中国利用美国技术发展人工智能。2023年10月，美国总统拜登签署了一项行政命令，要求对美国国家安全、经济、公共卫生或安全构成风险的人工智能系统开发商在向公众发布之前与美国政府分享安全测试结果。今年早些时候，BIS也对人工智能开发商进行了一项试点调查。

根据BIS本次提出的提案，相关的云服务提供商如（Amazon、Google和微软的Azure）将被强制要求向联邦政府报告"前沿"人工智能模型和计算集群的开发活动，同时还将被要求报告网络安全措施以及所谓的红队测试结果，包括测试人工智能是否具有协助网络攻击或降低非专业人士开发化学、生物、辐射或核武器门槛的危险能力。

BIS表示，根据该提案收集的信息"对于确保这些技术符合严格的安全和可靠性标准、能够抵御网络攻击以及限制外国对手或非国家行为体滥用风险至关重要"。

“红队”这一术语源于美国冷战时期的模拟演习，指代演戏中的敌方。业内人士指出，外部红队测试多年来一直被用于识别网络安全领域的新风险。生成式人工智能可以根据开放式提示创建文本、照片和视频，这引发了人们的兴奋之情，但也引发了一些担忧，如可能导致某些工作岗位消失、扰乱选举，甚至有可能压倒人类并产生灾难性后果。

此次提案将为先进人工智能模型和计算集群建立报告要求。值得注意的是，与此同时，美国国会关于人工智能的立法行动陷入停滞。

来源：合规小叨客（编译自Reuters）