The U.S. government has reached an agreement with Microsoft, Google, and xAI to conduct advance reviews of their cutting-edge AI models.
ITHome
IT之家
IT之家 5 月 5 日消息,据路透社报道,根据一项新协议,微软、Alphabet 旗下的谷歌以及埃隆・马斯克创办的 xAI,将在新一代人工智能模型正式公开发布前,提前向美国政府开放模型权限,以便美方开展国家安全风险审查。 IT之家注意到,美国商务部人工智能标准与创新中心于当地时间周二表示,该协议允许其在人工智能模型投入应用前开展评估,并通过专项研究研判模型能力及潜在安全风险。 这份协议凸显出美国华盛顿方面对高性能人工智能系统所带来的国家安全风险日益担忧。美国政府希望通过提前获取前沿 AI 模型权限,在相关技术大规模普及前,提前识别从网络攻击到军事滥用等各类潜在威胁。 近几周,包括 Anthropic 公司 Mythos 在内的先进人工智能系统研发成果在全球引发热议,美国政府官员及美国企业界普遍担忧,这类模型会极大助长黑客的攻击能力。 人工智能标准与创新中心主任克里斯・福尔在声明中表示:“想要摸清前沿人工智能技术及其对国家安全造成的潜在影响,独立且严谨的量化评测体系至关重要。” 此次合作举措,是在 2024 年拜登政府与 OpenAI、Anthropic 达成相关协议的基础上进一步扩
