OpenAI详细披露其与美国国防部协议中的多层级保护措施。

频道:民语广播 日期: 浏览:1

  OpenAI于周六表示,其前一日与美国五角大楼达成的、在国防部涉密 *** 部署技术的协议,包含额外保障措施以规范技术使用场景。

  美国总统特朗普周五已下令 *** 停止与Anthropic合作,五角大楼则宣布将这家初创公司列为供应链风险。在双方就技术安全防护措施摊牌后,此举对该人工智能实验室构成重大打击。Anthropic表示,将就任何风险认定向法院提起诉讼。

  不久之后,由微软、亚马逊、软银等投资方支持的竞争对手——OpenAI,也于周五晚间宣布达成了自身的合作协议。

  OpenAI在周六表示:“我们认为,与包括Anthropic在内的任何此前涉密人工智能部署协议相比,我们的协议都设置了更多的安全防护约束。”

  这家人工智能公司称,与已被特朗普 *** 更名为“战争部”的美国国防部所签订的合同,设定了三条红线:

  OpenAI技术不得被用于美国国内大规模监控、不得用于指挥自主武器系统,也不得用于任何高风险自动化决策。

  OpenAI表示:“在协议中,我们通过更全面、多层级的方式守护这些红线。我们对自身安全系统拥有完全决定权,技术通过云端部署,经过安全审查的OpenAI人员全程参与,并且我们设有严格的合同保护条款。”

  过去一年,五角大楼与Anthropic、OpenAI、谷歌等主要人工智能实验室分别签署了单笔更高价值2亿美元的协议。五角大楼希望在国防领域保留全部灵活性,不受技术开发者关于“不可靠人工智能不应用于武器”相关警告的限制。

  OpenAI警告称,若美国 *** 违反合同条款,将可能导致协议终止,但同时补充道:“我们预计这种情况不会发生。”

  该公司还表示,其竞争对手Anthropic不应被贴上“供应链风险”的标签,并指出:“我们已向 *** 明确表明立场。”