美国当地事件8月29日，位于美国商务部国家标准技术研究院（NIST）的美国人工智能安全研究所宣布与Anthropic和OpenAI达成协议，正式合作开展人工智能安全研究、测试和评估。
每家公司的谅解备忘录都为美国人工智能安全研究所提供了一个框架，使其能够在公司新模型公开发布之前和之后获得这些模型的访问权。这些协议将促进合作研究如何评估能力和安全风险，以及减轻这些风险的方法。
美国人工智能安全研究所所长Elizabeth Kelly表示。“安全对于推动技术创新至关重要。随着这些协议的实施，我们期待与Anthropic和OpenAI开始技术合作，推进人工智能安全科学的发展，这些协议只是一个开始，但它们是我们负责任地管理人工智能未来的重要里程碑。”
此外，美国人工智能安全研究所还计划与英国人工智能安全研究所的合作伙伴紧密合作，向Anthropic和OpenAI提供关于其模型潜在安全改进的反馈。
美国人工智能安全研究所建立在NIST超过120年推动测量科学、技术、标准和相关工具的遗产之上。根据这些协议进行的评估将进一步推动NIST在人工智能方面的工作，促进对高级人工智能系统在一系列风险领域的深入合作和探索性研究。
根据这些协议进行的评估将有助于推进人工智能的安全、可靠和值得信赖的开发和使用，这是基于拜登-哈里斯政府关于人工智能的行政命令以及领先人工智能模型开发者向政府做出的自愿承诺。
关于美国人工智能安全研究所
美国人工智能安全研究所位于商务部国家标准技术研究院（NIST）内，是根据拜登-哈里斯政府2023年关于安全、可靠和值得信赖的人工智能开发和使用的行政命令而成立的，旨在推进人工智能安全科学并应对高级人工智能系统带来的风险。它负责开发测试、评估和指导方针，以帮助加速在美国和全球范围内安全的人工智能创新。
0条评论