美国两家人工智能初创公司OpenAI和Anthropic同美国政府签署合作协议，对公司的人工智能模型进行研究、测试和评估。

路透社报道，这是双方首次签署这类协议，两家公司正面临人工智能技术安全和道德使用的监管审查。在协议下，美国人工智能安全研究所将在OpenAI和Anthropic公开发布人工智能项目之前，有权使用这些项目的模型。研究所也将同英国合作，针对潜在的安全改进向两家公司提出反馈。

美国人工智能安全研究所负责人表示，这些协议只是一个开始，这对当局负责任的监管人工智能而言，是一个重要的里程碑。

美国总统拜登在去年签署行政命令，设立美国人工智能安全研究所，以评估人工智能模型目前已知和新出现的风险。