美国两家人工智能初创公司OpenAI和Anthropic同美国政府签署合作协议,对公司的人工智能模型进行研究、测试和评估。
路透社报道,这是双方首次签署这类协议,两家公司正面临人工智能技术安全和道德使用的监管审查。在协议下,美国人工智能安全研究所将在OpenAI和Anthropic公开发布人工智能项目之前,有权使用这些项目的模型。研究所也将同英国合作,针对潜在的安全改进向两家公司提出反馈。
CONTENT CONTINUES AFTER THIS ADVERTISEMENT
美国人工智能安全研究所负责人表示,这些协议只是一个开始,这对当局负责任的监管人工智能而言,是一个重要的里程碑。
美国总统拜登在去年签署行政命令,设立美国人工智能安全研究所,以评估人工智能模型目前已知和新出现的风险。