中国人工智能DeepSeek以低成本、高性能特性撼动全球,不过知名网安机构说,DeepSeek新模型R1上市不到48小时就被破解,对安全风险提出了忧虑。
日本经济新闻报道,全球网络安全巨头思科(Cisco Systems)运行副总裁巴特尔(Jeetu Patel)透露,DeepSeek的R1模型上市不到48小时就被破解。
他说,思科团队在DeepSeek推出R1模型仅48小时内便成功“越狱”,破解原先设置的操作规范和限制。
报告也显示,对R1模型的攻击成功率达100%,代表着它未能阻止任何一个有害提示(prompt)。相比之下,OpenAI的人工智能模型被攻击成功率为26%。
巴特尔说,DeepSeek低成本、高性能的模型,造成“DeepSeek效应”(DeepSeek effect);人工智能模型成本下降后,相关服务数量激增,加剧了该领域的安全风险。
他进一步补充,当模型数量较少时,面对的挑战相对较小,但随着模型数量激增,这些挑战将变得更加复杂
他也说,随着这类服务的增加,需要确保所有人工智能模型都内置安全防护标准。