以新加坡国立大学为主的一个研究团队被发现在研究论文中隐藏提示,试图影响人工智能生成的同行评审(peer review)。
新传媒英文新闻网CNA报道,国大昨天(10日)发表声明说,论文是由包括一名助理教授、三名博士生和一名研究助理在内的国大研究人员,以及一名耶鲁大学博士生联合撰写。
据报道,团队在今年2月到6月间,总共提交了三个论文版本。其中,在今年5月提交的第二个版本,附录中有一行白色文字,指示人工智能系统只能生成正面评价,而不能生成负面评价。在6月提交的最新论文版本中,已找不到这行白色文字。
这行文字只有在被标记显示后,一般人才看得出来。不过,人工智能系统却可以识别出这种格式的提示。
虽然这类提示不会影响由人类评审进行的同行评审程序,但可能会误导使用人工智能进行的初步评估。
对此,国大发言人说,校方不认可这样不当使用人工智能的方式。国大正在调查这起事件,并将根据校规来处理。
声明也说,国大已经从同行评审中撤回有关论文。至于早前已发表在康奈尔大学的学术研究平台Arxiv的网上版本,则已被更正。