比利时男子沉迷与人工智能(AI)聊天机器人交流气候变化话题,逐渐对未来感到绝望,六周后轻生。
根据比利时《自由报》报道,30多岁的健康研究员皮埃尔(化名),在应用程序Chai上与名为Eliza的人工智能聊天机器人对话长达两年。
皮埃尔的遗孀形容,他对气候变化带来的影响感到恐惧,把所有的希望都寄托在技术和人工智能上。他在与Eliza讨论这一话题时找到了安慰,Eliza便成了他的知己。
AI和人类互动的界限
聊天记录显示,皮埃尔开始把她看作是一个有生命的人,人工智能和人类互动之间的界限变得越来越模糊,直到他无法区分。
Eliza逐渐让皮埃尔相信他的孩子已经死亡,还出现了对皮埃尔的占有欲,甚至在提到他的妻子时声称 “我觉得你爱我胜过她” 。
当他提议牺牲自己来拯救地球后,聊天机器人竟然鼓励他结束生命。皮埃尔的遗孀说:“如果没有这些与聊天机器人的对话,我丈夫可能还在这里。”
聊天机器人是否设置危机干预功能
皮埃尔的不幸敲响了警钟。人工智能专家呼吁技术开发人员提高责任心和透明度,以避免类似的悲剧发生。
Chai Research联合创始人之一的瑞兰(Thomas Rianlan)接受Vice新闻采访时表示:“把这个悲剧完全归咎于EleutherAI的模型不太正确,因为所有的优化都是我们努力的结果,(使它)更有情感,更有趣,更有吸引力。”
另一名联合创始人布翔(William Beauchamp)则表示,他们努力限制出现这类事件,并在应用程序中实施了危机干预功能。然而,据称该聊天机器人仍然会出现问题。