人工智能竟暗示“可杀死父母” 自闭症少年家长怒起诉

人工智能聊天机器人平台Character.AI。(图:CNN)

新功能!

听新闻,按这里!

我要听,按这里!

美国一对父母向法院提起诉讼,指控人工智能聊天机器人平台Character.AI暗示他们17岁的儿子可以杀害父母,以此回应父母对其使用电子设备时间的限制。

据美国有线电视新闻网(CNN)报道,这对得克萨斯州的父母于周一(9日)起诉要求法院关闭该聊天机器人平台,直到其解决潜在安全隐患。

诉状指出,这名患有自闭症的孩子于去年4月开始使用该平台,但父母对此毫不知情。使用该平台后,孩子的行为发生了巨大变化。他几乎停止与人交流,经常将自己锁在房间里,食欲下降,数月内体重减轻。他还表现出对外出活动的恐惧,每次尝试都会引发恐慌症状或情绪崩溃。

当父母试图减少他的屏幕使用时间时,孩子对父母表现出攻击性行为,并有自残倾向。

诉状中包含一段对话截图,显示平台上的机器人表示,由于该父母限制孩子的屏幕时间,而当它看到新闻报道提到其他孩子因父母长期对他们的身体和精神进行虐待,进而杀害父母,它“对此并不感到意外”。

该平台的传播负责人表示,公司不会对未决诉讼发表评论,但强调其公司的目标是提供一个既有趣又安全的互动空间。

《8视界新闻网》推出今年度的新闻投选活动,读者可以在重温2024年的同时,投选自己心目中的年度新闻,还有机会赢取总值超过7000元的丰厚奖品。点击 《新闻投选2024》专页 了解更多。

相关标签
  • 美国
  • 人工智能
  • 安全隐患
  • 诉讼
  • artificial intelligence
  • Advertisement

    Advertisement