人工智能深度伪造技术以假乱真，歹徒用来行骗的事件时有所闻，连李显龙总理和黄循财副总理都出现在深伪视频中。国际验证科技公司发布的报告显示，亚太区深伪诈骗案激增了15倍，当中新加坡的案例增加了五倍。如今在科技的助推下，深度伪造视频只需几个小时就能达成。在带来娱乐效果的同时，深伪科技也潜在身份盗窃、诈骗等隐患。这一期的《晨光聚焦》我们和专家了解，深伪背后的技术以及家长能如何在这种大环境下保护好孩子？
晨光编导和新加坡国立大学合作，利用深伪科技，短短几个小时到几天的时间内，就可制作出神似主播苏美兰的视频。新加坡国立大学表示，诈骗者只需要视频和录音，就能伪造成你的家人或朋友，来进行诈骗。
科技的进步是把双刃剑，近十年来深伪科技持续发展，目前已经具备换脸、换声音，转换语言发声等能力，极大地模糊了事实和虚构之间的界限。它能让已故演员重新出现在荧幕上，更能让你和明星换脸和声音。深伪科技的娱乐成分高，但也经常被不法分子用来为非作歹。
深伪骗案激增 亚太区增加15倍
国际验证服务供应商Sumsub在2023年发布的年度身份欺诈报告中指出，在2022年到2023年间，深伪相关的诈骗案增加约10倍，当中亚太区激增了1530%，而菲律宾、越南、日本是这类案件增幅最高的三个国家。新加坡虽然排名不高，但深伪诈骗案也激增了500%。
其实部分深伪视频是通过已存在的网络数据和模型做出来的。就像拼凑人脸一样，人工智能通过大量信息学习后，会识别不同面部特征然后将它们拼凑在一起。声音模拟则是通过学习所录下声音的频率、厚度和高低等方面来取得逼真效果。
过度分享或提高落入诈骗风险
而他们学习的来源，不少是用户自己放在网上的公开信息，如照片、视频和录音等等。社交媒体过度分享成为网络和个人信息安全隐患，从事数码健康教育的专家表示，不少人可能在不知情的情况下将自己的家人甚至是孩子的信息透露出来。
举个例子，重新设置账号密码的安全问题，一般都是询问一些和个人相关问题，比如你第一个宠物的名字，老师的名字或学校名字等。
除了个人信息泄漏隐患，歹徒也能通过家长在社交媒体分享的照片从中了解他们孩子的行踪。而随着深伪科技越来越进步，这类诈骗手法更加难以辨别，骗徒把从多方收集到的资料，脸孔和声音集合在一起，容易让家长不小心上当。
教授表示如今人们对社交媒体依赖性高，这也带来了相应的隐患。他和团队正在研究一款能够警告用户上传任何信息时所面对的隐患，希望能带来改变。
辨别深伪视频的方法
随着深伪科技越来越普遍，我们该如何自保？教授表示凡是看到视频或图片时不要太快下结论，应该进一步了解和查证。
其实市场上有不少技术能协助确认照片或视频是不是假的。两款在去年推出的应用程序
能在几秒钟内检测上传的是真实的还是由人工智能生成的。公众也可以到防伪科技公司Sumsub推出的For Fake's Sake网站免费上载照片或视频以确认内容的真伪。
而在社交媒体和科技巅峰时代成长的孩童，未来所面对的挑战将更大，家长对下一代的教育越发重要。
家长也需要通过解释什么是深度伪造，如何识别和应对深伪问题，从小灌输孩子正确的观念，以更好适应未来。
