AI视频已能骗过人脸识别!2人突破购物平台核验盗取个人信息

图片来源:界面图库

两名不法分子利用网络收集他人照片,通过AI生成点头、摇头、眨眼等动态视频,再通过篡改相机数据,成功突破了购物平台的人脸核验,盗取了账户内的个人信息。

央视主持人白岩松表示,无论AI怎么发展,都不能以侵害别人的权益为代价,更不能让造假的人占尽便宜。

据潮新闻此前报道,今年9月4日,杭州中院公开开庭审理一起涉“AI换脸”个人信息保护公益诉讼案,并当庭作出一审判决。

法院判处张某、王某公开道歉,并支付公益损害赔偿金5857元,此款将专用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。

随着AI技术的不断发展,AI换脸、音视频合成的技术门槛大幅降低,利用AI生成明星、名人视频进行直播带货,也成为AI技术滥用的重灾区。

近日,演员吴越在微博发文声讨,“一觉醒来,谁在利用AI肆意抓人替自己作恶?这位‘花姐’你骗了多少人的钱?请如数奉还!太恶劣!!! ”

根据吴越贴出的视频,账号为“花姐美肤日记”发布了一段“吴越”的AI视频,开头为“吴越”换脸直播带货,随后配上吴越公开活动时的视频画面,用“吴越”的声音称“这个产品不是他们找我,是我找他们的……效果是真的非常直观”,视频末尾还有疑似“邓亚萍”的带货片段。发布的这段视频中标注有“作者提示:含AI生成内容”。

在此之前,也有多位明星名人反映过类似问题。演员温峥嵘曾自曝刷到AI盗播自己的直播间,上前质问竟被秒拉黑;霍启刚曾在个人社交账号上发文,称自己的形象遭到AI盗用;演员靳东也遭遇AI换脸侵害,他的形象被不法分子仿冒后,专门用于针对中老年群体实施诈骗。

今年9月7日,最高人民法院发布《最高人民法院关于依法审理涉人工智能纠纷案件的意见》(简称《意见》),对利用人工智能侵害肖像权、名誉权、隐私权、声音权益等行为的责任追究作出了明确规范。

发布于:上海市