-
日期: 2025-03-14 | 来源: 凤凰网科技 | 有0人参与评论 | 字体: 小 中 大
某社交平台上“AI换脸服务”帖子下，回复清一色：“视频，照片，随便换”。某二手平台上，用户仅需提供5秒视频和清晰五官照片，支付9.9元即可获得定制化换脸视频，2.9元的低价安装包也让粗糙的换脸工具触手可及。
定制换一张脸成本有多高？答案是——只需要一杯奶茶钱。在各大平台上，换脸服务比比皆是，只需要9块9，就能迅速获得一个真假难辨的换脸内容。
随着AI技术的迅速演进，有关DeepFake（深度伪造）的讨论也愈演愈烈。
相关受害人，从全球知名艺人泰勒·斯威夫特、跨国公司高管、韩国未成年人，再到今年春节因AI配音刷屏的雷军。2024年国庆期间，未经授权的雷军AI语音包和换脸视频在网络上疯传，网友调侃：“十一放了七天假，八天被雷军骂醒。”
不久之前，“雷军称AI换脸拟声成违法重灾区”话题也登上微博热搜第二，相关讨论量达到了1.4万，足以见得DeepFake正成为困扰多数网友的一把利刃。
正如雷军所言：“刚开始我觉得是网友喜闻乐见，拿我开涮我也能接受，但内容比较低劣，多到不得了的时候，就防不胜防，而且网友们也在投诉”。
深度伪造带来的各类风险，该被重视起来了。
震惊一时的香港最大AI诈骗案
震惊一时的中国香港跨国公司诈骗案，曾经描述过如此戏谑的一幕。
跨国工程公司Arup香港分公司的一位员工，有一天突然收到了一封会议邮件，邀请他参加一场由总部高管发起的重要会议。
起初他有些怀疑，但随着他进入会议，看到了一张张熟悉的高管面孔，警惕性也逐渐放了下去。包括该公司CFO在内的多位高管不仅入会了，还都开着视频和麦克风，在发言中他们谈论到了一起秘密收购案件，讨论过后这些高管还给中层布置了任务。
这位员工在会议中未进行任何发言，但对此次会议的真实性已全然接受，散会后，邮件和即时通讯消息就来了。其中的一位领导要求这名员工将2亿港元（约合1.8亿元人民币）分别转入5个账户中。
这名员工就这么照做了，5天后，在与真正总部的沟通中，他发现，自己被骗了。
更为震惊的是，在这场神秘的会议中，这名员工其实是唯一的一名真人，其余所谓的高管，均由犯罪分子根据高管们在公开平台的视频信息通过技术生成，是一个个虚拟数字人，却做到了真假难辨的地步。
这件事发生在一年前。一年时间，对AI行业而言，意味着技术的飞跃已是指数级攀升。
由此引发的犯罪频率也越来越高。
2025年1月，银川某建材公司经理张先生接到“领导”视频电话，要求紧急转账。因AI换脸技术高度逼真，他分两次转出20万元。《法制日报》日前报道，天津李先生被AI合成的“领导”视频诱导转账95万元，警方与银行联动冻结83万元。山西某犯罪分子甚至利用AI换脸通过人脸识别注册虚假公司，虚开增值税发票42余万元。
一面是不断高发的诈骗案例，一面是消费者浅薄的防范意识。
“有没有高手会AI换脸呀？”
凤凰网科技在检索各大平台信息中发现，仍有不少人对换脸技术缺乏风险意识。某社交平台上“AI换脸服务”帖子下，回复清一色：“视频，照片，随便换”。某二手平台上，用户仅需提供5秒视频和清晰五官照片，支付9.9元即可获得定制化换脸视频，2.9元的低价安装包也让粗糙的换脸工具触手可及，而DeepFaceLab等专业开源软件搭配全网传播的教程，更使得技术滥用呈现全民化趋势。这种技术平权背后，暴露出法律监管与犯罪手段之间的严重失衡。- 新闻来源于其它媒体，内容不代表本站立场！
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见