-
日期: 2025-05-06 | 来源: 字母榜 | 有0人参与评论 | 字体: 小 中 大
图源：AI生成
传统电诈中，诈骗分子集中围猎“一老一少”的情况比较常见，面对完全可以以假乱真的AI诈骗，年轻人也和老年人一样没有招架之力。
利用换脸和换声技术，AI 化身“虚拟恋人”，用精心设计的话术和人设，把受害人迷得晕头转向，最后露出“骗钱”的真面目，类似网络交友诈骗案例屡见不鲜。
据《中国青年报》报道，2023年，宝妈王枚（化名）在境外求学期间通过社交平台结识伪装成房东的男性网友，对方利用AI换脸换声技术获取其信任并发展恋爱关系。随后以投资加密货币为名诱骗其小额试水获利，逐步诱导加大投入，致使王枚抵押房产、网贷累计损失约200万元，最终提现受阻发现被骗。
从名人到普罗大众，AI 诈骗正无孔不入。
03
AI黑产已成产业链
AI 骗局在现实中肆意横行，而在这背后，一个庞大且复杂的 AI 黑产产业链正悄然成型。
在电影《孤注一掷》中，大型诈骗集团由成百上千名诈骗分子组成，集团内部分工明确。如今，AI技术普及让诈骗门槛大幅降低，一两名诈骗分子就可以展开个人作案，AI技术承担了从目标筛选到身份伪装的一系列工作。
几年前“假靳东”进行情感诈骗时还需要有真人来扮演，可现在AI生成的虚拟人物不仅更逼真，而且还更懂老年人的需求。
事实上，AI黑产由来已久。
早在2017年，一个名为“deepfakes”的 Reddit 用户在社交网站上发布了斯嘉丽.约翰逊等女演员的换脸视频，使得“Deepfake”成为了 “AI 换脸”的代名词。
模型公布后引发轰动。网络上随即开始出现大量使用Deepfake合成的色情视频，其中不少视频女主角的人脸被替换为斯嘉丽·约翰逊、盖尔·加朵等大牌女星。
这给女星们造成了极其恶劣的负面影响，最终在粉丝的谴责中，视频被删除，相关论坛也被封禁。
但由于相关技术的源代码都免费开放，很快，一系列AI换脸软件在国内风生水起，包括ZAO、去演、颜技和AI换脸等。
在号称“仅需一张照片，出演天下好戏”的ZAO，只需一张正面照，就能生成十分真实且灵动的最长可达一分钟的视频，吸引了大量用户关注。但很快，ZAO的霸王条款和隐私泄露等问题遭到人们质疑，其发行公司陌陌也随即遭到工信部约谈。
虽然AI换脸、AI脱衣以及AI语音和视频这些技术早已有之，但随着ChatGPT的火热，这些技术再次回到大家的视野，甚至变得更加逼真，更加低门槛。
更让人担忧的是，AI诈骗已经形成了“生成-传播-洗钱”的完整产业链。
上游技术提供者通过暗网兜售“AI换脸套餐”，价格从几百元到数万元不等。中游推广者则利用非法获取的个人信息库，通过短信、社交软件精准投放诈骗信息。下游洗钱者则通过虚拟货币、跑分平台等渠道转移资金。
除此以外，AI诈骗也在越来越普遍。
在一起山东警方破获的AI诈骗案中。受骗人在收到冒充他的亲戚的信息后，还收到了他打来的视频，尽管在7秒的视频中连线有些许卡顿，但是声音和样貌都让受骗人确认了对方的身份，进而向对方账户转账。
近一段时间以来，这种案例屡见不鲜。福州某科技公司法定代表人郭先生，也因为AI伪造的微信视频，在短短十分钟内，就被骗了430万。
AI的进化史，也是一块人性的试金石。当“赛博学生”以公益之名掠夺教育资源，当“虚拟恋人”以温情为饵榨干受害者积蓄，技术的双刃性从未如此锋利。- 新闻来源于其它媒体，内容不代表本站立场！
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见