如今，以假乱真的AI换脸成为不少诈骗分子的新花招，一些影视明星的形象和声音更成了他们招摇撞骗的工具。在一些短视频平台上，“假靳东”“假董卿”依然在诈骗老年人。据媒体报道，今年5月至7月，上海静安警方赴多省市开展收网行动，打掉一个在短视频平台上开设“明星私人直播间”实施诈骗的幕后团伙，先后抓获王某等犯罪团伙成员8人。
“假靳东”还在和阿姨们谈恋爱
2022年9月，上海市民王先生报案称，他60多岁的母亲王阿姨迷恋靳东，并加入了一个所谓的“明星粉丝团”。王阿姨背着家人通过转账的方式参与了所谓的“应援投资”和“公益项目”，总计损失了20万元。王先生怀疑他的母亲曾受骗。
接报后，警方立即对这起案件进行了立案，并多次上门向王阿姨进行反诈劝阻。然而，王阿姨已经被深度洗脑，坚信那些骗子就是真正的“明星”，拒绝配合警方的调查，并坚称自己有权利向对方支付款项。
近日，警方通过多方努力，查明了在短视频平台上设立“明星私人直播间”，对王阿姨实施诈骗活动的幕后团伙以及他们的人员组织结构。据犯罪嫌疑人王某交代，他在直播中使用的明星照片和视频资料都是网上下载的，互动过程中使用的明星声音也是通过软件修改的变声音频。其他团伙成员主要负责招募和维系“粉丝”，他们把那些被“明星偶像”吸引来的人经过筛选，拉入所谓“明星私人粉丝团”，再由团伙成员加上微信，以“明星”身份与被害人进行情感交流，有时还会寄送一些“小礼物”，比如红酒、香水等作为回报。当被害人放下戒备信以为真后，犯罪团伙就转入传统“杀猪盘”模式，实施定向诈骗。
据诈骗团伙交代，在选择潜在目标时，他们会提前对被害人身份信息及家庭情况展开调查，物色其中的单身大龄女性或老年群体行骗，利用他们缺少“精神寄托”、生活比较空虚的弱点，用关心关爱冲破被害人心防。
目前，犯罪嫌疑人王某等8人因涉嫌诈骗罪已被警方依法采取刑事强制措施，案件正在进一步调查之中。警方已经核实了来自多个省市的5名被骗者，他们大部分都是60多岁的老年人，涉案金额近百万元。
类似事件已不止一次发生。早在2020年10月就曝光过一例“假靳东”的诈骗事件。江西61岁的黄大妈声称要嫁给演员靳东，并表示靳东已在全网向她告白。随即靳东工作室正式回应：靳东目前从未在任何短视频平台开设账号，“靳东”系列账号均非本人，将通过法律途径追究相关主体的法律责任。
明星直播带货竟是AI换脸
“假靳东”们不但骗感情还骗钱。据央视财经报道，如今，以假乱真的AI换脸成为不少诈骗分子的新花招，近期，不少电商直播间就被曝出使用明星AI换脸进行直播。
记者了解到，在网上购买一套AI实时换脸的模型仅需3.5万元。法律人士表示，使用AI换脸技术或合成人声服务时，应有显著标识，以免公众混淆。未经明星同意使用其肖像直播带货，可能涉嫌多项侵权。
业内人士指出，数字人直播是行业的新趋势，但是研发投入较大，因此 AI 换脸成为了数字主播的“平替”。但是这种行为可能涉嫌欺诈和侵权，根据今年 1 月起实施的《互联网信息服务深度合成管理规定》，使用 AI 换脸技术或合成人声服务时，应有显著标识，以免公众混淆。此外，未经明星同意使用其肖像直播带货，可能侵犯了明星的肖像权和隐私权。
被仿冒的名人不只是靳东
“假靳东”事件被曝光后，相关短视频平台发布了打击仿冒名人黑产的处罚公告，封禁了5000+个疑似“靳东”的仿冒账号。但这些账号可谓屡禁不绝，许多带“靳东”“东弟”关键词的账号，迅速改名成“勒东”，但内容却是换汤不换药，背景多是靳东本人照片，文案也大体雷同，以情感互动、情感鸡汤为主，引导关注点赞。还有许多仿冒账号转投其他短视频平台，同样活跃。
除了靳东，其他一些名人明星的假账号也在短视频平台上活跃着，例如：马云、董卿、张嘉译等。这些账号头像都是本人头像，昵称多与情感励志有关，靠着一致的视频风格，涨粉少则上万，多则数十万。
