“张文宏”深夜带货,女孩照片被熟人“换脸”
本报记者 朱高祥
张文宏开始直播带货了?
近日,不少网友发文称,短视频平台上,疑似知名医生张文宏正在售卖一种蛋白棒,家中老人信以为真而大量下单。但仔细辨认可以发现,带货视频为AI合成。张文宏本人回应称,这些假的AI合成信息就像蝗灾一样,一次又一次发生,像漫天飞过来的蝗虫一样害人。
不仅是张文宏,网络上的“AI名人”已成泛滥趋势:“假靳东”迷倒一众大妈、“假雷军”辣评世间百态、“假拜登”宣布第三次世界大战开始、“假马克龙”直播回答“政府聘用灭霸”……
而更早之前的韩国Deepfake(深度伪造)性犯罪事件,不仅让韩国全体女性陷入“换脸恐慌”,更是引发全球关注,大众担心一种更广泛的、充满敌意的网络环境开始渗入真实世界。
人工智能方兴未艾,公众该如何面对新一代的“施虐者”?
女孩照片被盗成色情视频
群组内容不堪入目
河北保定女孩欣欣(化名)从未想过Deepfake会发生在自己身上。
今年7月9日,正在刷抖音的欣欣突然收到了一条私信,被网友告知有自称其男友的人在外网盗用她的照片后进行AI换脸并传播。
“我听到这个消息之后有些震惊且不敢相信,但真的看到这些照片后,我感到无比愤怒。”欣欣告诉记者,对方不仅制作大量AI换脸的不良照片与视频,还随意泄露了自己的个人信息,包括网名、真名、年纪、学校、专业等等。
欣欣随后通过多个途径进行了查证,这些照片和视频均是对方从自己的小红书搬运,经加工处理,制作出不堪入目的色情影像。欣欣第一时间选择报警并咨询律师,开始固定更多证据。
“当天晚上8点多,我报警备案,当时我没有排除熟人或者陌生人的各种可能性。后续我经过各种账号套话,得知对方了解我的家属关系等更隐私的信息,我就逐步缩小了嫌疑人范围,心中也有了怀疑的对象。”欣欣随后发布了一条仅对方可见的朋友圈,且把内容做了特殊标记,很快这条内容出现在外网。
欣欣把这条直接证据交给了警方,不久后警方给出处理结果:对方因传播淫秽物品,被处以行政拘留十日。
“没想到Deepfake离自己如此之近,更没想到施害者就是身边的熟人。”欣欣说,在处理这件事情的过程中,她了解到身边有很多女孩子在遭受类似的事件,甚至更严重。她们被泄露个人隐私、被造谣、被AI换脸、被性骚扰等等。
欣欣告诉记者,因为这段经历,短暂接触过几个软件,上面有成百上千的群组,群组里多的有上万人,里面内容不堪入目,充斥着各种女生的AI换脸照片与视频,以及污蔑、诋毁、造谣的话,恶心程度超出想象。
“由于造谣成本低,他们甚至不需要完整图片,只需要一张脸部图片就能完成所有,而且很难被抓到,这使得他们更加肆意妄为。”欣欣说。
普通人难识别深度伪造内容
专家:请勇敢举报
正如欣欣所言,发生在身边的Deepfake犯罪事件并非个案。
由英文“deep machine learning”(深度机器学习)和“fake photo”(假照片)组合而成的Deepfake(深度伪造),能基于人类行为特征如面部、声音等合成图像、视频、音频。当前这一技术,正被滥用成为针对妇女暴力、诈骗犯罪的新前沿。
据新华社报道,韩国教育部9月9日说,韩国今年已发生400多起涉及中小学生的相关案件,受害者累计超过600人。
与此同时,韩国用户使用的社交媒体Telegram上,被发现存在多个传播和分享该类型色情内容的群聊,其中已知最大的一个聊天室成员超过22万人。这类性犯罪事件的受害者人数尚难以统计。已知的被波及群体,包括女学生、女教师等,其中包含大量未成年人。
近段时间,在一些国内的短视频平台上,除了“AI名人”,“AI接吻视频”也十分流行。有博主宣称只需要下载一个软件,花费9.9元就可以完成。看着两个毫无关系的照片人物“活生生”亲吻拥抱在一起,不少网友直呼可怕。
融力天闻律师事务所高级合伙人刘赤军律师告诉记者,Deepfake之于视频,就像Photoshop之于图片,两者都直观冲击了真实和虚拟之间的界限。但Deepfake能够实现以极低的成本,制作出完全虚构又极其逼真的视频。
奇安信行业安全研究中心主任裴智勇表示,深度伪造,一般是指利用人工智能技术,生成高度逼真的视频、音频、图片、文案等内容。这些内容多被用于网络欺诈、制造谣言、扰乱公共秩序和生成各类色情内容。这些伪造内容大多使用了人工智能技术中的深度计算技术,识别难度很大。
“让普通人用肉眼或耳朵来识别深度伪造的视频、音频内容是不现实的,因为深度伪造本身就意味着难以识别,没有经过专业训练的普通人很难从技术角度识破深度伪造内容。”裴智勇说。
在他看来,虽然想要阻止人们使用AI生成伪造视频或图片不现实,但这并不意味着对恶意造假者无计可施:“国内对于网络色情视频和图片都有非常成熟的治理方法,即便不能用技术鉴别真伪,也可以从平台一侧阻止色情内容的传播,定位色情内容的传播源头并实施打击。”
裴智勇提醒,在自拍、短视频盛行的时代,当公众遇到有人使用伪造视频、音频等内容对财产侵害、名誉损害时,最好的办法还是及时报警或向平台进行举报,减少深度伪造内容带来的影响。
发表评论