首 页 A 重点报道 B 周刊集群 C 本地新闻 品牌活动 电子版
热门搜索关键字: 读我网 鲁商集团 鲁网
读我网 > 新闻 > 财经新闻 > 正文

被念歪的“AI换脸”科技经

2019-8-2 10:54:53 来源:山东商报

     “AI换脸女星,懂的私我。”“AI换脸技术,19.9元出售全套教程。”在百度贴吧、闲鱼等平台,类似宣传话语十分常见。随着“AI换脸”技术越发成熟,其门槛也越来越低,将淫秽视频主角“换脸”女星,已经成为了一种牟利的手段。


  记者发现,在闲鱼上44部淫秽视频打包售卖的价格为30元,涉及多名女星。此外,除了售卖视频之外,部分卖家还会售卖“AI换脸”的教程以及定制视频等服务。记者 丁一凡

 

有商家声称,除成品色情视频外,还可私人定制(手机界面截图)
 



  “定制女星”色情视频泛滥


  在百度贴吧、闲鱼等平台搜索关键字“换脸”,会出现多条“定制女星”“包教包会”等信息。此外,贴吧的发帖者以及闲鱼卖家在用词上都十分隐晦,如“换脸PS,合成美图,没错这就是你想要的,懂的人私聊我。


  “不要在闲鱼上拍,直接加我QQ。”闲鱼上的一名卖家告诉记者,因为平台有人查,所以不能在闲鱼上交易,添加QQ后可详谈。记者添加这名卖家QQ之后,他发来了详细的价格以及换脸视频的样本。


  “44部小短片,总量7个G。全部打包售卖只要30元,加我微信,转账后保存转账记录并截图,然后发QQ 给我,我用QQ传文件或是坚果云给你发货。”这名卖家告诉记者,他的这些视频都是最新更新的,而且换脸效果很清晰。


  除了闲鱼之外,记者还添加了在百度贴吧发帖的李明(化名),他与之前在闲鱼的卖家一样,也在网络上售卖女星换脸视频。“我这边有700多部,只要100元。”李明告诉记者,他这边价格贵除了因为视频多之外,其视频的制作效果比其他售卖的人要好。


  “我们一般根据视频长度、制作效果之类的标准来定价格。”李明称,有的制作效果差的视频可能会便宜些只要5-10元,制作效果好并且时间长的视频大约1部就要卖到20-30元。



  除了成品还可“教学”“定制”


  除了百度贴吧以及闲鱼,在淘宝上同样有许多有关“AI换脸”的信息。记者发现,在一家“AI换脸deeofake 软件定制视频”的店铺中就售卖换脸女星的淫秽视频。


  “我们有成品视频,需要的添加微信或QQ,你懂得。”在淘宝旺旺上,这名卖家同样语言非常隐晦,提出需要成品视频的话需要添加微信或者是QQ。值得注意的是,这家店铺除了提供视频之外,还提供教学以及定制视频的服务。


  “我们一套教程的价格是19.9元,都是视频教程,很容易就能学会。”这名卖家告诉记者,一般初学者使用这套19.9元的教程就可以入门,学会之后他们还能提供进阶教程。


  除了教学,该店铺还提供“定制”服务。“定制先加微信,先款后做,50元1分钟,时间长的可以优惠。”这名卖家告诉记者,定制视频需要买家提供视频载体以及需要换脸的照片,并且照片越多做出来的效果就越清晰。


  此外,这名卖家在淘宝不止一家店铺,记者发现有多家店铺的卖家都是同一人,并且所售卖的东西以及提供的服务都相同。另外,卖家还在店铺内发有声明,他们家的视频定制换脸涉及到视频任何责任问题以及肖像权问题与本店无关。



  涉嫌侵犯肖像权


  一套人工智能算法,数十张正常的生活照,就能将一名女性的脸“移花接木”到淫秽视频中的女主角身上。据悉,这种换脸技术最早在电影、电视剧的范围内被广泛运用,但随着技术门槛的降低,技术反而成了非法牟利的工具。


  人工智能作为近年来的热点话题,也被社会各界视为下一个互联网风口。有专家表示,如果抛去道德色彩,正如其他高新技术一样,“AI 换脸”同样具有两面性,在一些公共安全领域、刑事侦缉领域、可能会发挥自己独特的作用。可一旦这样的技术不受控制,不受监管,甚至被有心人利用,就有可能造成极大的安全隐患。


  根据《刑法》第三百六十三条规定,以牟利为目的,制作、复制、出版、贩卖、传播淫秽物品的,处以三年以下有期徒刑、拘役或管制,并处罚金;情节严重的,处十年以上有期徒刑或无期徒刑,并处罚金没收财产。


  年初时,一部将女星杨幂的脸替换至《射雕英雄传》中朱茵所扮演角色的视频在哔哩哔哩平台上引发了热议。有律师表示,尽管视频并未涉及色情,但未经杨幂以及朱茵的许可,哪怕没有利用视频营利,同样涉嫌侵犯肖像权。


  另外,据公开媒体报道,网络安全专家吴沈括曾表示,《网络安全法》确立了网络产品和服务的安全可控原则,将他人肖像用于制作淫秽视频或者利用网络技术“作恶”,是对他人合法权益的侵害。



  警惕技术滥用风险


  AI技术除了制作淫秽视频,也被许多不法分子利用从而实施诈骗、敲诈、勒索等犯罪行为。


  近日,2019防范治理电信网络诈骗论坛在中国互联网大会期间举行。论坛内容显示,机器学习、人工智能、大数据等热点技术已被犯罪分子利用实施诈骗,如上游黑产利用机器学习、人工智能突破互联网企业的验证码体系,或是利用人工智能技术恶意注册、获取号码资源,提供给犯罪分子实施诈骗。


  中国传媒大学政法学院法律系副主任郑宁表示,技术一直以来都是双刃剑,我们在享受技术带来便利、新奇的同时,也会面临技术被滥用从而造成的风险。“视频通话的可信度明显高于语言和电话,但利用AI换脸,骗子可以伪装成任何人。”郑宁说。


  “AI技术可以被用于诈骗,也可以被用于反诈骗。”郑宁表示,利用技术的方式不同,带来的影响也不同。因此,在面对一项技术时,不仅要关注技术的本身,更要关注技术的用途,将技术用于提高生活质量。