北晚首页

新闻国内

擅自AI换脸或致侵犯肖像权,还有人用于色情视频合成上

2019-05-14 14:31 北京晚报 TF010

随着AI技术发展,视频换脸技术门槛降低,普通人也能制作换脸视频。记者调查发现,这项技术被用于恶搞视频、色情视频合成上,其不良效应也引发了社会的关注和担忧:放任自流,任其“异化”,可能成为侵害他人合法权益和危害社会公共安全的工具。

资料图 新华社

有图未必有真相

AI“画皮”只需2.5元

“你要的样子我都有”“男人瞬间变女人,毫无违和感”“用朋友圈视频就可换脸”……近日,AI换脸视频在不少平台上风靡。记者在某网站搜索“换脸”,出来的视频达千条。

其中,有网友将影视剧中不同演员的脸进行互换;有人将某平台女主播瞬间“变脸”成不同女明星的样貌;还有人则制造“假新闻”,把国外电视节目嘉宾的脸换成国内公众人物的,标题则为国内某某在国外接受采访……

视频中的人物被换脸后,几乎可以“以假乱真”,有网友评论其为“AI画皮”“有图未必有真相”。

在某贴吧里,与AI换脸有关的帖子超过9000条。里面有大量明星换脸视频的售卖信息。一个用户在群里公开售卖换脸色情视频,清单里的数量达150多部,并称“全部只要58元”。在名为“明星论坛”的论坛上,有人贴出了多个换脸视频色情网站网址。记者在淘宝网上搜索“AI换脸”等,出现了不少换脸软件售卖信息。有的还提供换脸视频制作服务,一个淘宝卖家表示可代为制作换脸视频,3分钟以内的价格为300元。记者以2.5元的价格购买了一款换脸软件,根据教程,简单操作就可将视频素材中的人脸进行互换。

擅自换脸“一时爽”

或致侵犯肖像权

“AI换脸技术原理并不复杂,AI将多个视频内的人脸特征自动提取并进行分类,再利用编码技术,对视频中的特定位置编码重构合成等即可。”长期从事影视换脸业务的北京聚力维度科技公司首席技术官赵天奇介绍。“以前,相关制作费用每分钟可达上百万元。随着一些AI技术的开源,换脸制作不仅价格大幅下降,门槛也不断降低。”

中国传媒大学政治与法律学院副院长王四新说:“目前,通过AI技术深度伪造他人的肖像、声音主要用于网络‘恶搞’,但仿真效果已逼近真伪难辨的边界,随着技术发展,结合短视频形态的快速传播,如果使用不当,会产生很强的负面作用。”

近期,《民法典人格权编(草案)》二审稿对此作出规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。其他人格权的许可使用和自然人声音的保护,参照适用有关规定。

“如果正式通过,这意味着除法律另有规定的情况外,如果用他人肖像进行AI换脸等,只要未经本人同意,即便没有营利目的和主观恶意,同样有可能构成侵权。”北京大学法学院副院长薛军说。只要换脸视频和原视频能达到一定相似度,经由第三方能够识别,就可能被认作是侵权,“如将他人的脸与色情视频中人物的脸替换,并进行传播,则涉嫌构成传播淫秽物品罪,需承担相应刑事责任”。

AI换脸“双刃剑”

不能放任自流

“AI换脸技术在影视制作行业有一定的需求。有的演员在电影拍摄完成前去世了,依靠换脸技术就能在荧幕上‘复活’。”赵天奇说,AI换脸可以实现演员不在场拍摄,提升了拍摄效率,极大节省了经费。

但是,有关专家表示,应当保证新技术被正当使用,不能放任自流,任其“异化”,成为侵害他人合法权益和危害社会公共安全的工具。使用者需秉承善意使用原则,避免对新技术的滥用。

“使用者需要自律,让工具能够在合理合法的用途和目的上使用,需要对法律常识和公序良俗有底线意识。”薛军说。

国内某大型短视频应用相关负责人告诉记者,换脸视频在审核上常常隐蔽性较强,除了涉恐或涉黄,比如一般的恶搞视频,只能是事后用户举报后,平台再作处理。王四新认为,平台应完善事前处置机制,加强对违规换脸视频的自动研判与编审,“平台如果明知视频违法违规而不采取措施,继续对他人和社会造成损害,平台也需承担连带责任”。此外,监管部门对于违法侵权视频,要重点关注和监测。

 

 

来源:北京晚报 据新华社

分享到

“来了您呐!”老舍茶馆“AI小二”上岗,吆喝声京味十足

全国首个AI茶馆落地前门 能和操着京腔的“AI小二”聊天

AI换脸APP刷屏,用户极易忽略风险,法律专家:少用

以AI赋能医疗健康 平安好医生携九大黑科技亮相世界人工智能大会

聚焦AI行业:未来图灵联合大众网发布“图灵指数AI明星企业排行榜”

探营北京智源人工智能研究院,全国最牛的AI专家和后备人才都往这儿聚

零距离“触摸”!故宫博物院推出7款数字产品,AI导览“玩转故宫”

科技公司掀起AI技术出海潮 第一站首选新加坡

产业智能化如何加速落地?百度大脑发布三步进阶合作伙伴计划

围绕AI和芯片,百度和华为宣布了一项合作

AI如何提高汽车“双商”?李彦宏和李书福连线演示车机互动

751D老厂房将变身AI场景体验地,打造原创首发平台促进夜间消费

“令人艳羡,不可思议!”,外国驻华使节参访大兴国际机场发出赞叹

罐装地下水变包治百病“能量液” 销售额近5亿元特大网络传销案告破

海南一“黑老大”拉票贿选两次当村委会主任 数罪并罚一审获刑25年

我国陆上最深气田全面投入开发 为冬季天然气供应提供新的气源支撑

大熊猫国家公园陕西省管理局挂牌 囊括秦岭70%以上大熊猫栖息地

进博会意向成交711.3亿美元!超230家企业报名下届进博会