北晚首页

新闻国内

擅自AI换脸或致侵犯肖像权,还有人用于色情视频合成上

2019-05-14 14:31 北京晚报 TF010

随着AI技术发展,视频换脸技术门槛降低,普通人也能制作换脸视频。记者调查发现,这项技术被用于恶搞视频、色情视频合成上,其不良效应也引发了社会的关注和担忧:放任自流,任其“异化”,可能成为侵害他人合法权益和危害社会公共安全的工具。

资料图 新华社

有图未必有真相

AI“画皮”只需2.5元

“你要的样子我都有”“男人瞬间变女人,毫无违和感”“用朋友圈视频就可换脸”……近日,AI换脸视频在不少平台上风靡。记者在某网站搜索“换脸”,出来的视频达千条。

其中,有网友将影视剧中不同演员的脸进行互换;有人将某平台女主播瞬间“变脸”成不同女明星的样貌;还有人则制造“假新闻”,把国外电视节目嘉宾的脸换成国内公众人物的,标题则为国内某某在国外接受采访……

视频中的人物被换脸后,几乎可以“以假乱真”,有网友评论其为“AI画皮”“有图未必有真相”。

在某贴吧里,与AI换脸有关的帖子超过9000条。里面有大量明星换脸视频的售卖信息。一个用户在群里公开售卖换脸色情视频,清单里的数量达150多部,并称“全部只要58元”。在名为“明星论坛”的论坛上,有人贴出了多个换脸视频色情网站网址。记者在淘宝网上搜索“AI换脸”等,出现了不少换脸软件售卖信息。有的还提供换脸视频制作服务,一个淘宝卖家表示可代为制作换脸视频,3分钟以内的价格为300元。记者以2.5元的价格购买了一款换脸软件,根据教程,简单操作就可将视频素材中的人脸进行互换。

擅自换脸“一时爽”

或致侵犯肖像权

“AI换脸技术原理并不复杂,AI将多个视频内的人脸特征自动提取并进行分类,再利用编码技术,对视频中的特定位置编码重构合成等即可。”长期从事影视换脸业务的北京聚力维度科技公司首席技术官赵天奇介绍。“以前,相关制作费用每分钟可达上百万元。随着一些AI技术的开源,换脸制作不仅价格大幅下降,门槛也不断降低。”

中国传媒大学政治与法律学院副院长王四新说:“目前,通过AI技术深度伪造他人的肖像、声音主要用于网络‘恶搞’,但仿真效果已逼近真伪难辨的边界,随着技术发展,结合短视频形态的快速传播,如果使用不当,会产生很强的负面作用。”

近期,《民法典人格权编(草案)》二审稿对此作出规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。其他人格权的许可使用和自然人声音的保护,参照适用有关规定。

“如果正式通过,这意味着除法律另有规定的情况外,如果用他人肖像进行AI换脸等,只要未经本人同意,即便没有营利目的和主观恶意,同样有可能构成侵权。”北京大学法学院副院长薛军说。只要换脸视频和原视频能达到一定相似度,经由第三方能够识别,就可能被认作是侵权,“如将他人的脸与色情视频中人物的脸替换,并进行传播,则涉嫌构成传播淫秽物品罪,需承担相应刑事责任”。

AI换脸“双刃剑”

不能放任自流

“AI换脸技术在影视制作行业有一定的需求。有的演员在电影拍摄完成前去世了,依靠换脸技术就能在荧幕上‘复活’。”赵天奇说,AI换脸可以实现演员不在场拍摄,提升了拍摄效率,极大节省了经费。

但是,有关专家表示,应当保证新技术被正当使用,不能放任自流,任其“异化”,成为侵害他人合法权益和危害社会公共安全的工具。使用者需秉承善意使用原则,避免对新技术的滥用。

“使用者需要自律,让工具能够在合理合法的用途和目的上使用,需要对法律常识和公序良俗有底线意识。”薛军说。

国内某大型短视频应用相关负责人告诉记者,换脸视频在审核上常常隐蔽性较强,除了涉恐或涉黄,比如一般的恶搞视频,只能是事后用户举报后,平台再作处理。王四新认为,平台应完善事前处置机制,加强对违规换脸视频的自动研判与编审,“平台如果明知视频违法违规而不采取措施,继续对他人和社会造成损害,平台也需承担连带责任”。此外,监管部门对于违法侵权视频,要重点关注和监测。

 

 

来源:北京晚报 据新华社

分享到

围棋国家队“陪练”有“绝艺”,AI将帮助国手们完成高水平对战

北京中关村硅谷电脑城停业改造近一年 即将变身AI新地标

复学前AI上岗“实习”,清华北体大用上智能测温设备

“Al医生”上岗!中关村多项科技成果海外“战疫”贡献中国力量

抗击疫情 20余款AI系统已服务数十万人次

美国限制AI软件出口,商务部:望纠正错误做法

清华大学:专为高中生打造的AI教材今年9月出版

北京大学AI写作机器人来了,是否会替代人类记者?

苹果信用卡被指责性别歧视,男性额度比女性高!AI算法有黑箱?

“来了您呐!”老舍茶馆“AI小二”上岗,吆喝声京味十足

全国首个AI茶馆落地前门 能和操着京腔的“AI小二”聊天

AI换脸APP刷屏,用户极易忽略风险,法律专家:少用

北京防汛抗旱指挥部令:全市于2020年6月1日8时上汛

上至百岁老人下至孩童,港人齐心签名撑立法

习近平向全国各族少年儿童致以节日的祝贺

宁波为养犬立法:携犬外出必须束犬链,大型犬须戴嘴套

大兴安岭发生森林火灾,2000余人赶赴扑救

辛苦了!吉林市为2000多名外卖骑手免费进行核酸检测