随着人脸识别、自动驾驶等基于AI技术的应用逐渐落地,我们的日常生活便与AI技术如影随形。在安全领域,一方面,AI技术正被逐渐地应用在异常检测、身份管理、安全运维等领域中,助力网络安全创新;另一方面,信息泄露、人脸识别系统被攻击等网络安全问题也接踵而至,AI也让网络安全问题成为隐忧。

2021年9月25日,百度技术沙龙第94期成功落地北京,7位来自百度安全的资深技术专家与业内知名学者齐聚一堂,围绕AI系统的安全风险与防御、应用AI技术解决安全问题两方面与到场开发者进行了一场高能对谈。

人脸识别系统被攻击,安全风险如何应对

在人脸识别技术兴起以后,不仅人脸信息被滥用的问题经常被社会诟病,人脸识别系统被攻击的事件也时有发生。在活动现场,百度安全部主任架构师包沉浮从公众最关心的问题引入,针对对抗样本、深度伪造、篡改底层设备等几种常见的攻击方式给出了应对方案。

他表示,对抗样本攻击可以通过对抗训练、噪声过滤以及攻击检测等防御方式进行应对。其中,对抗训练即是在每次训练时,针对当前模型生成一系列对抗样本,再把对抗样本加到输入中继续迭代,以此生成的模型会更有防御效果。此外,还可以从根本上对模型结构做优化,百度研发的AI模型安全工具AdvBox,便能够测试模型攻击并对模型鲁棒性进行评估。

除此以外,深度学习伪造技术使得人脸识别AI模型难以分辨真伪,让电信诈骗、信息泄露等事件频发,为我们的日常生活带来了极大的安全隐患。回归到技术手段上,我们该如何识别深度伪造技术呢?可将检测技术大致分为两类:一类是基于单张图片,通过视频抽帧提取数据,进而训练图像做二分类,或者通过抽取图像特征做二分类;另一类是基于多张图片的检测技术,比如利用3D_CNN、RNN提取帧间特征,对人脸序列进行分类和回归。

包沉浮提到,近期还出现了一类新型的人脸攻击方法,它直接在手机底层做篡改,让设备读取指定文件进而绕过人脸识别。此类攻击方式的应对方案则需要从设备、行为、算法三个层面综合思考:在设备层面,需要从系统库、特殊文件、APP完整性、运行环境、网络环境等维度识别设备是否具有风险;在行为层面,可以通过探测触摸面积、屏幕点击力度、滑动等方面进行判别;在算法层面,则可利用AI鲁棒性测试、人脸算法深伪在线识别服务进行识别。

高级威胁对网络安全的挑战及应对措施

2010年,震网行动通过网络攻击摧毁了伊朗浓缩铀工厂五分之一的离心机;2021年5月7日,全美最大的油气输送管道运营商遭定向攻击..……透过这些事件,可以感知高级威胁对网络安全造成的巨大挑战。

那么,该如何应用AI技术来解决安全问题?百度研究院IDL资深研究员朱欤与百度云安全技术总监杜悦艺为到场开发者提供了一些可行性的建议。

因高级威胁有着隐蔽性强、持续性强、攻击手段多样化的特点,要求网络安全需要具备全面感知、持续监控、发现未知威胁以及发现可疑行为的能力。但传统安全检测方式在应对高级威胁时往往会面临重重难点:对未知攻击及0day攻击难以有效应对,并且规则过于僵化,黑客对攻击语句做编码、拼接、混淆等处理后,很容易绕过防护;其次,太严格的规则容易误杀正常业务流量,造成误判,太松散的规则容易被绕过,造成漏判。

杜悦艺认为传统的安全防护比较“理性”,深度学习则比较“感性”,大家各有擅长的领域,而深度学习相比则更适合解决“看起来像”的问题。利用深度学习技术可以发现 “看起来像”未知威胁或潜在的攻击者,而这也要求处置方式上可以更灵活,能够精细到人的阻断、限频、降速、标记追踪、重定向、诱捕反制等。他表示:“我们希望建立更智能的一体化系统,必须打破传统的产品壁垒,能够有机的整合各个位置不同层面的能力,再通过AI赋能,从而建立包括感知、行动、记忆、思考和神经反射等整体结合的系统。以“AI+数据”为核心驱动,形成全感知、自适应、自进化的系统,从而可以智能的进行安全运营。”

在自动攻防领域,来自清华大学网络研究院的张超副教授也给出了解决方案,他强调“攻与防是密不可分的,做攻击是为了更好地防御。”现在恶意代码的生命周期越来越短,变化手段越来越多,以前的杀毒软件是基于指纹的方式来查恶意代码,在当前环境下很容易被绕过去,利用自动漏洞工具可以自动做监测系统,它可以模拟攻击者干坏事,收集到指纹后便可提前布局做入侵检测。

在后半段的分享中,朱欤还就“深度学习的应用”展开了详细介绍。提及为什么需要深度学习算法,他认为深度学习算法在表征学习、序列行为建模以及数据和模型融合等方面有非常突出的优势。除此以外,还介绍了几种主流的深度学习算法,如MLP(多层感知机)、CNN(卷积神经网络)、RNN(递归神经网络)、Transformer以及Hybrid Networks如何应用到UEBA问题中。朱博士认为Transformer是目前比较先进的技术,其用于UEBA的最大优势是可以更好的建模序列关系。

这场技术思辨结束后,百度技术沙龙北京站也正式落下了帷幕。百度技术沙龙作为老牌技术沙龙活动,由百度技术管理部组织举办,每月一期,旨在为开发者提供一个技术交流的平台。在与开发者携手共进的这十余年间,百度与开发者守望成长。技术在变、行业在变,开发者的极客精神却始终未变。相信在大家的支持与见证之下,百度技术沙龙将持续为开发者带来更多惊喜!

来源：网络