返回 登录
1

当AI联姻安全

在《终结者》系列中,为了关闭“天网”这个意识觉醒的人工智能系统,人类付出了惨重的代价,同样,在《黑客帝国》中,为了躲避“Matrix”这个人工智能系统的追杀,人类不得不隐居于终日不见天光的深层地下。这些虽然都是在电影场景中虚幻的情景,但也从另一个侧面反应了对于人工智能给人类带来安全威胁的担心。

图片描述

但反过来想,如果我们可以将人工智能用于我们的安全防护,那么,是不是可以将能够威胁人类的安全事件扼杀与萌芽之中?是不是就可以在安全上得到事半功倍的效果?老孙认为,答案应该是肯定的。

AI与安全结合的两个障碍

然而,虽然AI特别是深度学习给所有领域带来了前所未有的机遇,但是在安全领域中应用AI还是存在两大障碍,这就是样本和精度

样本

腾讯云专家工程师成杰峰博士表示,2016年,AlphaGo打败了人们普遍认为需要十年左右时间才能战胜的人类围棋的世界冠军,从而使得已经诞生了很久的深度学习、机器学习一举名动天下。但实际上,无论是深度学习还是机器学习,无论是微软深层神经网络ImagNet还是Google 神经机器翻译系统GNMT,都需要经过非常海量的样本训练,然后得到机器学习的模型,最终通过这个模型来达到出色的效果。

但这个想法绝非像描述的那样简单。实际上,机器学习的本质就是用样本教会机器识别,预测样本对应的标签,而深度模型可以看成是从样本到标签的非线性函数的映射,它是由神经网络的每一层参数和层数决定的,如果每一层有几百个参数,那么,十层网络所对应的网络就是100的10次方,所以参数的空间范围相当大,设置好这些参数就可以让这个模型得到非常高精度的预测。而如此海量的参数,需要非常巨大的样本,才可以把这些映射设置好,从而达到良好的效果。对于图像识别和围棋而言,这些大量的样本天然普遍存在,互联网上海量的图片和围棋对局比比皆是。但遗憾的是,对于安全领域来说,这样的样本根本不存在。这是由于,第一,安全的样本是来源于事后,所有攻击只有发生以后我们才能得到它的手法,才能抽取它的样本。其次,安全领域工作是动态平衡的,我们首先要设计相应的协议,相应的规则,防止攻击,然后根据新的攻击方法和策略,再设置新的协议和规则,这个过程循环往复,永不停息。而这样的过程,自然会导致样本很快失效。

因此,AI在安全领域的发力点,不在于未然,而在于始发,即在恶意攻击刚发生的时候就识别出来,这才是安全AI的重点。成杰峰表示,目前,在安全领域有三类机器识别的任务:推荐任务,反垃圾消息,异常识别。这些事实说明AI虽然神通广大,但在安全领域的成熟应用,还需要一个艰难长期的过程。

精度

AI在安全领域应用遇到的第二个问题是精度问题,成杰峰表示,全网的恶意流量90%来自于中国的IP,这些恶意流量当中,有80%包括了游戏,社交,版权内容,而这些攻击绝大多数都是通过恶意账号来完成的。因此,恶意账号是网络安全万恶之源,安全领域的一些其他的业务,比如羊毛恶意注册,垃圾消息,网络安全方面的DDoS攻击,都与恶意账号紧密相关。如果可以找到足够多的恶意账号,安全的战斗就成功了一半。

然而,在识别批量恶意账号的过程,却需要足够的精度,因为,误杀或漏判都会产生较高代价,所以对算法的门槛很高,精度通常在99%以上。而要实现这样的精确的算法,首先涉及到的就是图计算,图计算因为变现的是图数据之间的彼此互联,依赖性强,而传统的大数据处理框架,如MapReduce和Spark等主流大数据平台在处理文本当中单词的排序,计数这类任务时非常高效,但对图算法并不适合。所以,图计算平台就成为了图挖掘和相关机器学习算法的新方法。图计算最方便的地方,就是用户只需编写一个顶点程序,用来表达处理的逻辑,系统和平台会自动把这个算法变成可扩展的并行的处理,但由于所需处理数据的数据结构的文件就达到了TB级,因此,需要非常强大的大数据引擎才能胜任这样的任务。举例说明,如果违规的图片在10万张图片当中只有5张,那么,要得到其深度学习的模型的足够的样本量,通常需要10万甚至上百万以上的样本才可以把这个模型训练好,因此,如果没有一个足够强大的AI安全引擎,实现99%的高精度识别就绝无可能。

腾讯云助力AI与安全融合

针对AI在安全领域遇到的难点,腾讯云基于海量数据、海量业务积累下来的AI安全能力,在第三届中国互联网安全领袖峰会(CSS 2017)上正式公开了腾讯云在云安全领域的AI战略布局,将腾讯云AI能力在安全场景下对外开放,并发布了包含AI安全能力矩阵与产品矩阵以及全流程数据安全保护方案数盾,此外,腾讯云还联合多家企业共同成立DDoS防护联盟,联手对抗DDoS威胁。

腾讯云发布的AI安全能力矩阵图,以大数据、机器学习、图计算、知识库等当前热门AI技术为核心,驱动社交图谱分析、图像自动识别、知识表达推理、自然语言处理4大能力组合,形成智能身份鉴定、威胁情报分析、异常流量检测、网络攻击溯源、人机行为识别、恶意图片识别、垃圾文本检测等7项技术应用。

图片描述

腾讯云将上述AI安全能力与不同场景结合,便诞生了对应的AI安全产品矩阵。目前,腾讯云上应用到AI能力的安全产品已经涵盖业务安全(天御)、主机安全(云镜)、数据安全(数盾)、移动安全(乐固)、账号安全(祝融)、网站与流量安全、内容安全、风控安全等8项安全解决方案,实现由技术能力到场景应用的闭环贯通。

图片描述

除了依托人工智能与大数据等前沿技术,生态合作也是腾讯云智慧安全的一贯思路。在大禹BGP高防的基础上,为了更好地助力行业应对DDoS威胁,本次大会腾讯云还宣布联合与会的辽宁途隆、唯一网络、睿伟网络、帝恩思共同成立DDoS防护联盟,未来将在DDoS大数据及态势感知、协同防护、黑产打击方面进行深度合作,联手对抗DDoS,共建安全的网络空间。

AI与安全联姻,刻不容缓

图片描述

正如腾讯云副总裁、腾讯社交网络与腾讯云安全负责人黎巍强调的那样:“在黑客将AI能力作为攻击利器之前,安全需要以AI打造出坚盾。”,因此,对于安全从业人员来说,想要避免类似“天网”和“Matrix”的悲剧发生,让安全系统能够如《黑客帝国》中的主角尼奥一般拥有超越数字世界的能力,AI与安全联姻,刻不容缓!

评论