计世网

攻击者将如何利用人工智能技术来满足己需?
作者:佚名 | 来源:Pconline
2018-05-15
我们说,事物往往都是具有两面性的,一项新技术在造福人类的同时,也很可能被不法分子们利用。正因如此,有越来越多的安全人士开始担忧,人工智能技术的发展会对未来网络安全带来威胁,因为与防御一方相比,攻击一方更容易操控机器学习算法来获得自己想要的“结果”。

 

【PConline 杂谈】我们说,事物往往都是具有两面性的,一项新技术在造福人类的同时,也很可能被不法分子们利用。正因如此,有越来越多的安全人士开始担忧,人工智能技术的发展会对未来网络安全带来威胁,因为与防御一方相比,攻击一方更容易操控机器学习算法来获得自己想要的“结果”。

 

攻击者将如何利用人工智能技术来满足己需?


攻击者将如何利用人工智能技术来满足己需?

 

“百科”一下你会发现,对抗性机器学习(以下简称AML)是一个“机器学习与计算机安全的交叉学科,旨在对垃圾信息过滤、恶意软件监测和生物特征识别等对抗性设置中安全部署机器学习技术。AML希望在对抗性环境中应用机器学习算法后,能够更好地理解这些算法,而所谓对抗性设置,则指的是任何一个让攻击者因为财务动机或其他动机而迫使机器学习算法采取不端行为的设置。

然而,由于机器学习模型的设计和训练过程是为了获得良好的平均表现,而未必考虑过最差表现,所以存在很大的攻击面,因此从安全角度看,往往最易受到攻击。也正因如此,这些系统很容易遭到通用攻击。一般来说,聪明的攻击者可以通过操纵例子攻击训练模型,导致机器学习算法给某些案例添加错误的标签或学会被曲解的模型;也可以通过查找代码漏洞攻击实施过程;或是利用机器学习算法的“黑盒子”特性。下面,我们就不妨与各位来聊一聊,未来攻击者将会如何利用AI获得暴利。

让钓鱼网站躲避安全检测

钓鱼网站凭其超高的伪装技术,肆意的进行网络欺诈,一般用户难以辨认。目前我们已知的是,Google的钓鱼网页分类器就是通过机器学习训练得到的,而攻击者则利用逆向工程技术获得分类器的部分信息,其所生成的新钓鱼网页能100%的避开Google钓鱼网页分类器。

 

 

攻击者通过成功破解谷歌钓鱼网页过滤器(以下简称GPPF)分类模型,可从中获取足够的知识(像分类算法、得分规则和特征等)以进行有效的躲避攻击,通过逆向工程可以获取84.8%的评分规则,其中涵盖了绝大多数的高权重规则。因此,在100个真正的钓鱼网页进行测试后发现,所有钓鱼网页100%都可以轻松的绕过GPPF检测,从现有研究结果来看,现有的客户端分类器很容易受到分类器针对性攻击。

更高级别的鱼叉式钓鱼攻击

我们说,在反安全领域中最有效的网络钓鱼攻击就是鱼叉式网络钓鱼,该种攻击可侵入所有的防御层,很多数据泄露事件都始于鱼叉式网络攻击。而AML另一个更明显的应用是使用智能社会工程中的文本到语音转换、语音识别和自然语言处理类似算法,利用时间递归神经网络教授软件的电子邮件写作风格,从而增强其真实性与可信性。因此,理论上讲网络钓鱼邮件或将变得更加复杂和更具可信性。

 

 

迈克菲实验室在2017年曾预测,攻击者将越来越多地利用机器学习分析大量被盗记录,以识别潜在受害者并构建能够更加有效针对这些目标人群,内容详尽的钓鱼类电子邮件,且在社交平台上测试后发现,为用户量身定做的钓鱼帖子,其点击率是有史以来所报道过大规模钓鱼攻击活动中最高的。

让机器学习引擎失效

一个更简单形式有效的方式是,让用于检测恶意软件的机器学习引擎失效,就像以往攻击者对杀毒引擎所做的一样。众所周知,机器学习模型要从输入数据中进行学习,一旦数据池“中毒”,那么输出也会“中毒”。

创建恶意软件

机器学习可以用来帮助创建恶意软件吗?尽管我们的初衷是用机器学习来检测恶意可执行文件,然而,分析安全情报却发现,机器学习和深度神经网络存在被躲避攻击所迷惑的可能性。如果网络安全企业的AI可以学习识别潜在的恶意软件,那么黑客AI就能够通过观察学习防恶意软件AI做出决策,使用该知识来开发“最小程度被检测出”的恶意软件。

 

 

实际上,恶意软件作者在大多数情况下无法访问恶意软件检测系统所使用机器学习模型的详细结构和参数,因此他们只能执行黑盒攻击,通过构建生成对抗网络算法来生成对抗恶意软件样本,从而绕过基于机器学习的黑盒检测系统。

不可否认,人工智能技术的发展的确为网络安全带来新机遇,然而挑战也随之而。如今,我们正利用AI技术增强自己的防御能力,但与此同时,黑客也在逐渐利用AI漏洞建立对抗样本以躲避攻击。双方在各自的领域进行更多尝试的同时,也将在人工智能领域开始一场新的博弈,至于谁能获得最终胜利,仍需时间来验证。

责任编辑:吴黛