深度解析:AI 能否成为人类重塑网络安全屏障

2020-02-21 22:29 标签: RSA 2017

  伴随人工智能的发展,AI是否可以成为网络安全的技术审核成为大家关注焦点。在这个互联网成熟的时代,网络安全是人与人息息相关,如何正确认识了解网络安全这门课题?
 
  人工智能技术AI已经在一些领域改变了网络安全世界。对于匪夷所思的定位,很多人还无法判断真与否.人作为网络安全决定性的三个层关系中占据重要的作用:试图造成伤害的攻击者,受到伤害的目标群体以及解决问题的防御者。
 
                                          
 
  对于网络安全的衍生:核心点取决于人在于计算机领域和信息互联网领域的高速度发展。没有AI的时代,网络安全问题对于普通用户也是只听过并未接触过的领域。随之高端科技人工智能的出现,对大多数人而言,网络安全依然是遥不可及的科技领域。
 
  这是因为虽然网络安全与人息息相关,但攻击人类的并不是网络本身。攻击者在某个位置的计算机上对另一位置的人发起攻击,这些攻击在另一台计算机上应被防御系统成功阻止,此所谓理想的攻击-防御过程,这阐释了人类在网络安全问题上所扮演的角色,攻击者、受害者和防御者。
 
  不可替代的人类,从某种意义上说,人工智能对网络安全领域的影响与它对其他学科的影响没有什么不同,因为人们常常严重高估了人工智能究竟可以做什么。
 
  与人类不同,人工智能缺乏智慧。它没有创造性,也做不到有智有谋。它通常无法结合当前的环境和过往的记忆,像人脑那样对事件产生综合的理解。在接受VentureBeat采访时,LogicHub首席执行官兼联合创始人KumarSaurabh解释了行业对人类分析师的需求,分析师需要借助工具来进行威胁检测。“几年前,我们做了一个实验,实验中设置了一定数量的数据以供筛选,对于AI来说这点数量轻而易举,但对于人工分析者来说却是相当庞大的数据量”。
 
  “到目前为止,我已经把这些数据提供给了大约40个团队。没有一个团队能够以自动化的方式筛选出潜在威胁。如果我们把它交给更为有经验的分析师呢?”根据Saurabh的说法,情况稍有改善,在一到三个小时内,有25%的安全专家能够将其破解。此外,他们还可以向Saurabh解释他们是如何成功破解的。不过,问题来了。
 
  “显然,这是不切实际的。”Saurabh通过这组实验肯定了AI的必要性。“这就是AI威胁检测的重要之处。我们需要使用机器,并使它们像拥有10年,15年经验的安全分析师一样地聪明才行”。
 
  目前,AI在网络安全方面可以做的仍然非常有限。我们目前的AI离达到熟练的安全专业人员所能做的还有一定距离。Saurabh说:“所有人都有基本的思考能力。我们可以教AI驾驶车辆,但它却不会在人困倦的时候自动煮好咖啡。”
 
  波尔图大学教授RicardoMorla博士对VentureBeat表示,想要了解人与机器是如何协作的,就要了解“认知资源”。认知资源是指人类在不同状况下,根据自身认知能力所产生的相应想法。“随着汽车变得越来越智能,人类最终释放出更多的需求,在天黑时自动打开车灯,在上坡起步时主动控制离合器,在人分神时自动驾驶汽车……”。
 
  但是,他补充说:“我们现在还没有AI可以智能到“给人放假”,让安全管理人员、大型僵尸网络背后的工作人员都回家操作,然后其他所有工作都留给机器”。
 
  相比之下,AI在网络安全领域也有自己更擅长的地方。CalebFenton是SentinelOne的创新主管,该公司专门研究使用AI和机器学习进行端点检测。他认为,人工智能已经能够帮助软件开发者提高效率,更快地开发工具。
 
  人工智能也为威胁检测提供了便利,无论是静态的查看文件,还是动态的程序运行。但工具依然只是工具,是好是坏还是取决于使用他的人。
 
                                             
 
  SteveKommrusch是科罗拉多州立大学的博士研究生,目前专注于机器学习方向,他曾在惠普和超微半导体等公司担任计算机工程师长达28年。他赞同Fenton的主张,“AI可以帮助识别有风险的软件编码样式,以此帮助程序员进行大量安全代码的快速编写。某些任务,比如最初级的bug分类或简单的bug修复,都可能由AI代替人工完成。
 
  因此,在可预见的未来,我们所关心的问题不在于机器是否会在网络安全方面取代人类,而在于它们如何有效地协助安全专业人员的工作,增强工作人员的战斗力。增强与替换的概念渗透在AI所涉及的许多行业,但值得注意的是,在复杂的网络安全领域,AI的增强作用明显更占上风。
 
  Saurabh认为这是劳动专业化的一种体现,人们会花费更多的时间做唯有人类能做的事情。工欲善其事,必先利其器。对于相应的问题,必须选择正确的工具。锤子之于钉子,螺丝刀之于螺丝。然而AI不同,它可以结合多种不同的技术,对需要解决的问题因地制宜。
 
  人类仍然是最薄弱的一环
 
  具有讽刺意味的是,即使人类在网络安全斗争中发挥着关键作用,但他们依然可能成为网络安全的软肋。多么隐蔽的威胁,多么高的防火墙,多少重加密都不是最紧要的,闯入的最简单方法是让掌握钥匙的人来为你开门。
 
  钥匙依然掌握在人的手里,用户可能被欺骗、被操纵,有时是无意识的犯错或是在判断失误的情况下掉入陷阱。当我们无意中打开了一个恶意文件,或者一时疏忽将我们的敏感登录信息、财务信息暴露给了罪犯,那么为时已晚,网络安全维护者的任务将变得极为困难甚至可以说,无法挽回。
 
  不过,好消息还是有的。Fenton对人类是最薄弱的一环这一说法表示赞同,且强调一直以来都是如此。但是他提到,网络安全行业也在迅速发展以保护我们免受侵袭。
 
  Morla介绍到,“我们可能会看到攻击者利用文本、语音和类似智能呼叫中心的AI工具来实现与人类的恶意互动”。值得注意的是,Kommrusch提出了类似的情况。“可悲的是,AI聊天机器人和电话机器人已经在升级且进展迅速。诈骗者用一个设定的AI聊天机器人来接触目标人群,可能仅需20秒到30秒,在受害者上钩之后,电话便会被移交给背后真实的操纵人。也就是说,每天持续打扰你的骚扰电话,AI的身影也闪烁其中。另外,两位研究人员都指出,这种攻击必须非常有说服力才能发挥作用,要足够有欺骗性才能蒙蔽受害者的双眼。
 
  Kommrusch提到,对于一些警惕性高的目标,他们可能会察觉出这种操作中不太“人性化”的地方,但随着自动化技术的发展,被攻击的目标基数及被攻击的频次大大增加。因此,即使AI骗局的成功率很低,但人类仍然需要保持高度的警惕。
 
  Morla提出,防范此类攻击的方法之一就是教提高人类的应对能力。当人们能够自主识别出可疑的电子邮件时,他们打开中毒附件或单击错误链接的可能性就大大降低了。除了教育人类提高应变能力,人们还可以借助工具来维护网络安全。Kommrusch指出,基于AI的自动化安全质量分级器可以更好地保护用户,它可以在用户向手机或笔记本电脑上添加应用程序时自动评估安全风险并发出提示。
 
  在AI出现之前的网络安全时代,也有一些早期的防御方法发挥效果。例如对银行帐户等敏感数据使用多重验证,采用U盾类实体安全产品等。McAfee(美国跨国计算机安全软件公司)则是将AI添加到了其保护中的应用程序,终端用户可以下载该应用程序以获得高质量的AI防御。
 
  AI对抗AI
 
  虽然人类是最薄弱的一环,但攻击的目标不仅仅只是人类。Morla说:“在某些情况下,使用AI实现访问控制机制,其攻击的目标也正是AI”。他列举了一些例子,有些恶意攻击刚开始以人为目标,之后却转为诱导AI将其错误分类,当病毒破坏污染数据集合之后,便能够阻止AI从中充分学习。“因此,尽管人类可能仍然是最薄弱的一环,但将AI引入网络安全却为链条增加了另一个薄弱的环节”。
 
  Fenton提到了一些躲过AI识别的小技巧,例如在图像中更改几个像素以触发机器学习模型。对于分析人员来说,改变后的画面还是能够大致识别出原有图形,但对于AI来说,却完全可能被识别为毫不相干的事物。目前,已经有人将该技术应用于二进制文件,使恶性危险的文件被识别为安全文件从而蒙混过关。这种操作也许有效,但实际上还没有催生出相应的安全威胁,这种攻击目前还只是理论上的。
 
  那么究其原因,为什么网络安全领域的威胁套路没有大范围地“飞跃”呢?因为攻击者并没有足够的动力进行“创新”。Fenton说:“这听起来很奇怪,但是我希望我们很快会开始看到一些新的攻击,因为这恰恰将意味着我们对恶意软件作者施加的压力开始显现了”。换句话说,违法犯罪者缺乏创新,正是表明他们一直以来所做的事情仍然有利可图且足够有利。
 
  最纯粹的动机:金钱
 
  Fenton的评论指出了网络安全常常被忽视的一个方面,攻击者的动机像所有盗贼一样:都是钱。“攻击者通常会想出最低廉,最愚蠢,最无聊的方案来解决问题,因为他们首先考虑的就是成本及收益,他们的目标并不是琢磨出多么机智的手段和高明的骗术,而只是获得钱。Fenton强调这才是了解网络安全世界的关键,因为它有助于证明网络安全的边界其实很有限,攻击者和防御者都有很强的目标导向,对于攻击者来说,金钱是唯一的方向。
 
  他谈到:“一直以来,我对攻击者的实际行为感到非常失望,我曾以为恶意软件是经过精心设计而成的非常巧妙的陷阱。但很多时候,攻击者只是稍作改变,就会依然奏效,然后继续大行其道,这对他们来说是成功的,也是他们真正关心的”。这意味着,只有在其获利减少成本增高的情况下,他们才有可能启用高技术AI来加强攻击。也许是加强现成的攻击方式,从而导致那些便宜又简单的工具会被大量使用。
 
  人类对抗人类
 
  无论是攻击者还是受害者,其终端依然是人。没有一种软件拥有独立意识,将自己变成恶意软件,然后发起攻击。从他人身上谋利以增加自己的砝码,这种资本世界的规则在网络安全领域并无二致。尽管网络攻击是在损害或捕获系统,而不是人本身,但任何目标之所以有利可图,是因为最终还是需要人付出代价。
 
  最后,即使AI增强了网络攻击和网络防御的某些方面,但其关键一役仍然在于人类。工具和媒介可能会发生变化,但其背后总是会站立着一个狼人(攻击者),一个平民(目标者)和一个守卫(防御者),一如往常。译者:林三
 
  

热门文章 最严重的黑客攻击,网络攻击和数据泄露 日本三菱电机称其在华服务器遭黑客攻击 或致泄密 马云的“守护神”,每天拦下20亿次黑客攻击! 防御DDoS攻击的五种方法 5g服务器优势特点详解
行业资讯 Industry Information

关于我们

About Us