文档章节

人工智能的三大局限性

问题终结者
 问题终结者
发布于 2018/08/13 20:39
字数 1364
阅读 68
收藏 0
导读 老实说,AI绝对有益于网络安全,但AI并非万灵丹,炒作得再多也不是。事实上,与其他任何技术一样,AI也有其局限性。

任何技术都有局限性,AI和人工智能也不例外。其局限有三:检测、功耗和人力。

人工智能的三大局限性人工智能的三大局限性

思科一份最近的调查显示,39%的CISO称其公司依赖自动化推动网络安全工作,另有34%称依赖机器学习,32%报告称高度依赖人工智能(AI)。CISO如此看好AI令人颇为意外,毕竟,除了识别恶意行为,AI在网络安全方面的应用场景似乎也不是很多。

老实说,AI绝对有益于网络安全。随着恶意软件像流感病毒一样不断自我变异,不使用AI几乎不可能发展出恰当的响应策略。银行或信用卡提供商之类的金融机构也可以通过适当训练的AI大幅强化其SIEM系统,提升欺诈检测和预防能力。但AI并非万灵丹,炒作得再多也不是。事实上,与其他任何技术一样,AI也有其局限性。

1. 骗过一次就能畅通无阻:AI可用于欺骗其他AI

这是个大问题。安全人员用AI优化威胁检测的同时,攻击者也在琢磨着用AI规避检测。公司企业用AI以更高的准确率检测攻击,攻击者就用AI来开发更智能、会进化的恶意软件来规避检测。基本上,恶意软件就是用AI来逃过AI检测。恶意软件一旦通过了公司的AI检测关,可以很轻松在公司网络内横向移动而不触发任何警报,公司的AI会将恶意软件的各种探测行为当做统计错误加以排除。而到恶意软件被检出之时,安全防线早已被洞穿,伤害也可能已经造成。

2. 功耗成问题:低功耗设备可能拖不动AI

物联网(IoT)设备通常都是低功耗小数据量的。如果攻击者成功将恶意软件部署到了这一层次,那AI基本就顶不上用了。AI需要大量内存、算力和大数据才可以发挥作用。而IoT设备通常不具备这几个条件,数据必须发送到云进行处理才可以受到AI的响应。而那时,已经太迟。就好像出车祸时车载AI会自动拨打报警电话并报告车辆所处位置,但车祸已经发生的事实改变不了。车辆自动报警可能比等路人帮忙报警要快一点,但仍然无法预防撞车。AI最多有助于在设备完全失控之前检测出有什么不对劲,或者,在最坏的情况下,让你不至于失去整个IoT基础设施。

3. 已知的未知:AI无法分析自己不知道的东西

严格控制的网络上AI运行良好,但现实世界缤纷多彩不受控。AI有四大痛点:影子IT、BYOD项目、SaaS系统、雇员。无论你给AI灌注了多少大数据,都得同时解决这4个痛点,而这是难度大到几乎不可能的任务。总有雇员会通过不安全WiFi网络在个人笔记本电脑上打开公司的Gmail邮件,然后,敏感数据就此流失,AI甚至连知道这一事件的机会都没有。最终,公司自己的应用可以受到AI保护,防止用户误用,但终端用户使用你根本感知不到的设备你是无法防护的。另外,仅提供智能手机App,不提供企业访问控制,更不用说实时日志的云系统,你又怎么引入AI呢?这种情况,企业没有办法成功利用机器学习。

AI确实有所帮助,但它并非游戏规则颠覆者。AI可用于在受控系统中检测恶意软件或攻击者,但难以防止恶意软件被部署在公司系统中,而且除非你确保它能控制你所有终端设备和系统,否则它一点用都没有。网络攻防战一直在继续,只不过,防御者和攻击者都在用与以往不同的武器,而我们的防御只有在恰当部署和管理之下才会有效。

与其将AI当成网络安全救星,不如把精力放在更基本的老问题上:缺乏控制、缺乏监视、缺乏对潜在威胁的理解。只有了解了用户和用户使用的设备,知道用户都会拿这些设备来干什么,然后确保所用系统能切实受到AI的保护,才可以开始部署并训练AI。

原文来自: https://www.linuxprobe.com/ai-boundedness.html

本文转载自: https://www.linuxprobe.com/ai-boundedness.html

问题终结者
粉丝 23
博文 1262
码字总数 214302
作品 0
运维
私信 提问
Facebook自研AI芯片,高通和Intel或遭抛弃

根据外媒消息及新的的职位招聘信息,社交巨头Facebook正在组建一个新的团队设计自主芯片。从发布在Facebook网站上的招聘看,该公司正在招聘一位经理以打造“端到端的SoC/ASIC,固件以及驱动程...

包永刚
2018/04/19
0
0
2017全球人工智能高峰论坛

因楼主不能及时查看报名信息,还望各位参会者能移步至活动家官网进行在线报名 报名地址:https://www.huodongjia.com/event-627247421.html 现在报名立省1000元! 这是一场 来自世界级最强大...

活动家
2017/06/20
64
0
马化腾:云、大数据、AI 不可分割,云是 AI 的强载体

6月21日,腾讯“云+未来”峰会在深圳召开。在数字经济高速发展,人工智能一日千里的时代,云计算、大数据、人工智能为社会和经济带来的量变与质变究竟是什么? 人工智能到底有没有那么可怕?...

凝小紫
2017/06/22
996
8
Facebook微软谷歌“三会”密集举行,背后透露了哪些AI动向

智造观点 近期,Facebook、微软以及谷歌所召开的开发者“三大会”,涵盖公司战略、产品落地、深度学习开源甚至人工智能的隐私伦理,这也成为全球AI发展的一个风向标,那为中国AI企业未来的发...

w26y3t53efqai0mfeqba
2018/05/12
0
0
《深度学习之美》读书笔记章一~二

从这一篇开始进行拆书系列,首先来拆一下这一本《深度学习之美》。看到这本书,是在张老师的朋友圈,那时还在五月份,张老师说新书要出来了,当时就立即预定了一本。下面来拆这一本书。书的前...

wenju_song
2018/07/21
0
0

没有更多内容

加载失败,请刷新页面

加载更多

计算机实现原理专题--二进制减法器(二)

在计算机实现原理专题--二进制减法器(一)中说明了基本原理,现准备说明如何来实现。 首先第一步255-b运算相当于对b进行按位取反,因此可将8个非门组成如下图的形式: 由于每次做减法时,我...

FAT_mt
今天
5
0
好程序员大数据学习路线分享函数+map映射+元祖

好程序员大数据学习路线分享函数+map映射+元祖,大数据各个平台上的语言实现 hadoop 由java实现,2003年至今,三大块:数据处理,数据存储,数据计算 存储: hbase --> 数据成表 处理: hive --> 数...

好程序员官方
今天
7
0
tabel 中含有复选框的列 数据理解

1、el-ui中实现某一列为复选框 实现多选非常简单: 手动添加一个el-table-column,设type属性为selction即可; 2、@selection-change事件:选项发生勾选状态变化时触发该事件 <el-table @sel...

everthing
今天
6
0
【技术分享】TestFlight测试的流程文档

上架基本需求资料 1、苹果开发者账号(如还没账号先申请-苹果开发者账号申请教程) 2、开发好的APP 通过本篇教程,可以学习到ios证书申请和打包ipa上传到appstoreconnect.apple.com进行TestF...

qtb999
今天
10
0
再见 Spring Boot 1.X,Spring Boot 2.X 走向舞台中心

2019年8月6日,Spring 官方在其博客宣布,Spring Boot 1.x 停止维护,Spring Boot 1.x 生命周期正式结束。 其实早在2018年7月30号,Spring 官方就已经在博客进行过预告,Spring Boot 1.X 将维...

Java技术剑
今天
18
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部