党政办公室
 本站首页 | 部门介绍 | 动态信息 | 重要文件 | 服务指南 | 保密教育 | 学习园地 
 
当前位置: 本站首页>>保密教育>>正文
 
关于人工智能与信息安全的思考
2019-06-25 09:20  

随着社会信息化的飞速发展,一项划时代的技术正在掀起新的技术革命浪潮,那就是人工智能。

自1956年“人工智能”一词第一次出现在达特茅斯会议上,已经过去60多年。在经历了第一阶段的符号主义、第二阶段的数学建模之后,人工智能来到了移动互联网、大数据、超级计算、万物互联为技术基石的信息时代。在算法和计算能力的驱动下,这项曾经只在科幻小说里被人们津津乐道的技术,终于化茧成蝶,第一次真真切切地站在普通大众面前,以阿拉法狗在围棋领域颠覆性的胜利为标志,宣告了信息时代又一次新技术革命的到来。

根据中国电子技术标准化研究院在2018年1月最新发布的《人工智能标准化白皮书》,人工智能被定义为利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。人工智能通常被划分为弱人工智能和强人工智能两类。弱人工智能是能制造出真正地推理和解决问题的智能机器,但这些机器不具备自主意识;而强人工智能则是让这些智能机器拥有思维能力和自主意识。现阶段的人工智能研究主要集中于弱人工智能,并且已经在计算机视觉、语音识别、自然语言处理、大数据应用和决策系统等方面取得重大突破。但是,关于强人工智能的研究仍处于探索阶段。

 

 

人工智能是信息社会的核心技术

当今社会已经进入信息时代。信息社会的主要资源就是信息。这些信息资源及其以大数据、人工智能、云计算和网络通信为主的信息处理技术共同形成信息产业,逐步在经济和社会发展中发挥主导作用。当信息的共享突破时空限制的时候,所有人类高端的生产、生活、学习形态都以信息的获取、存储、处理以及再产生为基本模式。这其中又以信息处理环节为核心。而人工智能技术正是借助算法和计算能力,仿照人脑同时在很多方面超越人脑的信息处理技术,因此人工智能技术将是构成信息社会的核心技术。

鉴于人工智能技术对信息社会的重大推动作用,我国“国家互联网+行动计划”和“十三五”国家科技创新规划均将人工智能作为战略型新兴产业,同时部署了智能制造等国家重点研发计划和专项,对人工智能产业予以大力扶持。在2017年7月国务院发布的《新一代人工智能发展规划》中对人工智能的发展制定了三步走的目标:第一步,到2020年人工智能总体技术和应用与世界先进水平同步,人工智能产业成为新的重要经济增长点;第二步,到2025年人工智能基础理论实现重大突破,人工智能成为带动经济转型的主要动力;第三步,到2030年人工智能理论、技术与应用总体达到世界领先水平,成为世界主要人工智能创新中心。这是国家层面的战略规划,必将得到强有力的推进和实施。

我们正站在又一次技术大变革时代的门口。

工业革命中出现了动力和机器,曾经大量繁重的体力工作被机器所替代,从而大大提高了社会的生产效率。人工智能的出现也将把人们从繁重的脑力劳动中解放出来。人工智能技术是知识和数据双驱动下的产物,随着信息社会中数据的膨胀,人工智能的数据样本趋于丰富,人类的一些规则明确、烦琐单一的脑力劳动直至分析、决策、规划等高端脑力劳动都可以逐步被人工智能所替代。人工智能技术给人类带来的影响,可能远远超过计算机和互联网在过去几十年间给人类世界带来的改变。

 

人工智能的安全问题

人工智能是信息社会的革命性技术,是智能化的信息社会的核心技术,目前正处于爆炸式发展的初期阶段。但是,正如任何一个事物的出现都有其两面性一样,人工智能的加速发展也已经带来一些实际问题,最为突出的就是信息安全问题。

首先,是人工智能应用带来的安全问题

人工智能具有广泛的应用前景,目前已经涉及制造、农业、物流、金融、商务、家居等行业和领域。伴随着人工智能应用的推广,其安全问题越来越凸显出来。

以目前非常热的智能交通领域为例,很多汽车厂家和互联网公司都推出了无人驾驶汽车以及智能交通系统。在智能交通方面,目前在我国深圳,首批无人驾驶的公交车已成功运行,预示着人工智能技术在决策系统应用上有了重大突破。在人工智能控制交通的时代,指挥交通运行的效率可以达到最优,交通事故率理论上可以趋近于零。但是在已有风险消除的同时,新的风险被引入:曾经驾驶员人为的交通事故可能被智能交通系统的信息安全事故所替代。黑客可以从无线渠道侵入智能汽车终端、从有线渠道侵入后台信息控制系统,从而接管无人驾驶汽车甚至智能交通系统的控制权;也可以破坏自动驾驶系统的信息采集和传输途径,进而诱导终端和后台的智能算法作出错误判断。实际上,无人驾驶汽车或者智能交通系统由复杂的自动化机器和信息系统组成,其信息采集、传输、处理各个要素环节都面临安全风险,目前已有黑客通过盗取移动App账号密码进而控制自动驾驶汽车的案例。

人工智能技术应用于其他领域也同样如此。安全问题最突出的包括工业智能制造、智慧城市管理、智慧医疗、智慧家居等和人们社会生产生活密切相关的领域。由于人工智能处于信息社会的核心层面,控制着大量生产、生活设备、数字化资产乃至社会运转规则,一旦黑客入侵后台控制系统,技术系统遭到破坏,将带来与其技术重要性相同的破坏力,严重威胁信息系统安全乃至人身安全和社会安全。

其次,人工智能作为一项信息领域的关键技术,其自身也存在一些安全问题

在信息领域,任何代码、算法、开发框架乃至工程实现的软件系统,毫无例外都会存在一定程度的信息安全问题。代码量越大,系统越复杂,往往暴露出的安全问题越多。人工智能领域的专家往往不具备信息安全专业知识,因此,在这项技术的发展过程中,他们专注于实现机器模拟、延伸和扩展人的智能这些核心目标,安全问题往往被当作次要因素加以忽略。目前,安全届已经暴露出人工智能技术自身存在的一些安全漏洞,包括开发框架稳定性、算法设计缺陷、代码自身漏洞等方面。以代码漏洞为例,根据公开报道,国内外安全技术团队曾发现数十个深度学习的软件漏洞,其类型包括内存访问越界、空指针引用、整数溢出、除零异常等常见类型。人工智能技术自身的安全性和健壮性问题会导致人工智能系统出现错误甚至崩溃,或被攻击者利用进行破坏、侵入乃至劫持系统。随着人工智能应用的推广,其自身的安全问题也越来越引起人们关注。

再次,人工智能暴露出人们的隐私保护问题

人工智能技术的普及大大提升了人们生活的便利,但是,也带来了非常严重的隐私保护问题。人工智能技术本身算法的准确率高度依赖于海量用户数据的训练分析,尤其需要获取大量用户个人信息,以便提供个性化、定制化服务,这些都会导致用户个人信息泄露。谷歌DeepMind公司曾与英国NHS医疗服务机构联合开发了一个名为Streams的基于人工智能的手机应用程序,希望能给患者提供更加个性化的智能服务。但是作为医疗服务机构,NHS并没有向患者明确说明他们的医疗信息将被如何使用,也没有询问患者是否同意DeepMind处理自己的医疗数据。它们之间的数据交易被英国信息专员办公室认定为“没有遵守数据保护法案”。从这个案例可以看出,人工智能技术的普及在为人们生活带来便利的同时,存在非常严重的隐私保护问题。实际上,获得生活便利和保护个人隐私,目前已经成为一个两难选择。交出个人隐私和数据,获得个性化、人性化的全方位技术服务,这是人工智能时代的基本模式。不管是无人驾驶、智能管家、数字助理还是机器人保姆,这些人工智能技术和产品能更好为你服务的前提都是全面收集处理你的各种行为数据。小到兴趣、爱好、行为习惯,大到道德、宗教、政治倾向、人生观价值观,人工智能比你自己还要了解你自己。这样一种生活状态不管是拒绝还是欢迎,都会在未来20年左右的时间来到我们身边。技术上为了保护用户的隐私,在采集数据的时候可以对数据集进行模糊处理,使得收集到的海量数据无法和个体用户相对应。这种信息模糊技术从上个世纪就存在,但是其发展速度远远落后于人工智能技术的发展。目前,我们的隐私和个人数据,在大数据和人工智能这些收集、处理和分析技术面前基本上处于裸奔的状态。

 

人工智能在信息安全领域的应用

人工智能技术在信息安全方面带来的不只是威胁和风险,也对信息安全技术的提升有很大帮助。人工智能在信息安全领域的应用十分广泛,包括生物特征识别、漏洞检测、恶意代码分析等诸多方面。

基于生物特征的身份认证和访问控制是目前人工智能技术应用最成功的信息安全领域。从前制约生物特征识别技术在信息安全领域应用的关键问题是漏报率与误报率达不到实用要求。而利用以深度学习为核心的人工智能技术,科研人员已经将人脸、语音、指纹等等生物特征的识别率大大提升。以人脸识别为例,目前的准确率已经达到99%以上,技术的进步为生物特征识别的应用打下了良好基础。目前,已经有人脸支付等相关产品面世。支付领域的应用涉及社会和金融安全,在人脸识别的漏报、误报和检测准确率这些指标没有大幅提升的前提下是不可想象的。

在信息安全中尤为重要的漏洞检测技术领域,目前还缺乏高效、准确的漏洞分析自动化技术,很多安全威胁和风险需要专业工作人员的经验作深度的分析和最后的判断。人工智能在处理海量数据方面极具优势,通过对样本的训练可以模拟大量的攻击模式,可以基于人类已有经验也可以抛开人类经验进行全新的样本空间学习和探索,这样的技术解决思路将大大提高漏洞检测的全面性、准确性和时效性。

在恶意代码检测领域也是一样。传统的网络安全技术应急响应速度慢,不能适应恶意代码的迭代进化速度。而人工智能拥有强大的自主学习和数据分析能力,能够加速响应的流程,提升自动化和响应效率,缩短从发现到响应的间隔。这就为提前预知危险,及时预警并处理,将危险扼杀在摇篮中提供了可能,进而大大提高网络安全防御的敏捷性。

人工智能将成为推动我国信息社会变革的创新科技。国务院颁发的《新一代人工智能发展规划》 提出 ,“人工智能在教育、医疗、养老、环境保护、城市运行、司法服务等领域广泛应用,将极大提高公共服务精准化水平,全面提升人民生活品质”。但是,这项技术的发展也会产生冲击法律与社会伦理、侵犯个人隐私、引入新的安全风险等问题。

为最大程度降低人工智能带来的安全风险,应从管理和技术两方面采取一系列应对措施。在管理上展开立法研究、标准制定、监管体系建设,加强对人工智能技术和产品的监管。在技术上,推动大数据时代用户隐私和数据保护技术的研究、提高人工智能技术和产品的内生安全性设计水平、对智能产品和技术应用可能带来的威胁风险进行从监测到应急处置等全安全要素的监控,提高风险控制与处置能力。

我们相信唯有正视问题的存在,在发展技术的同时,重视可能存在的安全风险,在政府层面约束规范,进行良性引导,在技术层面最大程度地规避风险,才能确保人工智能技术在我国安全、可靠、可控地发展。

 

(原载于《保密工作》2018年第4期)

上一条:当前保密宣传教育存在的主要问题及对策
下一条:机关单位内部信息外泄案件观察
关闭窗口
 
· 党政办公室党支部召开支部学习会
· 党政办公室党支部开展“好家...
· 党政办公室党支部开展党风廉...
· 党政办公室党支部召开支部学习会
· 党政办公室党支部开展“埋头...
· 党政办公室党支部召开支部学习会

福建广播电视大学-党政办公室
地址:福建福州铜盘路15号    邮编:350003