在All in AI的口号中，人工智能俨然已经成为当代社会最受瞩目的技术，各行各业都在积极的拥抱智能，随着各类智能应用功能的不断落地，甚至在信息安全行业中，人工智能应用也能独占一头，尽管如此，AI的蓬勃发展也为信息安全带来巨大的挑战，越来越多的安全隐患开始浮出水面。由于人工智能的思想、方法和理论都在信息安全领域中得到了大面积运用，且无论如何都绕不开信息采集、存储、分析和传播环节，其中自然存在大量的安全漏洞，因此，人工智能应用的安全问题成为业界中避无可避的棘手事件。
五大属性探究安全源头
无论是传统互联网还是新一代物联网、云计算抑或是大数据还是人工智能，信息安全的目标就从未改变。中国科学院院士、中国人民解放军技术安全研究所研究员郑建华表示，要实现信息安全，就必须将“保密性”、“完整性”、“可用性”、“可控性”和“不可抵赖性”这五个基本属性有机结合起来，确保对信息的使用和处理经过所所有权人的授权，严格按照所有权人的要求，真实、顺畅、合理的进行。而这一切的前提是，必须经过所有权人授权，对信息的使用要求是真实的，不经过篡改或者伪造，且在使用过程中不让信息系统瘫痪，能够正常使用并对信息进行有效管控，避免有害信息。
从信息采集、传输、存储和管理以及处理和使用的过程中，能够很直观的知晓其中的安全隐患。包括信息采集的控制、传输过程的保密、信息存储和管理的真实可靠等，都是需要避免的可能存在的安全隐患，而这些要求在云计算和云存储中也是如此。
从技术体系剖析人工智能信息安全
有了云计算和大数据做支撑，人工智能来到了发展的红利时期。与此同时，数据信息本身的安全考虑也贯穿到了人工智能应用的整个过程。从技术层面上分析，人工智能大致可以分为以下几层：
1. 感知层：各类传感器采集信息的过程，要求程序员设定采集范围和要求，保证信息采集的真实性和可靠性;
2. 传输层：采集过程进行处理，反作用，靠的是基础网络，涉及到传输过程的安全防控;
3. 数据层：进行数据汇聚，通过大量的数据分析和信息产生新的知识和价值;
4. 应用层：服务和控制过程，一方面提供服务，对终端进行控制，实现有机的循环回路;
以上四个层面，每一层都涉及安全问题，包括身份识别、传输和存储中的数据保护、数据可控性、真实性、可溯源等。如果数据在传输或者存储过程中被篡改，数据失真会导致一个严重的结果。因此必须得保证数据能够有效汇聚，既要保护数据所得者的利益又要在可控范围内通过大数据的汇聚产生价值。中科院院士郑建华表示，这其中的安全问题是当下研究的重点，囊括了在应用层的服务和控制过程。以下是人工智能应用中的重点问题：
1. 身份识别和生物特征识别问题
目前从专业角度考虑，基于生物特征的识别技术尚不成熟。尤其是针对轻量级的移动便携式设备，这些技术更加存在大量的不足。另一方面，生物识别技术目前依旧没有建立一个安全的逻辑链条，很多技术都缺乏“从数据采集过程到传输使用，支持数据回溯”的环节，这意味着后续的数据和前面的逻辑无法建立一个紧密的联系，导致系统极其脆弱和不稳定。
2. 移动安全
随着移动互联网的大量兴起，市面上的各类智能应用大多基于终端手机。相较而言，手机比PC机更为危险，作为一个消费类电子产品，手机使用便捷、成本低、更新快、安全隐患更多并且无法彻底解决。对于行业而言，建立手机端的安全体系难度更大。
3. 大数据安全
因为人工智能是数据驱动，大数据的安全比一般意义的云安全更为艰难。大数据安全问题主要集中在三点：加密的检索、数据的完整性和安全的计算外包。由于安全模型的存在，云安全能够直接加密服务器上的数据保证数据信息无法被管理者获取，但大数据则要求在对数据进行加密保护的同时又能有效进行数据的融合利用，在一定限度内实现信息共享，而这无疑是加大了技术难度。
4. 系统的脆弱性
现在的网络攻防态势极为严峻，大多攻击主要是利用信息系统本身的不完善和脆弱性。系统脆弱性是当下网络安全最重要的问题，并且无法避免，关键在于如何发现这种脆弱性。当企业规模过大时，要想保证系统安全，就需要耗费大量的人力、物理和财力，以更加精进的技术手段维护系统的安全和稳定，目前这一问题无法杜绝，只能早早防范。
人工智能应用与信息系统安全
“一般而言，人工智能应用的安全问题和原来的信息系统安全问题在很多地方都是一致的。当然，它也提出了一系列新的问题，比如应用层中的控制和服务，其他大体上还是共性问题。”随着AI的不断深入和延展，它的影响力将会与日俱增，后期，甚至能影响每一个人，因此顶层的安全设计是必不可少的。郑建华认为，在人工智能应用的安全建设中，一方面需要政府主导，深入分析人工智能应用建设中的安全需求，进行顶层设计，提出安全原则，加强安全制度建设，尤其是安全准入制度方面，提出监测方法和机制。另一方面，企业也应该从感知、传输、分析协同和服务控制等方面建立安全准则。从政府和企业两个角度完善热弄更智能应用的安全建设。
ps：本文根据郑建华演讲整理而成
