迈入人工智能时代如何构建网络安全空间

新一代人工智能（AI）正在全球范围内蓬勃兴起，为经济社会发展注入了新动能，同时也正在深刻改变人们的生产生活方式。

新的问题是，在人工智能时代，应该如何为用户隐私监管保驾护航？公链中应如何进行保密交易？更重要的是，如何构建一个安全的网络空间？

9月18日，作为国家网络安全周的重要组成部分，以“创新安全改变未来”为主题的“网络安全新技术发展”分论坛在成都举行。中国工程院院士沈昌祥、中国科学院院士朱中梁、中国信通院泰尔系统实验室无线技术部主任秦岩、启明星辰副总裁吴海民、香港理工大学教授区文浩等嘉宾围绕这些前沿问题展开了讨论。

“AI 将对网络安全产生巨大的影响”已成与会者的共识，正如朱中梁所言，网络安全问题是“无休止的”，如何用好人工智能这把“利刃”，需要更多探索。

新技术带来便利也引发风险

尽管成都与上海相距千里，在这场关于网络安全新技术的论坛上，17日在沪举行的“2018世界人工智能大会”依然被嘉宾们提起。

“马云讲到大数据是生产资料，在AI里面它需要机器智能芯片，也需要人类的智慧思想，从机器角度来讲，它既是一个很好的执行者，也有可能是一个很强的破坏者；马化腾也讲人工智能需要可支、可控、可用、可靠。”秦岩说，AI有很多优势，可以帮助我们完成很多复杂和危险的环境当中自己不可能做到的事情，但随之而来的风险也是巨大的挑战。

秦岩表示，如果说数据是“新的石油”，那么，数据保护就是新一轮的环境保护。从现状来看，情况并不乐观——以最近流行的智能音箱为例，它可能在你不知情的情况下把你的录音发给陌生人，或者它可以被控制成为你家里的一个监视器，在提供便利的同时也监视你的生活。

用秦岩的话说，在这个时代，每一次点击、支付、下载，都有可能会泄露个人信息，包括电话、微信号、家庭住址等，都可能通过互联网应用当中暴露在网上。

因此，他提出，虽然存在用户隐私保护机制，但既然存在风险，人工智能系统用户隐私保护也就需要监管。秦岩希望通过主动防御来降低风险：“从趋势来看，我们希望创立一个AI系统用户保护监管体系，另外适用于这种体系，我们要有评估方法，要有监管的要求，能够提升我们现在的监管技术手段。当然，还要促进AI行业企业自律，避免他们对数据进行滥用，侵犯个人隐私权。”

在论坛现场，“人工智能”成为热议焦点，多位专家指出，人工智能未来会对整个网络安全带来巨大的影响，虽然其对提高防御能力可能带来很大的进步，但也很可能产生极大的危害，如“双刃剑”一般。“所以我们希望通过区块链等技术，为数据保护找到更好的解决方法，毕竟人工智能的成功也离不开数据。”一位参会嘉宾向记者表示。

网络“靶场”急需建指标体系

新技术带来的影响，可能比想象中的还要大。吴海民表示，万物互联时代已经到来，预计到 2020 年，全球物联网设备数量将达到204亿台，物联网所带来的产业价值或将比互联网大30倍。

但同样的，在带来便利之余，物联网潜藏的巨大安全隐患也已浮出水面。吴海民认为，需要用一种新的安全思维来构建IOT（物联网）安全共同体。

他解释说，首先从心态上来说，物联网产业已经不再回避安全问题，而是和安全产业携手共建、开放合作，共同推动IOT市场高速安全发展；从供给侧的角度来看，现在既要强化AI、区块链等新技术在安全领域的突破和应用，同时也要正确看到成熟安全技术的价值；如果从商业模式变化的角度来说，过去的甲乙方安全产品买卖关系已经逐渐转化为强化运营和服务的共生关系“，是要把安全作为一个持续系统化工程来建设”。

无论技术如何更迭，安全都是永恒的话题。用朱中梁的话说，网络安全问题是“魔高一尺道高一丈，再进一步就是道高一丈魔可能要高十丈”，所以“，是无休止的斗争”。

但另一个问题是，目前在这个网络“靶场”中，没有定量的分析和表述，没有相应的指标体系，“靶场”便不能真正发挥实效。

来自中国信息安全测评中心的李斌直言“，靶场”的概念源自打仗，打仗是有规则的，但网络安全这个“靶场”现在在某种程度上有点乱“。需要针对网络安全空间里的目标对象保护、方法手段有一些定性定量的要求，当然还要有创新。总之，我认为就是要有问题思维、底线思维。”他说。