Geekpwn2018的思考 ：人工智能若变坏，谁来拯救人类？
10 月 24日是全球程序员节。在这个重要的节日里，第五届 Geekpwn 大赛在上海开战，主题是“人‘攻’智能，洞见未来”。在大会开幕前的视频中，播放了著名物理学家宇宙学家霍金曾为 2017 Geekpwn 大赛发来的一段话：人工智能会是人类发生的最好或最坏的事。
霍金担忧人工智能会成为人类的终结者，也正如文章开头 Geekpwn 创始人兼CEO王琦关于“人工智能是否会控制人类”的担忧一样，埃隆·马斯克、比尔·盖茨等都曾发出过类似的担忧。
人工智能是否会威胁人类？假若人类真的被人工智能控制，我们将如何反击？这看似科幻又不着边际的猜想，在 Geekpwn 2018 上却让我嗅到了一丝真实，并产生深深的思考。
Geekpwn2018 让我们看到AI 的危险
人工智能被认为是21世纪最伟大的通用目的性技术，其地位堪比蒸汽机、计算机的发明。人工智能技术逐渐被应用在各行各业，比如，在医疗领域帮助医生筛查癌症、在交通领域帮助城市治堵、在物流仓储领域帮助分拣货物……
这些都是人工智能帮助人类的案例，未来还会起到更大的帮助。那么，谁曾想过，人工智能可能存在的危害？霍金、马斯克也只是预测可能危害人类，但并未给出实例。
图灵奖得主清华大学教授姚期智曾在演讲中说：“谷歌 Alphago 虽然击败了人类围棋高手，但是目前从理论上还无法解释AI算法。这就像是一个黑盒子，至今无法明确的知道伟大的科学家图灵发明的这套‘神经网络算法’到底是如何运行的，虽然已经被广泛的应用。”
在 Geekpwn2018 上，进行了一场现场的CAAD CTF，参赛选手要完成的项目是通过AI 技术骗过亚马逊 Celebrity Recognition。这场比赛，选取了在CAAD线上比赛的100多支战队中成绩优异的6支战队，他们在现场展开CAAD CTF 线下对战的激烈角逐。这些选手分别来自清华大学、中国科学技术大学、美国约翰·霍普金斯大学、Facebook、腾讯、阿里巴巴、扇贝等知名高校与企业。
在比赛中，他们利用AI技术将预设的自己生成的对抗样本图片成功骗过图像分类器，将宇宙飞船飞行器识别为巨石，将导弹物体误认为安全的，甚至将现场的主持人、“最强大脑”蒋昌建的照片识别为阿诺德·施瓦辛格。
这让所有在场的观众无不震惊！假如犯罪分子通过 AI技术将导弹这样的危险品伪装骗过AI系统，是否会酿成重大事故？ CAAD CTF 对抗赛充分暴露出AI系统的漏洞，这些漏洞是可以被AI技术找到并攻破的。
而这只是一个非常小的“AI欺骗AI”的案例，但是“管中窥豹，可见一斑”。人工智能处在普及和大规模发展初期，甚至我们还未能研究明白这套“神经网络算法”的奥秘。所以，AI可能导致的风险，我们更无法评估。
王琦在 Geekpwn2018 上说：“要知道人工智能之父‘图灵’之前也是一名黑客，黑客创造了人工智能，有没有可能毁灭它？”显然，王琦作为一名黑客，他充满着对未知技术领域的巨大兴趣，同时大脑中也有着强大的使命感，幻想着在人工智能控制人类的时代，让黑客“以其人之道，还治其人之身”，以拯救人类！
Geekpwn 为 AI安全摇旗呐喊
网络安全的范畴一直随着攻击技术、攻击场景的变化而变化。
在 PC时代，安全人员要做的工作是查找系统的漏洞，因为黑客会通过这些漏洞去发动攻击；在移动互联网时代，攻击的方式从对系统的攻击转向对APP 的攻击，比如，黑客窃取支付帐号密码，盗刷资金；通过网约车APP漏洞，免费叫车等等。
从本质上讲，PC和移动互联网时代，网络安全都是人和人的对抗。正如Geekpwn CEO王琦所说：“以前安全界里面一直有一句话叫做：安全其实本质上是人和人的对抗。
但是到了 AI时代以后，我觉得一下子把这个领域扩大了 3-4倍。过去是人和人的对抗，现在引入了人和机器的对抗、机器和机器的对抗、机器对抗人等等。”
这就意味着，人工智能时代的安全策略必须重新思考和构建，而目前仍处于最为初级的阶段。如果AI技术不断进步，而AI安全防御能力却踏步不前，这将无法应对未来可能发生的AI 攻击。
“Geekpwn这个平台希望成为人工智能与专业安全跨界融合趋势的旗手，通过‘摇旗呐喊’让更多人关注人工智能时代的安全，从而护航人工智能的健康发展。”王琦在接受媒体采访时说。
事实上，Geekpwn这个近乎于公益的组织已经激了发全社会对安全的关注和重视，同时吸引更多人才从事安全职业，更多高校开设网络安全专业。从而让“中国不仅成为网络大国，还要成为网络技术的强国！”
数据显示，2018年上半年，网络安全人才需求规模指数较 2017年上半年同比增长了44.9%，与 2017 年下半年相比环比增长了9.4%，网络人才缺口上百万。
王琦说，Geekpwn创办五年来，在北京、上海、香港以及国外的拉斯维加斯等地多次举办，通过参赛不仅开阔了安全人员的视野，同时通过奖金、奖牌也在经济上和荣誉上对安全人员进行激励，从而激发更多人参与到安全事业中。
全国许多知名高校也开始设立网络安全专业，在校教师也开始组建网络安全研究小组，在Geekpwn 的组织下在全球参加各类安全比赛。腾讯、百度、京东、小米、华为等企业也纷纷与Geekpwn 合作，进行安全技术的研究以及人才的引进。从而形成了，安全产业、安全学习和安全研究相结合的“产学研”生态。
目前，人工智能正在兴起，但是AI安全还未被足够 重视，Geekpwn再次走在世界的前列，将自己定位成“全球首个探索人工智能与专业安全的前沿平台”，为AI 安全摇旗呐喊。
AI安全人员像是《侏罗纪世界2》中的欧文
“最强大脑”节目主持人蒋昌建在 Geekpwn上讲了一段意味深长的话：AI的意思是人工智能，中文读音则是“爱”。我们希望人工智能为世界带来更多的AI，更多的爱，而不是危害。
Facebook CEO扎克·伯格坚定的对人工智能持乐观态度。也有些人认为，未来机器人不会具备人的意识，所以机器不会控制人。腾讯创始人张志东则提出“科技向善”，认为在人工智能时代，科技从业者更应该具有善心。
的确，如果坏人掌握了高级技术，将给世界带来灾难。这不由的让我想到了2015年在国内上映的《侏罗纪世界2》中的故事情节：
为了牟利，伊莱·米尔斯指使吴博士，利用DNA 技术将迅猛龙和狂暴龙的基因合成，创造出杂交品种“暴虐迅猛龙”，它集迅猛龙和狂暴龙的机智和凶残于一身，被称为地球杀手。但在交易这只杂交恐龙的过程中，恐龙逃出了笼子，迅速成为人类杀手，所向无敌。
最后，由男主角欧文驯养的“迅猛龙”与“暴虐迅猛龙”进行对抗，打败了杂交的“暴虐迅猛龙”，拯救了人类。
而伊莱·米尔斯就是那个掌握高科技的坏人，就如同掌握了 AI技术的杀手，“暴虐迅猛龙”就是坏人制造的AI 武器，普通人无法与之对抗。欧文就像是掌握AI安全能力的黑客，那只被他驯养的“迅猛龙”，就像是利用AI 技术训练的安全防御模型，成功的击败了坏人创造的AI 武器。
我们期待 AI带给人类更多爱，我们需要更多掌握AI 安全的工程师，他们可以像《侏罗纪世界2》中的恐龙驯养师欧文一样勇敢、机智的守护人类！