Geekpwn2018的思考 :人工智能若变坏,谁来拯救人类?

Business Times - - Observe - 撰文/磐石之心

10 月 24日是全球程序员节。在这个重要的节日里,第五届 Geekpwn 大赛在上海开战,主题是“人‘攻’智能,洞见未来”。在大会开幕前的视频中,播放了著名物理学家宇宙学家霍金曾为 2017 Geekpwn 大赛发来的一段话:人工智能会是人类发生的最好或最坏的事。

霍金担忧人工智能会成为人类的终结者,也正如文章开头 Geekpwn 创始人兼CEO王琦关于“人工智能是否会控制人类”的担忧一样,埃隆·马斯克、比尔·盖茨等都曾发出过类似的担忧。

人工智能是否会威胁人类?假若人类真的被人工智能控制,我们将如何反击?这看似科幻又不着边际的猜想,在 Geekpwn 2018 上却让我嗅到了一丝真实,并产生深深的思考。

Geekpwn2018 让我们看到AI 的危险

人工智能被认为是21世纪最伟大的通用目的性技术,其地位堪比蒸汽机、计算机的发明。人工智能技术逐渐被应用在各行各业,比如,在医疗领域帮助医生筛查癌症、在交通领域帮助城市治堵、在物流仓储领域帮助分拣货物……

这些都是人工智能帮助人类的案例,未来还会起到更大的帮助。那么,谁曾想过,人工智能可能存在的危害?霍金、马斯克也只是预测可能危害人类,但并未给出实例。

图灵奖得主清华大学教授姚期智曾在演讲中说:“谷歌 Alphago 虽然击败了人类围棋高手,但是目前从理论上还无法解释AI算法。这就像是一个黑盒子,至今无法明确的知道伟大的科学家图灵发明的这套‘神经网络算法’到底是如何运行的,虽然已经被广泛的应用。”

在 Geekpwn2018 上,进行了一场现场的CAAD CTF,参赛选手要完成的项目是通过AI 技术骗过亚马逊 Celebrity Recognition。这场比赛,选取了在CAAD线上比赛的100多支战队中成绩优异的6支战队,他们在现场展开CAAD CTF 线下对战的激烈角逐。这些选手分别来自清华大学、中国科学技术大学、美国约翰·霍普金斯大学、Facebook、腾讯、阿里巴巴、扇贝等知名高校与企业。

在比赛中,他们利用AI技术将预设的自己生成的对抗样本图片成功骗过图像分类器,将宇宙飞船飞行器识别为巨石,将导弹物体误认为安全的,甚至将现场的主持人、“最强大脑”蒋昌建的照片识别为阿诺德·施瓦辛格。

这让所有在场的观众无不震惊!假如犯罪分子通过 AI技术将导弹这样的危险品伪装骗过AI系统,是否会酿成重大事故? CAAD CTF 对抗赛充分暴露出AI系统的漏洞,这些漏洞是可以被AI技术找到并攻破的。

而这只是一个非常小的“AI欺骗AI”的案例,但是“管中窥豹,可见一斑”。人工智能处在普及和大规模发展初期,甚至我们还未能研究明白这套“神经网络算法”的奥秘。所以,AI可能导致的风险,我们更无法评估。

王琦在 Geekpwn2018 上说:“要知道人工智能之父‘图灵’之前也是一名黑客,黑客创造了人工智能,有没有可能毁灭它?”显然,王琦作为一名黑客,他充满着对未知技术领域的巨大兴趣,同时大脑中也有着强大的使命感,幻想着在人工智能控制人类的时代,让黑客“以其人之道,还治其人之身”,以拯救人类!

Geekpwn 为 AI安全摇旗呐喊

网络安全的范畴一直随着攻击技术、攻击场景的变化而变化。

在 PC时代,安全人员要做的工作是查找系统的漏洞,因为黑客会通过这些漏洞去发动攻击;在移动互联网时代,攻击的方式从对系统的攻击转向对APP 的攻击,比如,黑客窃取支付帐号密码,盗刷资金;通过网约车APP漏洞,免费叫车等等。

从本质上讲,PC和移动互联网时代,网络安全都是人和人的对抗。正如Geekpwn CEO王琦所说:“以前安全界里面一直有一句话叫做:安全其实本质上是人和人的对抗。

但是到了 AI时代以后,我觉得一下子把这个领域扩大了 3-4倍。过去是人和人的对抗,现在引入了人和机器的对抗、机器和机器的对抗、机器对抗人等等。”

这就意味着,人工智能时代的安全策略必须重新思考和构建,而目前仍处于最为初级的阶段。如果AI技术不断进步,而AI安全防御能力却踏步不前,这将无法应对未来可能发生的AI 攻击。

“Geekpwn这个平台希望成为人工智能与专业安全跨界融合趋势的旗手,通过‘摇旗呐喊’让更多人关注人工智能时代的安全,从而护航人工智能的健康发展。”王琦在接受媒体采访时说。

事实上,Geekpwn这个近乎于公益的组织已经激了发全社会对安全的关注和重视,同时吸引更多人才从事安全职业,更多高校开设网络安全专业。从而让“中国不仅成为网络大国,还要成为网络技术的强国!”

数据显示,2018年上半年,网络安全人才需求规模指数较 2017年上半年同比增长了44.9%,与 2017 年下半年相比环比增长了9.4%,网络人才缺口上百万。

王琦说,Geekpwn创办五年来,在北京、上海、香港以及国外的拉斯维加斯等地多次举办,通过参赛不仅开阔了安全人员的视野,同时通过奖金、奖牌也在经济上和荣誉上对安全人员进行激励,从而激发更多人参与到安全事业中。

全国许多知名高校也开始设立网络安全专业,在校教师也开始组建网络安全研究小组,在Geekpwn 的组织下在全球参加各类安全比赛。腾讯、百度、京东、小米、华为等企业也纷纷与Geekpwn 合作,进行安全技术的研究以及人才的引进。从而形成了,安全产业、安全学习和安全研究相结合的“产学研”生态。

目前,人工智能正在兴起,但是AI安全还未被足够 重视,Geekpwn再次走在世界的前列,将自己定位成“全球首个探索人工智能与专业安全的前沿平台”,为AI 安全摇旗呐喊。

AI安全人员像是《侏罗纪世界2》中的欧文

“最强大脑”节目主持人蒋昌建在 Geekpwn上讲了一段意味深长的话:AI的意思是人工智能,中文读音则是“爱”。我们希望人工智能为世界带来更多的AI,更多的爱,而不是危害。

Facebook CEO扎克·伯格坚定的对人工智能持乐观态度。也有些人认为,未来机器人不会具备人的意识,所以机器不会控制人。腾讯创始人张志东则提出“科技向善”,认为在人工智能时代,科技从业者更应该具有善心。

的确,如果坏人掌握了高级技术,将给世界带来灾难。这不由的让我想到了2015年在国内上映的《侏罗纪世界2》中的故事情节:

为了牟利,伊莱·米尔斯指使吴博士,利用DNA 技术将迅猛龙和狂暴龙的基因合成,创造出杂交品种“暴虐迅猛龙”,它集迅猛龙和狂暴龙的机智和凶残于一身,被称为地球杀手。但在交易这只杂交恐龙的过程中,恐龙逃出了笼子,迅速成为人类杀手,所向无敌。

最后,由男主角欧文驯养的“迅猛龙”与“暴虐迅猛龙”进行对抗,打败了杂交的“暴虐迅猛龙”,拯救了人类。

而伊莱·米尔斯就是那个掌握高科技的坏人,就如同掌握了 AI技术的杀手,“暴虐迅猛龙”就是坏人制造的AI 武器,普通人无法与之对抗。欧文就像是掌握AI安全能力的黑客,那只被他驯养的“迅猛龙”,就像是利用AI 技术训练的安全防御模型,成功的击败了坏人创造的AI 武器。

我们期待 AI带给人类更多爱,我们需要更多掌握AI 安全的工程师,他们可以像《侏罗纪世界2》中的恐龙驯养师欧文一样勇敢、机智的守护人类!

磐石之心,《解密小米》《互联网黑洞》等书作者,知名IT评论人

Newspapers in Chinese (Simplified)

Newspapers from China

© PressReader. All rights reserved.