美研究：短期不構成威脅

美國史丹福大學去年8月發表《100年AI研究》（ AI100）的首份報告，研究交通、醫療保健、教育、就業、治安與公共安全等範疇，AI對美國的影響。報告指出，直至2030年，AI發展雖未臻完善，但亦將成人類生活中的得力助手。帶領研究小組的美國得州大學電腦科學家斯通在報告中指出，人們對機械人的能力躍進感憂慮，但現今機械人距離完全自主仍有極大 差距，短期內不會對人類構成威脅。

不過，美國機械人工程師兼藝術家雷本去年6月則以名為“第一法則”的機械人，挑戰“機械人不可傷害人類”的經典法則。“第一法則”機械人能夠刺傷放在工作平台上的手指，但程式設計令它不一定每次都刺下去，令放下手指的人類難以預期會否受傷。國際制止AI充致命武器雷本向英國廣播公司表示，這種設計突顯AI的風險“可能現已存在”，隨時對人類造成傷害或惹起道德爭議。對於部分科學家主張，替AI設下防止叛變的“安全掣”，雷本反問：“如果機械人變得如此聰明，它為何不可能自行解除安全掣？”

國際間要求採取行動、消除AI威脅的呼聲日盛，例如Google、微軟等科技企業代 表聯同多名科學家，去年發動千人聯署，呼籲聯合國行動制止AI被用作致命武器。聯合國已通過今年內正式商討相關議題。人權觀察軍備分部總監古斯強調，必須立即行動，制止AI武器為人類帶來災難。

電影《智能叛變》（ I, Robots）原著小說創作者、美籍俄裔科幻小說家艾西莫夫（Isaac Asimov，19201992）曾為其作品的機械人設定行為準則，被稱為“機械人3定律”。

第一法則﹕機械人不得傷害人類，或因袖手旁觀使人類受傷害

第二法則﹕除非違背第一法則，機械人須服從人類命令

第三法則﹕在不違背第一及第二法則下，機械人須保護自己

14．1．2017