機械人“叛變”成隱憂 美研究：短期不構成威脅

（華盛頓13日綜合電）機械人“叛變”攻擊人類是不少科幻小說的主題，惟隨着AI（人工智能）發展，幻想漸成實質隱憂。科學界對此各執一詞，一方稱機械人構成威脅的說法言之尚早，另一方則擔心，機械人被用於戰爭等道德爭議範疇，恐造成可怕後果。

美國史丹福大學去年8月發表《100年AI研究》（ AI100）的首份報告，研究交通、醫療保健、教育、就業、治安與公共安全等範疇， AI對美國的影響。報告指出，直至2030年， AI發展雖未臻完善，但亦將成人類生活中的得力助手。帶領研究小組的美國得州大學電腦科學家斯通在報告中指出，人們對機械人的能力躍進感憂慮，但現今機械人距離完全自主仍有極大 差距，短期內不會對人類構成威脅。

不過，美國機械人工程師兼藝術家雷本去年6月則以名為“第一法則”的機械人，挑戰“機械人不可傷害人類”的經典法則。“第一法則”機械人能夠刺傷放在工作平台上的手指，但程式設計令它不一定每次都刺下去，令放下手指的人類難以預期會否受傷。

國際制止AI充致命武器

雷本向英國廣播公司表示，這種設計突顯AI的風險“可能現已存在” ，隨時對人類造成傷害或惹起道德爭議。對於部分科學家主張，替AI設下防止叛變的“安全掣”，雷本反問：“如果機械人變得如此聰明，它為何不可能自行解除安全掣？”

國際間要求採取行動、消除AI威脅的呼聲日盛，例如Google、微軟等科技企業代 表聯同多名科學家，去年發動千人聯署，呼籲聯合國行動制止AI被用作致命武器。聯合國已通過今年內正式商討相關議題。人權觀察軍備分部總監古斯強調，必須立即行動，制止AI武器為人類帶來災難。