Sin Chew Daily - Sarawak Edition (Kuching)
美研究:短期不構成威脅
美國史丹福大學去年8月發表《100年AI研究》( AI100)的首份報告,研究交通、醫療保健、教育、就業、治安與公共安全等範疇,AI對美國的影響。報告指出,直至2030年,AI發展雖未臻完善,但亦將成人類生活中的得力助手。帶領研究小組的美國得州大學電腦科學家斯通在報告中指出,人們對機械人的能力躍進感憂慮,但現今機械人距離完全自主仍有極大 差距,短期內不會對人類構成威脅。
不過,美國機械人工程師兼藝術家雷本去年6月則以名為“第一法則”的機械人,挑戰“機械人不可傷害人類”的經典法則。“第一法則”機械人能夠刺傷放在工作平台上的手指,但程式設計令它不一定每次都刺下去,令放下手指的人類難以預期會否受傷。國際制止AI充致命武器雷本向英國廣播公司表示,這種設計突顯AI的風險“可能現已存在”,隨時對人類造成傷害或惹起道德爭議。對於部分科學家主張,替AI設下防止叛變的“安全掣”,雷本反問:“如果機械人變得如此聰明,它為何不可能自行解除安全掣?”
國際間要求採取行動、消除AI威脅的呼聲日盛,例如Google、微軟等科技企業代 表聯同多名科學家,去年發動千人聯署,呼籲聯合國行動制止AI被用作致命武器。聯合國已通過今年內正式商討相關議題。人權觀察軍備分部總監古斯強調,必須立即行動,制止AI武器為人類帶來災難。
電影《智能叛變》( I, Robots)原著小說創作者、美籍俄裔科幻小說家艾西莫夫(Isaac Asimov,19201992)曾為其作品的機械人設定行為準則,被稱為“機械人3定律”。
第一法則﹕機械人不得傷害人類,或因袖手旁觀使人類受傷害
第二法則﹕除非違背第一法則,機械人須服從人類命令
第三法則﹕在不違背第一及第二法則下,機械人須保護自己