-
日期: 2015-05-16 | 來源: 科學松鼠會網 | 有0人參與評論 | 字體: 小 中 大
《復仇者聯盟2：奧創紀元》上映了。在這部電影裡，人工智能“奧創”背叛了人類，差點把所有人都幹掉了----不過安心，劇透到此為止。
【我能說奧創的人設真難看嗎……圖片來源：復仇者聯盟2海報】
【機器人叁定律的概括版。圖片來源：infinitywave】
【也許這個世界最終會重新誕生出智能----但是壹切將圍繞回形針展開。圖片來源：thoughtinfection.com】
AI造反實在是美漫和科幻裡面太常見的主題了。麻煩在於，現實當中真正的AI好像也在壹步步向我們走來。要是我們真的做出AI，它又造反了，怎麼辦？能不能安排好預防措施，讓它永遠忠誠於我們，永遠不會把我們都幹掉呢？
機器人叁定律？你想少了
許多科幻迷都會記得阿西莫夫的機器人叁定律：
•機器人不得傷害人，亦不得因不作為而致人傷害。
機器人必須遵循人的命令，除非違背第壹定律。
機器人必須保護自己，除非違背第壹或第贰定律。
看起來這似乎足夠保護人類了，其實完全不行。
首先，叁定律翻譯成“定律”就是個錯誤。牛頓叁定律是人類對自然界觀察總結後提煉出來的結果，我們有理由相信在它適用的范圍內是始終成立的；但是阿西莫夫叁“定律”實際上只是叁法條，是人為寫進機器人的腦子裡的，背後並沒有任何物理支持。任何理解機器人如何運作的人都能造出不遵從叁定律的機器人，這還不算機器人自己故障的可能性；事實上阿西莫夫自己就寫過至少3個不遵循定律的例子。
然後，這叁定律連“人”和“機器”的定義都沒有明確給出……阿西莫夫筆下的索拉利亞人就給他們的機器人規定“只有帶索拉利亞口音的才是人”。人形機器人也會帶來各種判斷的麻煩。（這又引出叁定律的另壹個問題，如果機器人沒有掌握充分信息，不能意識到行為的後果，是不是就可以恣意妄為了？）- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見