當然，這三部法律創(chuàng)造了引人注目的虛構(gòu)，但Asimov向讀者介紹了一個非常真實且危險的概念。如果一臺機器能夠獨立于人類的運轉(zhuǎn)，如果它能夠根據(jù)其先進的知識學習和做出選擇，那么它又能阻止它超越一個人類社會嗎?
當人工智能從科幻小說中跳出來，變成現(xiàn)實時，我們面對的是現(xiàn)實生活中的情景——這三種法則可以派上用場。如果有可能在一次突襲中殺死數(shù)以百萬計的人，會發(fā)生什么?如果這些自主殺手進化到無視創(chuàng)造者的命令，會怎么樣呢?2013年，瓊斯媽媽參觀了自動化機器的潛在后果：
“我們不是在談?wù)撃切┛雌饋硐褚蝗航K結(jié)者的東西，”Steve Goose說，他是阻止殺手機器人運動的發(fā)言人。“隱形轟炸機和裝甲車輛——不是終結(jié)者。”
盡管該技術(shù)在2013年被預測為“一種方式”，但人工智能武器，尤其是無人機，正以比預期更快的速度接近。盡管五角大樓發(fā)布了一份2012年的指令，呼吁建立“旨在盡量減少自治和半自治武器系統(tǒng)失敗的可能性和后果的指導方針”，但無人作戰(zhàn)無人機已經(jīng)在韓國邊境部署，甚至部署。這些進展讓科技行業(yè)的一些重要人物——包括埃隆•馬斯克等知名人士——呼吁禁止“殺手機器人”。
“我們沒有很長的時間來采取行動，”馬斯克、斯蒂芬•霍金以及其他114名專家寫道。“一旦這個潘多拉的盒子被打開，就很難關(guān)閉了。”
《生命未來研究所》的未來，帶著它最近發(fā)布的《殺戮機器人》，這部恐怖的科幻短片，講述了一個不受監(jiān)管的自動殺人機器世界的后果。
“我參與了這部電影的制作，因為它讓問題變得清晰，”加州大學伯克利分校的人工智能研究員、FLI科學顧問斯圖爾特羅素告訴Gizmodo。雖然政府部長和軍事律師們在上世紀50年代陷入困境，他們爭論的是機器是否能“真正地自治”，或者真的“在人類的意義上做出決策”，制造大規(guī)模殺傷性武器的技術(shù)正在向前發(fā)展。哲學上的區(qū)別是無關(guān)緊要的，重要的是對人類的災(zāi)難性影響。”
這部電影設(shè)定在不久的將來，講述了一款由人工智能驅(qū)動的無人機，最終落入不法之徒的手中，成為暗殺工具，目標直指政客和成千上萬的大學生。這一生產(chǎn)支持了FLI關(guān)于禁止自動殺人機器的呼吁。這一行動和類似的行動是最近的聯(lián)合國常規(guī)武器公約的重點，70多個國家的代表出席了會議。
我們是不是太遲了，無法阻止未來的機器人末日?這項技術(shù)已經(jīng)問世，斯圖爾特警告說，現(xiàn)在不采取行動可能是災(zāi)難性的。根據(jù)他的說法，阻止這種全球性破壞的窗口正在迅速關(guān)閉。
“這部短片不僅僅是推測，它展示了我們已經(jīng)擁有的集成和微化技術(shù)的結(jié)果，”拉塞爾在影片結(jié)尾警告說。人工智能的潛力巨大，即使是在國防領(lǐng)域。但允許機器選擇殺死人類將對我們的安全和自由造成毀滅性的影響——我的數(shù)千名同事也同意這一點。”
羅素至少在兩方面是正確的。這項技術(shù)已經(jīng)推出。今年早些時候，來自卡內(nèi)基梅隆大學的機器人專家發(fā)表了一篇論文，題為《學習如何在崩潰中飛翔》。這項研究探索了機器人專家對AR Drone 2.0的測試，他們通過試驗和錯誤來指導自己在20個不同的室內(nèi)環(huán)境中導航。在短短40小時的飛行時間里，無人機通過11,500次碰撞和修正控制了空中環(huán)境。
“我們制造了一架無人機，它的唯一目的就是撞到物體上，”研究人員寫道。“我們使用所有這些負飛行數(shù)據(jù)，結(jié)合從相同軌跡取樣的正數(shù)據(jù)，來學習一項簡單而強大的無人機導航政策。”
羅素對人工智能無人機的潛力和實際效益也說得很對。最近，英特爾利用這項技術(shù)收集有關(guān)野生動物的視頻和其他數(shù)據(jù)，以便更有效地、更少地幫助科學家進行重要研究。
英特爾人工智能產(chǎn)品集團副總裁兼總經(jīng)理Naveen Rao在一份聲明中說：“人工智能將幫助我們解決一些最令人畏懼的挑戰(zhàn)，加速解決大規(guī)模的問題解決方案，包括釋放新的科學發(fā)現(xiàn)。”
同樣，通用電氣子公司Avitas Systems也已開始部署無人機，對包括管道、輸電線和交通系統(tǒng)在內(nèi)的基礎(chǔ)設(shè)施進行自動化檢查。人工智能無人機不僅能更安全、更高效地執(zhí)行監(jiān)控，而且它們的機器學習技術(shù)還能即時識別數(shù)據(jù)中的異常情況。
BNSF鐵路公司也在檢查中使用無人機。
“他們可以預先安排無人機追蹤軌道，同時追蹤軌道，”TE互聯(lián)公司的皮特史密斯今天告訴航空公司。“它在收集數(shù)據(jù)。車上有攝像頭拍下軌道的照片。它需要大量的數(shù)據(jù)，這些是高分辨率的相機?，F(xiàn)在的情況是，他們使用人工智能對數(shù)據(jù)進行分析。”
那么，人工智能的無人機是否更有幫助或有害?這完全取決于我們接下來要做什么。如果我們明智地進入機器學習領(lǐng)域，那么潛在的好處就太多了，但不作為的風險是不可克服的。
毫無疑問，穆斯克、霍金以及他們的聯(lián)名簽署國呼吁聯(lián)合國禁止自動武器的使用。如果沒有其他原因，就需要國際社會暫停對人工智能的使用，以保護人類不受其自身創(chuàng)造的影響。我們已經(jīng)有了一個理想的指南，簡單地從Asimov那里得到一個頁面。
?