不要害怕人工智能
英文原文：Don’t Fear Artificial Intelligence
Kurzweil 寫了五本人工智能（Artificial Intelligence，簡稱 AI）方面的書，有一本是紐約時報的暢銷書《How to Create a Mind》。
兩位偉大的思想家看到了 AI 的危險。下面談談怎樣讓 AI 安全。
著名物理學家史蒂芬·霍金【注1】最近發出了警告，如果人工智能超過了人類智能，就對人類文明的存在造成了威脅。數字貨幣、私人太空飛行和電子汽車的先驅 Elon Musk，也表示了類似的擔憂。
如果 AI 成為了存在的威脅，那么它不會是第一個。在我孩提時代的、1950 年人防演習期間，我坐在桌子底下。從那以后，我們就遇到了可比較的恐懼，比如生物恐怖主義者創造了一種人類無法抵抗的新病毒。火能夠溫暖我們、也能燒掉我們的村莊，技術總是一把雙刃劍。
典型的反烏托邦未來主義的電影，總是有一到兩個主人公或團體在為了控制人工智能而戰。AI 正被集成到當今世界。AI 不是一只手或兩只手；它是 10 億或 20 億只手。持有智能手機的非洲孩子，比起 20 年前的美國總統，已經能夠更加智能地訪問知識了。隨著 AI 更加聰明，它的用途仍然在增長。實際上，每個人的智力在近 10 年內已經被 AI 放大了不少。
我們在人群中仍然有沖突，每個群體都被 AI 放大了，這已有先例。但是，暴力呈現著深遠的、指數級的減少，我們可以從中感到安慰，正如 Steven Pinker 的 2011 年的書《The Better Angels of Our Nature》中提到的：為什么暴力減少了。根據 Steven Pinker 的觀點，雖然地點不同導致統計數據不同，但是戰爭的死亡率與六個世紀以前相比，已經下降了數百倍。從那以后，謀殺降低了十倍。人們對此感到吃驚。暴力在上 升的印象，起源于另一種趨勢：關于世界上負面的信息，有著指數級的詳實程度——它是被 AI 支持的另一種發展。
我們能夠部署一些策略來保持新興的、像 AI 安全之類的技術。考慮到生物技術，或許已經領先 AI 數十年了。在 1975 年召開的關于重組 DNA 的阿希洛馬會議評估了其潛在危險，并規劃了戰略以確保該領域的安全。從那以后，最后的方針已經被行業做了改進，運轉非常好：在過去的 39 年，已經沒有重大問題了，偶然的或故意的。我們現在看到了達到臨床實踐的藥物治療取得的巨大進步，遠遠沒有出現預期的問題。
對于 AI 的道德規范的考慮，可以退回到艾薩克·阿西莫夫（Isaac Asimov）1942 年的短篇小說《環舞》（Runaround）【注2】的機器人三大定律【注3】，8 年后，艾倫·圖靈在 1950 年發表的論文“計算機器與智能”中的 AI 領域。今天 AI 從業者的普通看法就是，我們要完成人類級別的 AI 仍然需要數十年。我更加樂觀地把時間壓在了 2029 年，但是不管怎么說，我們還有時間來規劃道德標準。
已經有大學和企業在努力推動 AI 安全策略和方針了，有的已經步入正軌。與阿希洛馬會議的方針類似，一個想法就是，清晰地定義每個 AI 程序的使命，建立加密的安全保護以阻止未授權用戶。
末了，我們能夠確保 AI 安全的最重要方法就是致力于人類管理和社會制定。我們已經到了人-機文明的時代。未來避免消極沖突的最好方式，就是繼續發展我們社會理想，它極大地減少了暴力。
如今，AI 正在推進疾病診斷、尋找治療方法、開發可再生清潔能源、幫助清潔環境、向全世界的人們提供高質量的教育、幫助殘疾人（包括史蒂芬·霍金的聲音）以及在無數 種其它方式上貢獻著力量。未來數十年，我們有機會在處理人類的巨大挑戰上邁開一大步。在控制這種危險時，我們在道義上有責任去實現這個諾言。這將不會是我 們第一次在這方面取得成功。
- 注1：史蒂芬·霍金;，OCH，CBE，FRS，FRSA（英語：Stephen Hawking，1942 年 1 月 8 日－），英國著名物理學家，是劍橋大學理論宇宙學中心研究主任。霍金做出很多重要貢獻：他與羅杰·彭羅斯共同合作提出在廣義相對論框架里的彭羅斯–霍金定 理，他理論預測黑洞會發射輻射，現稱為霍金輻射。http://zh.wikipedia.org/wiki/%E5%8F%B2%E8%92%82%E8%8A%AC%C2%B7%E9%9C%8D%E9%87%91
- 注2：《環舞》（Runaround）是美國作家艾薩克·阿西莫夫創作的一篇短篇科幻小說，里面有在其之后的多部小說中多次出現的人物鮑威爾 （Powell）和杜魯門（Donovan）。這篇小說寫于 1941 年 10 月，初次出版在 1942 年三月的《超級科學故事》（Super Science Stories）雜志上。http://zh.wikipedia.org/wiki/%E7%8E%AF%E8%88%9E_(%E7%9F%AD%E7%AF%87%E5%B0%8F%E8%AF%B4)
- 注3：機器人三定律（Three Laws of Robotics）是科幻小說家艾薩克·阿西莫夫（Isaac Asimov）在他的機器人相關作品和其他機器人相關小說中為機器人設定的行為準則，是阿西莫夫除“心理史學”（Psychohistory）外另一個著 名的虛構學說。http://zh.wikipedia.org/wiki/%E6%9C%BA%E5%99%A8%E4%BA%BA%E4%B8%89%E5%AE%9A%E5%BE%8B
— END —