未來的人工智能將會越來越聰明，甚至能夠無限接近人類，可以獨立思考，擁有情感。面對人工智能帶來的無限未知，我們在享受技術進步的同時一樣要心存危機感。

今年3月8日，著名物理學家史蒂芬·霍金向英國《獨立報》提出：人類必需創建有用機制及早辨認威脅所在，防備新科技(人工智能)對人類帶來的危機進一步加深。他說，人工智能會以多種形式展開對人類的毀滅，比如生化戰爭或核子戰爭，聰慧醒目的人工智能會讓人類滅亡。霍金暗示：一個超級聰慧的人工智能可以很是好地實現它的目的，如果這些目的沒有與咱們人類同等，咱們人類就遭殃了。

其實除了霍金，很多人都表示出對于未來人工智能會威脅人類的擔憂。許多關于人工智能帶來世界末日的電影場面恢宏而燦爛，人類在科技帶來的毀滅面前顯得又是無比的脆弱，在那一刻人們是否會后悔沒有對人工智能危機早作打算？

人工智能在高速發展的社會上會給人們帶來多大的便利毋庸贅言，我們如何來對待霍金的警告呢？首先，霍金本人也是人工智能技術的支持者，霍金認為，如今人工智能似乎已經滲透到各個領域。人工智能甚至可幫助根除長期存在的社會挑戰，比如疾病和貧困等。

人工智能技術是當今新技術革命的領頭羊。事實上，人工智能技術的發展已歷經三次浪潮。第一次浪潮以“手工知識”為特征，典型范例如智能手機應用程序等。第二次浪潮以“統計學習”為特征，典型范例如人工神經網絡系統，并在無人駕駛汽車等領域取得進展。雖然這些人工智能技術，對明確的問題有較強的推理和判斷能力，但不具備學習能力。第三次浪潮則以“適應環境”為特征，人工智能能夠理解環境并發現邏輯規則，從而進行自我訓練并建立自身的決策流程。今年年初，谷歌AlphaGO的升級版Master以60∶0的戰績，擊潰當世所有圍棋頂級高手；就在5月25日，AlphaGO又接連兩局擊敗中國圍棋職業九段棋手柯潔；我以為，這些都是人工智能第三次浪潮的標志。

其次，人工智能技術也是一把雙刃劍。一方面，借助人工智能技術實現自動化，將極大提高生產率，節省勞動成本；通過優化行業現有產品和服務，開拓更廣闊的市場空間。正由于人工智能對社會經濟無可替代的重要推動作用，在我國兩會上已將人工智能寫進了政府工作報告。

另一方面，人工智能技術對社會也帶來了近期和遠期的風險。在不遠的將來，那些重復、耗時、乏味的工作；在快速變化的復雜環境中進行的工作以及超出人類極限的工作，都有可能被人工智能系統所代替，從而沖擊勞動力市場。可以預測，由于人工智能的發展，多數人的智能將低于或接近人工智能的水平，如果沒有政策的有效控制，財富就會集中到少數智能超過人工智能的人手中，這將進一步擴大社會的貧富差別，引發社會的撕裂。

至于說到霍金警告的人工智能引發的人類生存風險，即人工智能將來會從整體上超越人類智能，據外媒報道，最新研究預測，10年內，人工智能將在語言翻譯、駕駛卡車甚至高中作文寫作方面勝過人類，在2049年之前，機器可以創作暢銷小說。50年內，人工智能將會在各種任務的執行中戰勝人類。

研究人員指出，“人工智能的進步將會帶來巨大的社會后果。無人駕駛科技可能會在接下去10年內取代數百萬從事駕駛工作的人。除了可能會發生的人類失業，這一轉變將會帶來新挑戰，例如重建基礎設施、保護車輛網絡安全、修改法律法規。對人工智能開發商和決策者來說，在執法、軍事技術和營銷方面的應用也將帶來新的挑戰。”

但這并不是個壞消息。在調查中研究人員同時也確認了“極壞”結果產生的可能性，例如人工智能導致人類滅絕，幾率只有5%。

許多自然科學家認為，目前人工智能離上述水平還很遠很遠，其危險遠不足慮；而某些社會科學家卻有擔憂，認為隨著技術變革的深入，人工智能所引發的鏈式反應，就會出現無法控制的局面。上述認識的差異，正好體現了人類對智能認識的多樣性。從這個角度看，科學家全面認識人類智能，并將其復現，只是時間問題。鑒于人工智能有可能超越人類智能，以及由此產生十分嚴重的后果，再加上科學技術發展的內在不確定性，就充分說明了研究人工智能安全問題的必要性。

早在1950年出版的美國著名科幻小說家艾薩克·阿西莫夫撰寫的《我，機器人》小說中，就提出了著名的“機器人三大定律”：第一定律，機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手旁觀；第二定律，機器人必須服從人給予它的命令，當該命令與第一定律沖突時例外；第三定律，機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存。此后，這“三大定律”不斷激發出對于人工智能安全性的新思考。由于人工智能最終必將會具備自主意識，到那時人類與人工智能系統之間的關系，必須服從普適、可靠的準則。特別是在軍事領域要更加小心，否則極有可能出現科幻電影中描述的人機大戰的場景。

因此，我們在發展人工智能系統的同時，還要確保其在預先制定的相關準則下進行工作，以防止其出現越規行為。

更多資訊請關注工業機器人頻道

以上內容由傳動網整理，部分資料來自戰略機器人網、機器人庫、智能制造網、圖片來自網絡。