面對無法避免的事故，作為一名司機，你必須做出一個瞬間的決定，但對于自動駕駛汽車，你必須通過編程來判斷其后果。在沒有選擇的情況下，你會怎么做?

當你乘坐無人駕駛的汽車時，突然有五個人出現在你高速行駛的車的前方，而且當時已經沒有時間讓汽車停下來，這時，汽車可以選擇選擇猛打方向盤，讓車偏離道路，這樣可能會導致車上乘客死亡;它還有可能選擇徑直軋向那五個人，導致行人的死亡。無人駕駛汽車應該怎么做?或許這個問題應該是，汽車編程人員教會汽車應該做什么?那么又是誰來告訴程序員應該怎么做呢?

社會價值決定生死?

在人工智能時代，每一個關于道德的問題似乎都在引發另一個問題。利茲培根教授是英國格林尼治大學建筑、計算和人文學科的副校長，她還擁有人工智能博士學位，是英國計算機協會的前任主席。上周在墨爾本舉行的國際人工智能聯合會議上培根教授表示，那些關于AI的法律的辯論仍面臨著大量復雜的問題亟待解決。

在上述無人駕駛汽車的例子中，培根教授表示，在汽車中輸入的程序需要取代人類在同樣情況下所做的思考。"現在作為一名司機，你必須做出一個瞬間的決定，但對于自動駕駛汽車，你必須通過編程來判斷其后果。"在沒有選擇的情況下，你會怎么做?

"你可以直接用數字來解決。"汽車可能會說，"我要離開公路，選擇犧牲自己車里的人，而不是那五個行人。"這取決于汽車的人工智能設計，以及人們對社會的價值。比如說汽車里的人碰巧掌握治愈癌癥的方法，而路上那五個人都是越獄的逃犯。

"也許你說他們對社會的價值更少，所以你可能會說'我要把那個人留在車里'。如果你真的考慮到人們對社會的價值，那就會產生可怕的后果。"如果你有一臺電腦可以進行瞬間的查找，自動駕駛汽車有各種各樣的關于他們周圍的人的知識來做出實際的決策。想到如何去編這個程序是很可怕的。接下來的問題是，如果你對算法進行編程，說"殺死這些人"，那么法院是否會認為這是蓄意謀殺?

偏見or蓄意謀殺?

培根教授說:"人們制造自動駕駛汽車就是個巨大的社會道德問題。"他還表示政府需要站出來，解決這些棘手的問題，"政府應該迎頭趕上，但我認為他們沒有。他們的立法往往落后于現實。我認為他們需要嘗試制定一些相關法律。對決策的實際微調可以在公司層面進行，在中層管理層面上，它可以在程序員的實際水平上完成--這就是我們存在潛在偏見的問題，可能是有意識的偏見或無意識的偏見。"

當你的工作是為無人駕駛汽車編程時，你可能會不同意公司關于自動駕駛汽車應該如何處理不同路況的問題。你會讓汽車去撞死行人，不惜一切代價保護車上的人嗎?對此，培根教授說:"偏見會在任何程度的生產中蔓延。每個人都有自己評判對錯的標準，也有自己的個人底線，知道自己能夠與之互動。如果你處于壓力之下，你不想失去工作，你的老板會給你施加壓力，讓你做一些你覺得不舒服的事情，這是非常困難的。

黑客操控僵尸車引發的擔憂

《速度與激情8》里的僵尸車讓人們看到了無人駕駛汽車被黑客入侵的場景。現實中，在美國有黑客成功侵入了汽車，并改變了汽車的路徑軌跡，其中包括自動踩下剎車等。"在全球范圍內，人工智能可以發揮巨大的作用。但可悲的是，有些人想要傷害我們，他們是不道德的。"培根說:"如果你想要在車里殺一個人，你就可以侵入他們的汽車，理論上，他們可以把車開到懸崖邊或者撞到墻上。你可以讓它看起來像個意外。"

此外，培根教授還說，雖然我們的道路上仍會有許多死亡案例的發生，但自動駕駛汽車的帶來，會大幅削減人為駕駛導致的死亡人數，但是也有可能會帶來新一輪"不同類型的死亡"。比如，人類司機可能會殺死A，但自動駕駛汽車可能會殺死B，因為他們的算法不同。

"除了自動駕駛汽車，培根還補充說，人工智能將會滲透到其他領域，比如戰場。"不久之后，我們就不再把人送進戰爭了，"她說。"我們派無人機和機器人參與戰斗，幫助我們發射導彈。"人們遠程控制機器人進行戰斗。這就是未來的發展方向，很有可能會成為現實。"從這個意義上說，當我們有能夠做到這一點的機器人時，人們在前線被殺的可能性會更大。這改變了戰爭的性質，改變了決策的性質。"

當車禍發生，誰應被起訴?

當我們的親人被無人駕駛汽車撞到，我們應該去起訴誰?"這是個大問題，"培根說，"我確實認為，在立法方面，我們需要政府的幫助，因為這是一個非常困難的問題。"關于如何起訴機器人，有一些討論，不過我不太明白這是怎么運作的，因為機器人沒有銀行賬戶和錢。無人駕駛汽車的發開涉及很多利益相關者，我真的沒有答案。"但保險公司必須要找到答案，因為當事情發生時，他們必須知道誰是罪魁禍首。"這是一個大問題。

目前還沒有多少人了解在道路上使用無人駕駛汽車的意義，而這是一項需要在發展過程中就開展教育的技術。培根說:"我認為整個社會都需要接受這種教育，這樣他們就能理解人工智能是什么，理解它對生活的影響。只有在弄清楚了這一系列事情之后，他們才有資格做出自己的判斷。"最重要的是，培根說，"信任將是關鍵。"她說。"推出無人駕駛汽車的人不會賣任何東西，除非人們真正信任這項技術。"

更多資訊請關注汽車制造頻道