你可能已經(jīng)在新聞中看到，F(xiàn)acebook創(chuàng)始人兼首席執(zhí)行官馬克·扎克伯格最近在國(guó)會(huì)作證，其中包括以下要點(diǎn)：

1、Facebook是一家理想主義和樂(lè)觀的公司，在存在的大部分時(shí)間里，專注于為人與人之間提供更好的聯(lián)系。

2、我們沒(méi)有采取足夠的措施來(lái)防止這些工具也被用于傷害他人。

3、對(duì)自己的責(zé)任認(rèn)識(shí)不夠廣泛，這是一個(gè)大錯(cuò)誤。

有些人對(duì)這些觀點(diǎn)的反應(yīng)是同情的，對(duì)他們來(lái)說(shuō)，這只是一個(gè)例子，工程師們?cè)噲D做正確的事情，無(wú)意中，一些不太正確的事情發(fā)生了。這是硅谷的總體形象，即數(shù)以萬(wàn)計(jì)的工程師都在做正確的事情，有時(shí)他們感到困惑，意識(shí)到這可能并不完全正確。他們?nèi)绱藢Ｗ⒂谥圃旄玫牟妒笃鳎⒁粤钊伺d奮的新技術(shù)向前推進(jìn)，我們很難責(zé)怪他們對(duì)手頭事務(wù)的專注程度。

我記得一家大型科技公司的高級(jí)軟件工程師告訴我，她離開硅谷后開始意識(shí)到，她發(fā)現(xiàn)在她的任何工程團(tuán)隊(duì)中都沒(méi)有真正的專業(yè)“倫理學(xué)家”，一直都是編程。她告訴我，除了正在建造的純粹的工程之外，她從來(lái)沒(méi)有考慮過(guò)對(duì)她的工作有什么考慮。

如果上面的內(nèi)容對(duì)你來(lái)說(shuō)有點(diǎn)在敷衍，那么你并不是孤軍奮戰(zhàn)。憤世嫉俗者說(shuō)，這種企圖創(chuàng)造一個(gè)有益健康的形象，不過(guò)是一個(gè)保護(hù)盾牌，被用來(lái)阻止其他人。對(duì)這些批評(píng)者來(lái)說(shuō)，他們斷言理想主義和樂(lè)觀主義的使用是一件天使的斗篷，用在最聰明的馬基雅維利式的方式上。

有一些是介于這些觀點(diǎn)之間的，他們說(shuō)也許有真正的理想主義，并夾雜著一些狡猾，但這些工程師就像天真的孩子，需要一個(gè)成年人在房間里。事實(shí)上，你可能還記得，當(dāng)約翰·斯卡利(JohnSculley)進(jìn)入蘋果公司(Apple)時(shí)，人們認(rèn)為，最終是一位負(fù)責(zé)任的家長(zhǎng)掌舵這家公司。他希望這位慈父般的人物能讓公司重新聚焦，他會(huì)從商業(yè)和工業(yè)的角度看待那些孤立的工程師，他們似乎不知道公司的圍墻之外還有什么存在。在這種觀點(diǎn)下，工程師就像他們自己的工程操場(chǎng)上天真的孩子，他們還沒(méi)有面對(duì)現(xiàn)實(shí)世界，他們將繼續(xù)這樣下去，直到一個(gè)成年人進(jìn)入這個(gè)世界。

以理想主義為主導(dǎo)的人工智能汽車

回到扎克伯格的講話，請(qǐng)?jiān)试S我做一些調(diào)整，我們可能或看到其他的高管講話：

“我們是一家理想主義和樂(lè)觀的公司。在我們存在的大部分時(shí)間里，我們專注于人工智能汽車所能帶來(lái)的一切好處?！?。

“現(xiàn)在很明顯，我們沒(méi)有采取足夠的措施來(lái)防止我們的人工智能汽車受到傷害。”

“我們對(duì)自己的責(zé)任認(rèn)識(shí)不夠廣泛，這是一個(gè)大錯(cuò)誤?！?

是的，有一天，這可能是人工智能汽車制造商的一位高管在向國(guó)會(huì)作證時(shí)可能會(huì)說(shuō)的話。

現(xiàn)在，自動(dòng)駕駛汽車行業(yè)的許多人都充滿了理想主義，他們想制造人工智能汽車，以改善社會(huì)，他們相信人工智能汽車的出現(xiàn)將使移動(dòng)性民主化。他們還相信，人工智能汽車將拯救生命，你會(huì)不斷地聽到有多少人因?yàn)榫坪篑{車撞人而喪生，而人工智能永遠(yuǎn)不會(huì)喝醉，所以我們不會(huì)再以這種方式失去生命了。

與這種理想主義的一個(gè)“小”區(qū)別是，它涉及到生與死。如果你因?yàn)橐粋€(gè)社交媒體系統(tǒng)而失去了一些隱私，這可能會(huì)很糟糕，但它很少會(huì)讓你付出生命的代價(jià)。如果你的人工智能汽車由于人工智能中的某些東西而出現(xiàn)故障，這可能意味著自動(dòng)駕駛汽車撞到了墻上，或者撞上了行人，或者帶來(lái)了其他可怕的結(jié)果。

我們正在開發(fā)人工智能汽車系統(tǒng)，必須認(rèn)識(shí)到這其中所涉及的巨大責(zé)任，并呼吁我們的同事和合作伙伴同樣意識(shí)到并承擔(dān)這一責(zé)任。

它也是人工智能的整體

我們也可以擴(kuò)大范圍，不僅僅是人工智能汽車，并考慮整個(gè)空間的人工智能努力。正在進(jìn)行的一些涉及人工智能開發(fā)人員和建造人工智能系統(tǒng)的激烈辯論是否沒(méi)有充分考慮到這類系統(tǒng)可能對(duì)人民和社會(huì)產(chǎn)生的影響。能像人類一樣走路和說(shuō)話的機(jī)器人，這是一件好事，但是它也有不利的后果。日常人類所做的工作可能會(huì)被人工智能所取代，不管是好是壞，這些方面可以徹底改變我們工作、娛樂(lè)和生活的結(jié)構(gòu)，這難道不值得我們思考嗎?

許多人工智能領(lǐng)域的人會(huì)聲稱，他們只是想打破界限，看看人工智能走多遠(yuǎn)。他們把注意力集中在實(shí)現(xiàn)真正的人工智能上，就像達(dá)到一座大家都認(rèn)為不可能攀登的高山一樣。他們希望人工智能像人類一樣發(fā)揮作用，因?yàn)樗强梢宰龅降?或者證明它是可以做到的)，他們認(rèn)為人工智能是一個(gè)有價(jià)值的挑戰(zhàn)，這是一個(gè)有待解決的難題。有些人擔(dān)心這會(huì)讓我們陷入類似科學(xué)怪人的境地。

貫穿這一理想主義的一個(gè)共同主線是，對(duì)這些開發(fā)人員的努力的后果缺乏關(guān)注。這是一個(gè)合理的借口，事后說(shuō)，你從來(lái)沒(méi)有想到有一天，你的創(chuàng)造和發(fā)明可能會(huì)產(chǎn)生不利的后果?這是個(gè)大問(wèn)題。

有一些人不相信這種事后復(fù)古的觀點(diǎn)，這種觀點(diǎn)似乎把可能被認(rèn)為是罪犯的東西變成了受害者。有些人創(chuàng)造了一些有不良后果的東西，試圖通過(guò)將聚光燈從作惡者轉(zhuǎn)移到受害者的方式來(lái)擺脫困境。他們只是想做好事，他們不是想做壞事。在試圖做好事的過(guò)程中，不幸和不可預(yù)知的事情有時(shí)會(huì)變壞，哦，對(duì)不起，我們是自己天真的犧牲品。因此，人們的反應(yīng)應(yīng)該是同情，而不是生他們的氣。讓他們感到悲哀的是，他們的正義努力產(chǎn)生了一些不幸的結(jié)果，但在那些“意外”的結(jié)果中，他們和我們其他人一樣是受害者。

這些不良后果真的是不可預(yù)測(cè)和無(wú)法預(yù)料的嗎?

是不可預(yù)測(cè)的嗎?

對(duì)許多人來(lái)說(shuō)，這是一種令人憤怒的說(shuō)法，即不利的結(jié)果是完全不可預(yù)測(cè)的，他們說(shuō)這是不可信的。在一個(gè)擔(dān)心氣候變化，人口過(guò)剩，核戰(zhàn)爭(zhēng)，以及最近社會(huì)影響意識(shí)的擴(kuò)張的世界里，像“自我運(yùn)動(dòng)”這樣的運(yùn)動(dòng)，真的還有人生活在一個(gè)洞穴里，以至于他們沒(méi)有考慮可能會(huì)發(fā)生什么壞事嗎?在人工智能汽車方面，我一直在告誡人們，在建造和部署人工智能汽車時(shí)，需要考慮現(xiàn)實(shí)世界的現(xiàn)實(shí)生活后果和道德問(wèn)題，而且不知何故，等到之后再做這些事情既魯莽，又可能失敗，這是一種愚蠢的行為，也是一條可能失敗的道路。

但是，如果有人注意到這些規(guī)勸，就必須問(wèn)一問(wèn)。憤世嫉俗者說(shuō)，這些開發(fā)人員中的一些人在傾聽，但選擇忽略它，他們想要得到那些錢，并不想知道事情的進(jìn)展?；蛘撸麄冋J(rèn)為，傾聽并根據(jù)這些考慮采取行動(dòng)，會(huì)分散人們對(duì)解決深層問(wèn)題的注意力。他們會(huì)說(shuō)他們沒(méi)有時(shí)間擔(dān)心，可以說(shuō)，他們只有足夠的時(shí)間來(lái)完成這項(xiàng)工作。計(jì)算機(jī)行業(yè)正在努力培養(yǎng)一套道德準(zhǔn)則，這將有助于激勵(lì)開發(fā)人員考慮他們的努力的后果。

那些陷入這種困境的公司經(jīng)常使用的一個(gè)反駁是，一旦你用理想主義的純粹主義作為一種框架來(lái)對(duì)待他們，并指出他們一路上可能也賺了很多錢，那么激勵(lì)他們的不僅僅是理想主義的神圣性，他們會(huì)回應(yīng)說(shuō)：他們必須賺錢，但這僅僅是為了提供燃料，讓他們的理想主義繼續(xù)下去。他們把錢和理想主義聯(lián)系在一起，這把金錢方面巧妙地隱藏起來(lái)了，也許他們是對(duì)的，也許這是另一個(gè)詭計(jì)。誰(shuí)會(huì)知道呢?

還有另一個(gè)角度，有人說(shuō)，如果我們看到真正的宏觀圖景，我們可能會(huì)意識(shí)到，發(fā)生的“壞”是更大的旅程的一部分，最終把我們帶到更大的好。也許Facebook的隱私方面是善意的提醒，個(gè)人隱私的重要性，因此，它啟發(fā)社會(huì)，并喚醒所有其他社會(huì)媒體網(wǎng)站。你必須先爬，然后才能走，在旅途中，你需要摔倒一些時(shí)間，這沒(méi)什么，這是為了更好地行走。從這個(gè)意義上說(shuō)，facebook所做的實(shí)際上就是有意義的，不管它是出于偶然還是有意而為，不管怎樣，這都是一個(gè)重要的、偶然的警鐘。

在人工智能汽車領(lǐng)域，一些汽車制造商和科技公司擔(dān)心，如果我們今天讓一些涉及自動(dòng)駕駛汽車的“死亡事件”來(lái)阻止我們，我們將無(wú)法獲得最終減少未來(lái)死亡人數(shù)的更大好處。這是凈現(xiàn)值型的等式。假設(shè)在第一輪人工智能汽車中，每年有1000人死亡，這是連續(xù)5年發(fā)生的(由于人工智能汽車的失敗)，但它允許人工智能汽車的整體改進(jìn)，從而完善它們。假設(shè)沒(méi)有人工智能汽車，我們將有3萬(wàn)人死亡。在某一時(shí)刻，凈效應(yīng)將是在足夠長(zhǎng)的一段時(shí)間內(nèi)總死亡人數(shù)將減少(在長(zhǎng)期內(nèi)傳統(tǒng)汽車死亡人數(shù)的減少將超過(guò)短期內(nèi)人工智能汽車“額外”死亡的總數(shù))。因此，他們說(shuō)，你需要容忍現(xiàn)在發(fā)生的一些近期死亡，作為以后不再發(fā)生長(zhǎng)期死亡的一種交換條件。

如果你或你所愛(ài)的不小心成為了人工智能汽車導(dǎo)致的死亡人員中，很難想象你為更大的利益而死會(huì)感到很大的安慰。你肯定會(huì)問(wèn)，難道一定以現(xiàn)在的犧牲獲取以后更大的利益?難道沒(méi)有其他的解決辦法?

在人工智能汽車中的應(yīng)用

讓我們關(guān)注一下這一切對(duì)人工智能汽車意味著什么，這里有一些要點(diǎn)需要考慮：

1、人工智能汽車制造商現(xiàn)在需要考慮人工智能汽車的潛在不利后果，他們需要做他們現(xiàn)在能做的來(lái)防止或減輕這些未來(lái)的可預(yù)測(cè)的后果。

2、參與制造人工智能汽車的人工智能開發(fā)人員和工程師也需要考慮這些不利后果，并且要像倫理學(xué)家一樣小心。

3、用理想主義給你力量和精神去堅(jiān)持一個(gè)非常艱巨的追求，但是不要讓理想主義縮小你的思維，以至于你也忽視了事物的壞的一面。

4、樂(lè)觀地認(rèn)為，我們可以實(shí)現(xiàn)安全的人工智能汽車，這將為社會(huì)提供預(yù)期的好處，但溫和的“悲觀”的因素，認(rèn)為人工智能很可能會(huì)來(lái)一些壞處，所以請(qǐng)您盡全力來(lái)遏制它。

5、讓我們以后不要以這樣的姿態(tài)回顧過(guò)去，說(shuō)如果我們向前看，預(yù)測(cè)可能發(fā)生的事情，無(wú)論是好的還是壞的，并且盡早做一些事情來(lái)彌補(bǔ)。

據(jù)我所知，大多數(shù)人工智能汽車開發(fā)商都是非常理想主義的樂(lè)觀主義者，對(duì)此，我們應(yīng)該心存感激。然而，今天的世界已經(jīng)不像五十年前那樣了，也就是說(shuō)，對(duì)這個(gè)世界的天真似乎不再可能了。人工智能汽車制造商和人工智能汽車開發(fā)商需要承認(rèn)，他們有沉重的責(zé)任，并承擔(dān)著這一沉重的負(fù)擔(dān)，負(fù)責(zé)任地開發(fā)和現(xiàn)場(chǎng)安全可靠的人工智能汽車。