近年來(lái)，人工智能的發(fā)展非常迅速。計(jì)算機(jī)程序在各種游戲中逐漸取代了人類(lèi)的地位，自動(dòng)駕駛汽車(chē)正出現(xiàn)在道路上，ai人工智能在圖像和語(yǔ)音識(shí)別方面的表現(xiàn)開(kāi)始超過(guò)人類(lèi)。

伴隨著所有這些進(jìn)步，許多關(guān)于人工智能對(duì)人類(lèi)社會(huì)影響的擔(dān)憂已經(jīng)擺到了最重要的位置。我們應(yīng)該如何設(shè)計(jì)和管理自動(dòng)駕駛汽車(chē)和類(lèi)似的技術(shù)?人工智能系統(tǒng)會(huì)使大部分人口失業(yè)嗎?人工智能會(huì)產(chǎn)生意想不到的社會(huì)學(xué)后果嗎?(想想精確預(yù)測(cè)一個(gè)人喜歡哪些新聞文章，從而導(dǎo)致社會(huì)兩極分化的算法，或者預(yù)測(cè)某人是否會(huì)拖欠貸款或?qū)嵤┝硪豁?xiàng)犯罪的算法，這些算法會(huì)因?yàn)檩斎氲臄?shù)據(jù)而帶有種族偏見(jiàn))。

人工智能會(huì)被暴虐的政府濫用來(lái)嗅探和扼殺任何正在萌芽的異見(jiàn)嗎?我們甚至應(yīng)該擔(dān)心，人工智能最終將成為“超級(jí)智能”，智力在任何重要方面都比人類(lèi)更有能力，使我們過(guò)時(shí)甚至滅絕嗎?雖然這最后的擔(dān)憂一度純粹是在科幻小說(shuō)領(lǐng)域，但包括埃隆·馬斯克(Elon Musk)、比爾·蓋茨(Bill Gates)和斯蒂芬·霍金(Stephen Hawking)在內(nèi)的著名人物最近提出，需要認(rèn)真對(duì)待這一問(wèn)題。

這些關(guān)注點(diǎn)大多是完全不同的，但它們都依賴(lài)于人工智能技術(shù)進(jìn)步的前提。事實(shí)上，除了最后一種情況外，在所有情況下，即使是目前剛剛證明的人工智能能力，在某種程度上也證明了這一點(diǎn)，但進(jìn)一步的進(jìn)展將加劇這種擔(dān)心。進(jìn)一步的進(jìn)展似乎是不可避免的，這既是因?yàn)樗坪鯖](méi)有任何根本性的障礙，也因?yàn)榇罅康馁Y源正在投入人工智能的研究和開(kāi)發(fā)。這些擔(dān)憂相互影響，一個(gè)研究人工智能風(fēng)險(xiǎn)的社區(qū)也開(kāi)始形成了，這包括傳統(tǒng)人工智能研究人員-主要是計(jì)算機(jī)科學(xué)家-以及來(lái)自其他學(xué)科的人：研究人工智能驅(qū)動(dòng)的失業(yè)問(wèn)題的經(jīng)濟(jì)學(xué)家，討論如何最好地監(jiān)管自動(dòng)駕駛汽車(chē)的法律學(xué)者，等等。

大多數(shù)傳統(tǒng)人工智能研究人員不愿推測(cè)我們是否以及何時(shí)能達(dá)到真正的人類(lèi)水平的人工智能：目前的技術(shù)似乎離這一目標(biāo)還有很長(zhǎng)的路要走，而且不清楚有什么新的見(jiàn)解能夠縮小這一差距。他們中的大多數(shù)人也寧愿專(zhuān)注于取得具體的技術(shù)進(jìn)步，而不愿陷入關(guān)于意識(shí)本質(zhì)的哲學(xué)爭(zhēng)論之中。與此同時(shí)，這些研究人員大多愿意認(rèn)真對(duì)待其他關(guān)注的問(wèn)題，這些問(wèn)題在目前的能力中有著具體的基礎(chǔ)。

關(guān)于超級(jí)智能的推測(cè)，聽(tīng)起來(lái)更像是科幻小說(shuō)，而不是科學(xué)，是否有風(fēng)險(xiǎn)會(huì)使專(zhuān)注于真正的人工智能在社會(huì)上負(fù)責(zé)任的發(fā)展這一更大的項(xiàng)目失去信譽(yù)?如果是這樣的話，是不是最好暫時(shí)把有關(guān)超級(jí)智能的討論放在一邊?雖然我很懷疑真正的人類(lèi)水平的人工智能很快就會(huì)被開(kāi)發(fā)出來(lái)的想法，但總的來(lái)說(shuō)，我認(rèn)為，在這些討論中，對(duì)此感到擔(dān)憂的人們應(yīng)該有一席之地。首先，一些最令人驚訝的令人印象深刻的最近技術(shù)成就來(lái)自于那些非?？春萌斯ぶ悄芩苋〉玫某删偷娜?。即使事實(shí)證明我們?nèi)赃h(yuǎn)未接近人類(lèi)水平的人工智能，那些認(rèn)為我們是的人可以為中期可能發(fā)生的事情貢獻(xiàn)出有用的見(jiàn)解。

我認(rèn)為，即使是思考一些非常困難的哲學(xué)問(wèn)題也是有價(jià)值的，比如人工智能是否會(huì)有主觀經(jīng)驗(yàn)，是否有可能成為一個(gè)高度先進(jìn)的人工智能系統(tǒng)。除了對(duì)一些古老的問(wèn)題提出有趣的新見(jiàn)解外，這項(xiàng)活動(dòng)很可能為未來(lái)的社會(huì)辯論提供信息。例如，我們可以想象，在未來(lái)，人們將依附于高度個(gè)性化和人格化的機(jī)器人，這些機(jī)器人在年老時(shí)照顧他們，并在這些機(jī)器人去世后要求給予他們一定的權(quán)利，是否應(yīng)該給予這種權(quán)利?這種情緒應(yīng)該避免嗎?

與此同時(shí)，這場(chǎng)辯論顯然不應(yīng)排斥或關(guān)閉那些真正關(guān)心短期問(wèn)題而又不愿對(duì)長(zhǎng)期問(wèn)題進(jìn)行猜測(cè)的人，尤其是因?yàn)榇蠖鄶?shù)真正的人工智能研究人員都屬于這最后一類(lèi)。除了為短期關(guān)注的問(wèn)題提供解決方案外，他們的參與對(duì)于確保長(zhǎng)期辯論立足于現(xiàn)實(shí)至關(guān)重要。當(dāng)研究團(tuán)體包括有不同觀點(diǎn)和不同副利益的人時(shí)，他們的工作效果最好。很難想象有哪個(gè)話題比人工智能對(duì)人類(lèi)社會(huì)的影響更真實(shí)。