社會(huì)組成的每一部分都會(huì)在一個(gè)未知的時(shí)間發(fā)生重大的改變，這一過(guò)渡中發(fā)揮作用的人有責(zé)任和機(jī)會(huì)來(lái)塑造最好的它。什么會(huì)引發(fā)這種變化?當(dāng)然只有人工智能。

最近，人工智能和相關(guān)領(lǐng)域的一些頂尖人物聚在一起討論如何確保人工智能在整個(gè)過(guò)渡過(guò)程中仍然是有益的，其結(jié)果是Asilomar AI原則文檔。這23條原則的目的是提供一個(gè)框架，幫助人工智能造福盡可能多的人。

這些原則代表著對(duì)話的開(kāi)始，現(xiàn)在對(duì)話正在進(jìn)行中，我們需要對(duì)每一個(gè)單獨(dú)的原則進(jìn)行廣泛的討論。這些原則對(duì)不同的人意味著不同的事情，為了使社會(huì)盡可能多地受益，我們需要逐條考慮每一項(xiàng)原則。

價(jià)值比對(duì)

價(jià)值調(diào)整：高度自治的人工智能系統(tǒng)的設(shè)計(jì)應(yīng)該確保它們的目標(biāo)和行為能夠在整個(gè)運(yùn)行過(guò)程中與人類的價(jià)值保持一致。

在人工智能領(lǐng)域，我們面臨著類似的情況：我們?nèi)绾未_保一個(gè)人工智能會(huì)做我們真正想做的事，同時(shí)又不會(huì)在錯(cuò)誤的嘗試中傷害人類，去做它的設(shè)計(jì)者所要求的事情?“機(jī)器人不會(huì)試圖反抗人類，”加州大學(xué)伯克利分校羅素大學(xué)的助理教授、同事安卡·德拉甘解釋說(shuō)，“他們只會(huì)嘗試優(yōu)化我們讓他們做的任何事情?！币虼?，我們需要確保告訴他們，為我們真正想要的世界進(jìn)行優(yōu)化。

我們想要什么?

了解我們想要什么是人工智能研究人員面臨的最大挑戰(zhàn)之一。當(dāng)然，問(wèn)題是要定義這些價(jià)值觀到底是什么，因?yàn)槿藗兛赡苡胁煌奈幕瑏?lái)自世界不同的地方，有不同的社會(huì)經(jīng)濟(jì)背景-我認(rèn)為人們對(duì)這些價(jià)值觀會(huì)有非常不同的看法，所以這才是真正的挑戰(zhàn)。

在編程語(yǔ)言中編碼人類價(jià)值觀是非常困難的，但這一問(wèn)題更難解決，因?yàn)槲覀內(nèi)祟愒诠餐瑑r(jià)值觀上不一致，甚至我們?cè)谀承┎糠稚线_(dá)成一致意見(jiàn)也會(huì)隨著時(shí)間的推移而改變。雖然有些價(jià)值觀很難達(dá)成共識(shí)，但也有很多價(jià)值觀是我們都默示認(rèn)同的。任何人類都能理解與他們交往過(guò)的情感和情感價(jià)值，但很難保證機(jī)器人也能以同樣的理解被編程。

我們可以進(jìn)行科學(xué)研究，以真正了解如何從我們都認(rèn)同的這些價(jià)值觀轉(zhuǎn)變?yōu)閷⑵淝度氲脚c人類共同工作的人工智能系統(tǒng)中。研究人員從另一個(gè)角度來(lái)研究這個(gè)問(wèn)題的，沒(méi)有試著去理解人，而是試圖訓(xùn)練機(jī)器人或人工智能在與人互動(dòng)時(shí)，能夠靈活地實(shí)現(xiàn)自己的目標(biāo)。對(duì)于代理人來(lái)說(shuō)，重要的是對(duì)他們的目標(biāo)有不確定性，而不是假設(shè)他們是完全指定的，并且把人類的投入當(dāng)作對(duì)真正潛在的期望目標(biāo)的有價(jià)值的觀察。

改寫(xiě)原則?

雖然大多數(shù)研究人員同意價(jià)值對(duì)齊原則的基本思想，但并不是每個(gè)人都同意它的措辭，更不用說(shuō)如何實(shí)現(xiàn)它了。人工智能先驅(qū)、蒙特利爾大學(xué)教授YoshuaBengio認(rèn)為，這不可能是完全一致的。有很多東西是與生俱來(lái)的，我們無(wú)法通過(guò)機(jī)器學(xué)習(xí)來(lái)獲得，也可能很難通過(guò)哲學(xué)或內(nèi)省來(lái)獲得，所以還不完全清楚我們是否能夠完美地對(duì)齊。

盡管價(jià)值匹配通常被認(rèn)為是一個(gè)未來(lái)會(huì)出現(xiàn)的問(wèn)題，但這是需要盡早解決的問(wèn)題，我們今天必須擔(dān)心如何執(zhí)行這一原則。隨著系統(tǒng)變得更加復(fù)雜，這將有助于解決更具挑戰(zhàn)性的價(jià)值調(diào)整問(wèn)題。這是幫助ai人工智能找出它應(yīng)該做什么的一個(gè)步驟，不斷地細(xì)化目標(biāo)應(yīng)該是人類和人工智能之間的一個(gè)持續(xù)的過(guò)程。

你怎么看?

人工智能與你自己的生活目標(biāo)和愿望相一致對(duì)你來(lái)說(shuō)意味著什么?它怎么能在同一時(shí)間與你和世界上的其他人保持一致呢?我們?nèi)绾未_保一個(gè)人的理想人工智能版本不會(huì)讓你的生活更困難?我們?nèi)绾尉腿祟悆r(jià)值觀達(dá)成一致?我們?nèi)绾未_保人工智能理解這些價(jià)值觀?如果你有一個(gè)個(gè)人人工智能助手，它應(yīng)該如何被編程來(lái)表現(xiàn)?如果我們讓人工智能更多地參與到醫(yī)學(xué)、警務(wù)或教育等領(lǐng)域，那會(huì)是什么樣子呢?作為一個(gè)社會(huì)，我們還應(yīng)該問(wèn)些什么呢?