研究目標(biāo)：人工智能研究的目標(biāo)應(yīng)該是創(chuàng)造有益的智能，而不是無方向的智能。從表面上看，研究目標(biāo)原則可能不像其他一些更直接涉及我們?nèi)绾闻cai人工智能互動以及超級智能的影響的原則那樣，顯得那么迷人或令人興奮，但其他所有的都是從這個第一原理衍生出來的。

簡單地說，如果沒有人工智能系統(tǒng)的研究和研究人員的特定目標(biāo)，人工智能就無法發(fā)展。然而，在不考慮研究可能的長期影響的情況下，參與研究并努力實現(xiàn)廣泛的人工智能目標(biāo)，可能對社會有害。

在“侏羅紀(jì)公園”中有這樣一個場景，杰夫·戈德布拉姆扮演的角色哀嘆說，“創(chuàng)造恐龍的科學(xué)家們，正全神貫注于他們能否做到這一點，以至于他們沒有停下來思考是否應(yīng)該這樣做?！敝钡阶罱?，人工智能研究人員還主要集中在找出他們可以完成什么，沒有更長遠(yuǎn)的考慮，而且是有充分理由的：科學(xué)家們只是試圖讓他們的人工智能程序發(fā)揮作用，結(jié)果太有限。

但是在過去的幾年里，科學(xué)家們在人工智能方面取得了很大的進(jìn)展，人工智能對社會的影響已經(jīng)被感受到了，正如我們所看到的，偏見和歧視的一些問題已經(jīng)出現(xiàn)了，這并不總是好的。

姿態(tài)偏移

不幸的是，在人工智能研究中仍然存在一種文化，這種文化太過接受這樣一種觀點，即開發(fā)人員不必對他們的產(chǎn)品的使用方式負(fù)責(zé)。這種我只是制造工具，讓別人來決定它們是好的還是壞的態(tài)度是不對的。如果你參與了制作這些功能強大的工具的過程，你就有責(zé)任盡你所能確保這些工具朝著一個總體上有益的方向發(fā)展。有了人工智能，每個參與其中的人都有責(zé)任把它推向一個積極的方向，把權(quán)力交給已經(jīng)強大的人，讓他們變得更強大，讓自己受益。

什么是“有益的”?

與我交談過的其他人工智能專家也同意這一原則的一般想法，但對該原則的措辭并不完全一致?？紤]到人工智能可能被誤用或濫用，最重要的是要有一個明確的積極目標(biāo)。它可能會被掛在什么是這個詞的“有益”的意思。如果我們把它指向有益的智力，我們必須定義我們的術(shù)語;我們必須定義什么是有益的含義，而這對我來說是不清楚的。這對不同的人來說意味著不同的事情，你能讓每個人都受益是罕見的。

長期研究

路易斯維爾大學(xué)人工智能研究員羅曼·亞波斯基將討論帶回到最關(guān)心的問題上：就體系結(jié)構(gòu)和目標(biāo)而言，可能的智能代理的宇宙是無限的。僅僅試圖設(shè)計一種有能力的智力是不夠的，重要的是要明確地以一種符合人類目標(biāo)的智力為目標(biāo)。在浩瀚的可能目標(biāo)的海洋中，這是一個非常狹窄的目標(biāo)，因此大多數(shù)智能代理不會為我們的價值觀做一個很好的優(yōu)化器，從而導(dǎo)致惡意的或至少是冷漠的人工智能(這也是非常危險的)。只有將未來的超級智慧與我們的真正目標(biāo)結(jié)合起來，我們才能從我們的智力繼承者那里獲得巨大的利益，并避免存在的災(zāi)難。