人工智能圈子里的一個(gè)問題是：人工智能什么時(shí)候才會變得更加聰明和有能力，在每一項(xiàng)任務(wù)上都超越人類呢?

通過工作自動化、算法金融交易、自動駕駛汽車和Alexa這樣的家庭助理，人工智能系統(tǒng)已經(jīng)在世界上隨處可見，但與人工智能(Agi-人工智能可以像人類一樣執(zhí)行范圍廣泛的智能任務(wù))的想法相比，這些發(fā)展微不足道。許多計(jì)算機(jī)科學(xué)家預(yù)計(jì)AGI會在某一時(shí)刻出現(xiàn)，但幾乎沒有人對何時(shí)開發(fā)它達(dá)成一致。

鑒于AGI為社會創(chuàng)造一個(gè)積極或破壞性未來的前所未有的潛力，許多人擔(dān)心人類不能對它進(jìn)行控制。然而，意外并不是不可避免的，如果研究人員能夠更好地理解人工智能進(jìn)展的速度和后果，社會就能為更有利的結(jié)果做好準(zhǔn)備。

ai人工智能的影響

雖然我們不能精確地描繪人工智能進(jìn)步的方向，但它并不是完全不可預(yù)測的。項(xiàng)目“人工智能影響”致力于確定和實(shí)施具有成本效益的研究項(xiàng)目，這些項(xiàng)目可以闡明人工智能在未來幾年中將在何時(shí)和如何對社會產(chǎn)生影響。其目標(biāo)是“幫助提高對人工智能投資的社會回報(bào)的估計(jì)，確定被忽視的研究領(lǐng)域，改進(jìn)政策，或有效地引導(dǎo)公眾對人工智能的興趣。

人工智能的影響提出了這樣的問題：人工智能將有多快的發(fā)展?對于破壞性的變化，我們期望得到多少預(yù)先通知?人類水平的人工智能可能對經(jīng)濟(jì)產(chǎn)生什么影響?哪條通往人工智能的道路應(yīng)該被認(rèn)為是可信的或有可能的?關(guān)于當(dāng)代選擇對長期結(jié)果的影響，我們能說些有意義的話嗎?

在2015年對352名人工智能研究人員進(jìn)行的人工智能影響調(diào)查中，這些研究人員預(yù)測，到2060年，人工智能在幾乎所有領(lǐng)域都將超過人類的可能性為50%。然而，專家們也回答了一個(gè)非常相似的問題：75年后的某一天，他們分別給出了大量的答案，很難排除任何可能性。希望對人工智能影響的研究能為這些估計(jì)提供信息，并加以改進(jìn)。

智能爆炸

人工智能研究人員和開發(fā)人員還必須為智能爆炸的可能性做好準(zhǔn)備，強(qiáng)大的人工智能將比人類可能理解或控制的速度更快地提高其智力。

我們的想法是，一旦人工智能變得足夠好，人工智能就會做自己的人工智能研究(而不是人類)，然后我們會讓人工智能做人工智能研究，人工智能研究讓人工智能變得更聰明，然后人工智能可以做更好的人工智能研究，這樣它就會失去控制。

但這種反饋循環(huán)并不是完全不可預(yù)測的，我們已經(jīng)有聰明人在做人工智能研究，這會帶來更好的能力。我們不知道當(dāng)人工智能和人類一樣聰明或者擅長人工智能研究時(shí)，這些東西會是什么樣子，但我們從其他地方得到了一些證據(jù)，我們不應(yīng)該只是說，失控的旋轉(zhuǎn)可能會以任何速度發(fā)生。我們現(xiàn)在可以找到一些線索。例如，我們可以說，一年的研究或努力，你能得到多少人工智能的額外智商分?jǐn)?shù)等。

人工智能影響是一個(gè)正在進(jìn)行的項(xiàng)目，希望能研究發(fā)現(xiàn)它的方式，在有關(guān)智能爆炸和人工智能的其他方面的對話。有了更好的時(shí)間線估計(jì)，也許決策者和慈善家可以更有效地確保先進(jìn)的人工智能不會出其不意地抓住人類。