在某種程度上，我們將獲得具有人類一般智能的AGI計(jì)算機(jī)后。只是一群人和計(jì)算機(jī)平等地生活在一起。

哦，實(shí)際上并不會(huì)。

問題是，AGI具有與人類相同的智能和計(jì)算能力水平，但仍然具有優(yōu)于人類的優(yōu)勢。如：

硬件

速度。大腦的神經(jīng)元最大頻率大約為200赫茲，而今天的微處理器（比我們達(dá)到AGI時(shí)慢得多）運(yùn)行頻率為2 GHz，比我們的神經(jīng)元快1000萬倍。大腦的內(nèi)部通信速度可以達(dá)到120米/秒，但與計(jì)算機(jī)以光速進(jìn)行光學(xué)通信的能力相比還是要慢得多。尺寸和存儲(chǔ)。大腦被我們頭骨的形狀限制住了它的大小，而且無論如何它都不會(huì)變大，或者120米/秒的內(nèi)部通信需要很長時(shí)間才能從一個(gè)大腦結(jié)構(gòu)到另一個(gè)大腦結(jié)構(gòu)。計(jì)算機(jī)可以擴(kuò)展到任何物理尺寸，允許更多的硬件投入工作，更大的工作內(nèi)存（RAM）和長期內(nèi)存（硬盤存儲(chǔ)），它具有比我們自己更大的容量和精度。可靠性和耐用性。不僅是計(jì)算機(jī)的記憶更精確。計(jì)算機(jī)晶體管比生物神經(jīng)元更準(zhǔn)確，并且它們不太可能惡化（并且如果它們退化了還可以被修復(fù)或替換）。人類的大腦也很容易疲勞，而計(jì)算機(jī)可以不間斷運(yùn)行，性能達(dá)到最佳狀態(tài)的情況下可以每周7天每天24小時(shí)運(yùn)行。軟件

可編輯性，可升級(jí)性和更廣泛的可能性。與人腦不同，計(jì)算機(jī)軟件可以接收更新和修復(fù)，并且可以輕松地進(jìn)行實(shí)驗(yàn)。升級(jí)也可能擴(kuò)展人類大腦薄弱的領(lǐng)域。人類視覺軟件非常先進(jìn)，但其復(fù)雜的工程能力相當(dāng)?shù)?。?jì)算機(jī)可以在視覺軟件匹配人類視覺，但也可以在工程和任何其他領(lǐng)域同樣進(jìn)行優(yōu)化。集體能力。人類在建立一個(gè)龐大的集體智慧時(shí)壓倒了其他所有物種。從語言的發(fā)展和大型密集社區(qū)的形成開始，通過寫作和印刷的發(fā)明，到現(xiàn)在通過互聯(lián)網(wǎng)等工具得到加強(qiáng)，人類的集體智慧是我們能夠遠(yuǎn)遠(yuǎn)超過所有其他物種的主要原因之一。計(jì)算機(jī)將比我們做的更好。運(yùn)行特定程序的全球人工智能網(wǎng)絡(luò)可以定期與自身同步，以便任何一臺(tái)計(jì)算機(jī)學(xué)到的任何東西都可以立即上傳到所有其他計(jì)算機(jī)。這個(gè)群體還可以作為一個(gè)單元來實(shí)現(xiàn)一個(gè)目標(biāo)，因?yàn)闆]有不會(huì)像我們?nèi)祟惸菢樱嬖诓煌囊庖?、?dòng)機(jī)和私利。人工智能很可能通過編程進(jìn)行自我提高而達(dá)到AGI，它不會(huì)將“人類水平的智能”視為一個(gè)重要的里程碑 - 從我們的角度講，它只是一個(gè)相關(guān)標(biāo)記 - 并且沒有任何理由在達(dá)到我們的智力水平后“停止”。而且鑒于AGI相對于人類的優(yōu)勢，及時(shí)是與人類智力相當(dāng)?shù)腁GI也會(huì)有優(yōu)勢，很明顯它只能在短暫的時(shí)間內(nèi)攻擊人類智能，然后才能加速進(jìn)入優(yōu)于人類智能的領(lǐng)域。

當(dāng)它發(fā)生時(shí)，可能會(huì)嚇得我們屁滾尿流。原因在于，從我們的角度來看，A）雖然不同種類的動(dòng)物的智力各不相同，但我們對任何動(dòng)物的智力所了解的主要特征是它遠(yuǎn)低于我們的智力，B）我們認(rèn)為最聰明的人比最笨的人聰明的多。有點(diǎn)像這樣：

因此，當(dāng)人工智能向我們的智能向上逼近時(shí)，我們會(huì)將其視為動(dòng)物而言，它只是變得更聰明了。然后，當(dāng)它達(dá)到人類最低的能力時(shí) - 尼克博斯特羅姆使用“村里的白癡”了這一詞 - 我們會(huì)說，“哇哦，這就像一個(gè)愚蠢的人類。真可愛！“唯一的事情是，在大范圍的智能中，所有人類，從村里的白癡到愛因斯坦，都在一個(gè)非常小的范圍內(nèi) - 所以剛剛擊敗村里的白癡水平并被宣布為AGI后，它會(huì)突然比愛因斯坦更聰明，并且我們不知道是什么擊敗了我們:

那會(huì)發(fā)生什么。。。。。。之后呢？

我希望你享受正常的時(shí)間，因?yàn)檫@是當(dāng)這個(gè)話題變得不正常和可怕的時(shí)候，它會(huì)從這里繼續(xù)前進(jìn)。我想在這里暫停并提醒你，我要說的每一件事都是真實(shí)的科學(xué)，都是對未來的真實(shí)預(yù)測，這些預(yù)測來自一大批最受尊敬的思想家和科學(xué)家，請記住這一點(diǎn)。

無論如何，正如我上面所說，我們目前大多數(shù)的AGI的模型都是通過人工智能的自我改進(jìn)來實(shí)現(xiàn)目標(biāo)。一旦進(jìn)入AGI時(shí)代，即使一些通過不涉及自我改進(jìn)的方法形成和發(fā)展的系統(tǒng)現(xiàn)在也足夠智能，如果他們愿意，就可以開始自我改進(jìn)了。

在這里我們得到了一個(gè)強(qiáng)烈的概念：遞歸的自我改善。它的工作原理如下 -

在一定水平上的人工智能系統(tǒng) - 比方說人類村莊的白癡 - 被編程的目標(biāo)是提高自身的智能。一旦它做到了，它就會(huì)變得更聰明了 -也許在這一點(diǎn)上它已經(jīng)處于愛因斯坦的水平 - 所以現(xiàn)在當(dāng)它用愛因斯坦級(jí)別的智力改善自身智力時(shí)，會(huì)變得更加容易，它可以實(shí)現(xiàn)更大的飛躍。這些飛躍使它比任何人類都聰明得多，并允許它實(shí)現(xiàn)更大的飛躍。隨著飛躍變得越來越高并且發(fā)生得越來越快，AGI在智能上飆升并很快達(dá)到ASI系統(tǒng)的超級(jí)智能水平。這被稱為智力爆炸，并且它是加速回歸法的最終例證。

關(guān)于人工智能將在多長時(shí)間內(nèi)達(dá)到人類一般智能的問題還存在爭議。對數(shù)百名科學(xué)家進(jìn)行的一項(xiàng)調(diào)查顯示，他們認(rèn)為我們更有可能達(dá)到AGI的時(shí)候是2040年- 那是25年后，這聽起來并不那么近，直到你認(rèn)為很多在這一領(lǐng)域的思想家認(rèn)為這很可能是真的，并且從AGI到ASI的進(jìn)展情況非常迅速。這可能真的會(huì)發(fā)生：

第一個(gè)人工智能系統(tǒng)需要幾十年才能達(dá)到低水平的一般智能，但它最終實(shí)現(xiàn)了。計(jì)算機(jī)能夠像四歲的人類一樣開始理解周圍的世界。突然間，在達(dá)到這個(gè)里程碑的一個(gè)小時(shí)內(nèi)，該系統(tǒng)推出了統(tǒng)一廣義相對論和量子力學(xué)的宏觀物理理論，這是人類無法確定到的事情。在那之后的90分鐘，人工智能變成了ASI，比人類智能高出17萬倍。

這種規(guī)模的超級(jí)智能遠(yuǎn)不是我們可以掌握的，不僅僅是一只大黃蜂無法理解凱恩斯主義經(jīng)濟(jì)學(xué)一樣。在我們的世界中，聰明意味著智商為130，而愚蠢意味著智商為85 - 我們沒有一個(gè)詞形容12，952的智商。

我們所知道的是，人類在這個(gè)地球上的全面統(tǒng)治表明了一個(gè)明確的規(guī)則：智慧帶來了力量。這意味著我們創(chuàng)造了一個(gè)ASI的時(shí)候，它將成為地球上生命歷史中最強(qiáng)大的存在，包括人類在內(nèi)的所有生物都將完全聽從他的意愿 - 這很可能會(huì)在未來幾十年內(nèi)發(fā)生。

如果我們的大腦能夠發(fā)明wifi，那么比我們聰明100倍或1000倍或10億倍的東西應(yīng)該沒有任何問題在任何時(shí)候以任何方式控制世界上任何一個(gè)原子的位置 - 我們所有的一切考慮就像魔法，我們想象的這種力量是至高無上的神，對于我們來說，翻轉(zhuǎn)燈開關(guān)對于ASI來說是一項(xiàng)平凡的活動(dòng)。創(chuàng)造技術(shù)以扭轉(zhuǎn)人類衰老，治愈疾病和饑餓甚至死亡，重新編程天氣以保護(hù)地球上的生命的未來 - 所有這些問題都都突然變得可能實(shí)現(xiàn)。也有可能是地球上所有生命的直接結(jié)束。就我們而言，如果ASI成為現(xiàn)實(shí)，那么現(xiàn)在地球上就會(huì)有一位無所不能的上帝 - 對我們來說，最重要的問題是：

它會(huì)是一個(gè)好神么？