人工智能系統(tǒng)領(lǐng)域的許多研究人員擔(dān)心人工智能系統(tǒng)發(fā)展的潛在短期后果，然而，想要考慮更先進(jìn)人工智能系統(tǒng)的長期風(fēng)險(xiǎn)的人要少得多。為什么?要開始回答這個(gè)問題，它有助于我們更好地理解在未來5-10年里人工智能系統(tǒng)可能會出現(xiàn)的潛在問題，這將有助于我們更好地理解人工智能系統(tǒng)在未來5-10年的發(fā)展過程中可能會遇到的潛在問題。有助于更好地理解實(shí)際研究人員對人工智能系統(tǒng)安全性的擔(dān)憂，而不是經(jīng)常在媒體上提起的擔(dān)憂。我們想要了解人工智能的信息，首先應(yīng)該收料一些ai人工智能中的術(shù)語。

如果您還沒有接觸或了解人工智能系統(tǒng)，以下術(shù)語可能會有所幫助：

人工智能：一種能學(xué)習(xí)執(zhí)行認(rèn)知任務(wù)的機(jī)器或程序，類似于人腦完成的任務(wù)。通常情況下，程序，或代理，被期望能夠以某種方式與真實(shí)世界互動，而無需其創(chuàng)建者的持續(xù)監(jiān)督。MicrosoftOffice被認(rèn)為是一個(gè)計(jì)算機(jī)程序，因?yàn)樗粫?zhí)行編程后的操作。Siri被大多數(shù)人認(rèn)為是一個(gè)非常低級的人工智能系統(tǒng)，因?yàn)樗仨氝m應(yīng)周圍的環(huán)境，對各種各樣的所有者做出響應(yīng)，并理解各種各樣的請求，而不是所有的請求都可以事先編寫好程序來處理。

人工智能系統(tǒng)水平有以下幾個(gè)方面：

窄人工智能系統(tǒng)：這是一種只能執(zhí)行特定任務(wù)的人工智能系統(tǒng)。Siri可以在搜索引擎上查找任何信息，但不能寫書或開車。谷歌的自動駕駛汽車可以帶你到你想去的地方，但他們不會做飯。AlphaGo可以擊敗世界上最好的圍棋玩家，但它不能玩大富翁或研究癌癥。這些程序中的每一個(gè)都可以做得和人類一樣好，或者比人類更好，但是它們沒有達(dá)到人類所擁有的能力的廣度。

短期人工智能系統(tǒng)關(guān)注：最近人工智能系統(tǒng)發(fā)展的增長讓許多研究人員擔(dān)心未來5-10年可能會出現(xiàn)的一些問題。增加自主權(quán)將影響就業(yè)市場，并可能造成收入不平等。偏見，如性別歧視和種族主義，已經(jīng)出現(xiàn)在一些節(jié)目中，人們擔(dān)心這可能會加劇，因?yàn)槿斯ぶ悄芟到y(tǒng)變得更有能力。許多人想知道，在系統(tǒng)向公眾發(fā)布之后，我們?nèi)绾尾拍艽_保對系統(tǒng)的控制，就像微軟的聊天機(jī)器人Tay(Chatbot Tay)的問題所顯示的那樣。透明度是人們經(jīng)常提到的另一個(gè)問題，隨著人工智能系統(tǒng)學(xué)會適應(yīng)他們的環(huán)境，他們會修改程序以提高效率和準(zhǔn)確性，而且跟蹤人工智能系統(tǒng)為什么采取了一些行動也將變得越來越困難，這些是較普遍提到的一些關(guān)切，但還有許多其他關(guān)切。

高級人工智能系統(tǒng)和人工智能系統(tǒng)(AGI)：隨著人工智能系統(tǒng)程序擴(kuò)展其能力，它將被認(rèn)為是先進(jìn)的。一旦它在能力和廣度上達(dá)到了人類水平的智能，它就會被認(rèn)為是普遍的智能。

長期的人工智能系統(tǒng)擔(dān)憂：目前的預(yù)期是，我們可能在未來10至30年內(nèi)開始看到更先進(jìn)的人工智能系統(tǒng)。在大多數(shù)情況下，對長期人工智能系統(tǒng)的關(guān)注與對短期人工智能系統(tǒng)的關(guān)注類似，只是隨著人工智能系統(tǒng)的發(fā)展，由此產(chǎn)生的問題可能更具破壞性、破壞性和/或破壞性。

超智能：在所有領(lǐng)域都比人類聰明的人工智能系統(tǒng)。

Agent：具有某種程度的人工智能系統(tǒng)能力的程序、機(jī)器或機(jī)器人，可以在模擬的環(huán)境或現(xiàn)實(shí)世界中自主行動。

機(jī)器學(xué)習(xí)：人工智能系統(tǒng)研究的一個(gè)領(lǐng)域，關(guān)注于智能體如何從環(huán)境、經(jīng)驗(yàn)和交互中學(xué)習(xí)，以提高其功能和執(zhí)行指定任務(wù)的能力。有了機(jī)器學(xué)習(xí)，人工智能系統(tǒng)將適應(yīng)它的環(huán)境，而不需要額外的編程。例如，AlphaGo從一開始就沒有被編程為比人類更好，它的程序員都不擅長圍棋，無法與世界上最優(yōu)秀的人競爭。相反，它被設(shè)計(jì)成玩很多圍棋游戲，目的是贏得比賽。每贏一場或輸一場，它就會學(xué)到更多關(guān)于如何在未來取勝的知識。

培訓(xùn)：這些是機(jī)器學(xué)習(xí)程序必須經(jīng)過的迭代，以便通過調(diào)整程序的設(shè)置來學(xué)習(xí)如何更好地實(shí)現(xiàn)其目標(biāo)。在AlphaGo的情況下，訓(xùn)練包括反復(fù)地玩。

神經(jīng)網(wǎng)絡(luò)和深層神經(jīng)網(wǎng)絡(luò)：神經(jīng)網(wǎng)絡(luò)是受動物中樞神經(jīng)系統(tǒng)處理信息方式的啟發(fā)而產(chǎn)生的程序，特別是在模式識別方面。這些是機(jī)器學(xué)習(xí)算法中的重要工具，可以幫助人工智能系統(tǒng)處理并從接收到的信息中學(xué)習(xí)，深層神經(jīng)網(wǎng)絡(luò)具有更多的復(fù)雜性。

強(qiáng)化學(xué)習(xí)：類似于訓(xùn)練狗，代理在其培訓(xùn)的每一次迭代中都會收到正反兩方面的反饋，這樣它就可以了解哪些行為應(yīng)該尋找，哪些應(yīng)該避免。

目標(biāo)功能：這是人工智能系統(tǒng)程序的目標(biāo)(它也可以包括子目標(biāo))。再次以AlphaGo為例，主要目標(biāo)函數(shù)將是贏得圍棋游戲。

獎(jiǎng)勵(lì)黑客：當(dāng)人工智能系統(tǒng)想出一種不受歡迎的方式來實(shí)現(xiàn)它的目標(biāo)或目標(biāo)功能時(shí)。例如，如果你告訴機(jī)器人清理它看到的任何垃圾，它可能會把所有的垃圾都扔掉，這樣它就看不到它們了。

可伸縮的監(jiān)督：培訓(xùn)代理人自己解決問題，而不需要人的持續(xù)監(jiān)督。

安全探索：訓(xùn)練代理人安全地探索其周圍環(huán)境，不傷害自己或他人，也不引發(fā)一些可能難以恢復(fù)的負(fù)面結(jié)果。

對分布變化的魯棒性：訓(xùn)練代理適應(yīng)新的環(huán)境，并了解環(huán)境何時(shí)發(fā)生了變化，這樣它就知道要更加謹(jǐn)慎。