隨著突破“深度學(xué)習(xí)”導(dǎo)致ai人工智能的復(fù)雜程度迅速增加，在近幾年來這顧慮正在擴(kuò)大和加深。這些深層次的學(xué)習(xí)系統(tǒng)使用由人類大腦運(yùn)作方式啟發(fā)的深層神經(jīng)網(wǎng)絡(luò) -或者，更準(zhǔn)確地說，這些深層次的學(xué)習(xí)系統(tǒng)運(yùn)用的是我們目前了解的去模擬人腦的運(yùn)作方式。

這樣的系統(tǒng)可以有效地“自行編程”大部分或絕大部分的程序，由這種系統(tǒng)所產(chǎn)生的代碼可以是非常復(fù)雜的。它們的復(fù)雜性甚至連最初編程系統(tǒng)的人也未必能完全解釋為什么它們?nèi)绱瞬僮鳎?

你不能只憑看一個深層神經(jīng)網(wǎng)絡(luò)的內(nèi)部來了解它怎么運(yùn)作，網(wǎng)絡(luò)的推理嵌入在成千上萬模擬神經(jīng)元的行為，排列成幾十甚至上百個錯綜復(fù)雜的互聯(lián)層。在第一層的每個神經(jīng)元會接收輸入，如在圖像中像素的強(qiáng)度，然后在輸出一個新信號之前執(zhí)行計(jì)算。這些輸出被饋送，在一個復(fù)雜的網(wǎng)絡(luò)，到下一層的神經(jīng)元，依此類推，直到總的輸出產(chǎn)生。

此外，由于這樣的系統(tǒng)目前無法創(chuàng)造一個易于理解系統(tǒng)推理的“記錄”，有可能沒人能充分解釋深層次學(xué)習(xí)系統(tǒng)的行為。

這一點(diǎn)，可以肯定的說，是一個真實(shí)的顧慮?，F(xiàn)代人工智能系統(tǒng)的不透明度，使有效管理與人工智能相關(guān)的公共風(fēng)險(xiǎn)變得困難的主要障礙之一。我們已經(jīng)看到自動交易系統(tǒng)界討論相關(guān)的問題。這些系統(tǒng)的算法足夠的神秘，所以得了“黑箱交易”系統(tǒng)的綽號。算法交易系統(tǒng)之間的相互作用被廣泛指責(zé)為推動2010年閃電崩盤的禍?zhǔn)住２贿^，據(jù)我所知，沒有人認(rèn)為崩盤的原因是因?yàn)樵O(shè)計(jì)師不理解涉及閃電崩盤的算法。相反的，那些算法系統(tǒng)之間的相互作用才是令設(shè)計(jì)師難以建模和預(yù)測的。這使得這些風(fēng)險(xiǎn)比那些不被理解的技術(shù)所產(chǎn)生的風(fēng)險(xiǎn)更加容易管理。

話雖如此，我不把無知看作為一個真正難以逾越的障礙，也不認(rèn)為因?yàn)椴涣私饩蛯⒉煌该?a href="http://listwiththehawk.com/" target="_blank">人工智能系統(tǒng)的開發(fā)完全禁止是一個明智的做法。人類實(shí)際上在這幾百年，甚至幾千年，創(chuàng)建和使用沒有人能理解的東西。對我而言，最明顯的例子可能來自醫(yī)藥領(lǐng)域，即使沒有人能真正理解為什么治療是安全和有效的，但這領(lǐng)域仍研發(fā)安全有效的治療方法。

在18世紀(jì)90年代，愛德華·詹納為了賦予人們對天花病的免疫性而研制出疫苗，當(dāng)時，沒有人知道天花病是由病毒引起的。事實(shí)上，人們在當(dāng)時甚至還沒發(fā)現(xiàn)病毒。在18世紀(jì)，傳染性疾病傳播的主要理論是由不良?xì)馕兜臒熿F，半個多世紀(jì)后 疾病細(xì)菌學(xué)說 逐漸獲得認(rèn)可;近一個世紀(jì)后才發(fā)現(xiàn)了病毒。

如今，甚至有許多醫(yī)生開的藥物所作用的機(jī)制只被部分或勉強(qiáng)理解。許多精神病藥物符合這一描述，藥理學(xué)家對三環(huán)類抗抑郁藥似乎能幫助抑郁癥和患有神經(jīng)性疼痛的患者的原因作出假設(shè)。但假設(shè)仍然只是一個假設(shè)。想必深層次學(xué)習(xí)系統(tǒng)的設(shè)計(jì)師也能夠?qū)ο到y(tǒng)如何達(dá)到當(dāng)前狀態(tài)做出假設(shè)，即使這些假設(shè)可能還不如那些關(guān)于三環(huán)類抗抑郁藥來得靈通。

我們的社會早已得了共識，即使沒有人完全了解藥物并不意味著任何人都不應(yīng)該使用這類藥物。但我們已設(shè)法管理有潛質(zhì)的新藥物所帶來的風(fēng)險(xiǎn)，在它們上藥店的貨架前要求藥物通過徹底的測試，并證明是安全的。實(shí)際上，除了核技術(shù)，醫(yī)藥可能是世界上被監(jiān)管最嚴(yán)格的技術(shù)。

許多人(尤其是那些在制藥行業(yè)的人)批評藥物在批準(zhǔn)使用之前必須經(jīng)過長期，艱巨和曲折的過程。但是，當(dāng)藥物最終投放市場時，這個過程使我們能夠?qū)λ幬锏陌踩苑浅Ｓ行判?或者至少覺得是“足夠安全”)。而這，反過來，意味著我們可以服用那些我們不太了解作用機(jī)制的藥物，因?yàn)槲覀冎?，任何隱患將極有可能已經(jīng)在測試過程中暴露出來。

人工智能能從中吸取什么教訓(xùn)?最明顯的是，有必要確保人工智能系統(tǒng)都經(jīng)過嚴(yán)格測試后才可以銷售給公眾，起碼如果人工智能系統(tǒng)不能讓設(shè)計(jì)它的人通過“顯示其作品”理解其決策過程。我不相信人工智能系統(tǒng)會有一個食品藥品監(jiān)督管理局(FDA)式的超級監(jiān)管制度。 FDA的模式對這樣一個復(fù)雜的數(shù)字技術(shù)即不實(shí)際也不有效，但我們很可能看到的是法院和法律制度要求企業(yè)將深層次的學(xué)習(xí)系統(tǒng)通過比典型數(shù)字技術(shù)前代產(chǎn)品更廣泛的測試。

由于這樣的測試很可能是漫長的，并需要很多人力才能完成，這種測試的必要性將使較小的公司在人工智能行業(yè)更難獲得發(fā)展動力，進(jìn)一步提高像谷歌，亞馬遜，F(xiàn)acebook，微軟和蘋果等巨頭的市場力量。也就是說，正如在品牌藥品行業(yè)中發(fā)生的現(xiàn)象一樣，人工智能市場力量將日益集中在少數(shù)企業(yè)手中的現(xiàn)象并不會是個巧合。