《第四次工業(yè)革命》的作者克勞斯施瓦布認(rèn)為，科技革命和產(chǎn)業(yè)變革中顛覆性技術(shù)的出現(xiàn)，會(huì)帶來(lái)社會(huì)的巨大變化。這也會(huì)導(dǎo)致全球原有力量對(duì)比發(fā)生改變，舊的治理體系將重新洗牌，最后達(dá)成新的力量和治理平衡，出現(xiàn)全球治理新秩序。歷史經(jīng)驗(yàn)充分地證明了這一觀點(diǎn)。從最近一輪科技革命和產(chǎn)業(yè)變革的歷程來(lái)看，美國(guó)占據(jù)了以互聯(lián)網(wǎng)為代表的信息技術(shù)制高點(diǎn)，引領(lǐng)經(jīng)濟(jì)革命新浪潮，綜合實(shí)力領(lǐng)先世界。在新一輪科技革命和產(chǎn)業(yè)變革中，人工智能顛覆了人類的認(rèn)知。這是一門研究開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法及應(yīng)用系統(tǒng)的技術(shù)。人工智能的出現(xiàn)意味著人類認(rèn)識(shí)和改變客觀世界的工具有了重大突破，其迅速發(fā)展將深刻改變?nèi)祟惿鐣?huì)并改變世界。

人工智能發(fā)展已滲入社會(huì)經(jīng)濟(jì)生活多個(gè)方面

現(xiàn)用兩個(gè)例子簡(jiǎn)單加以說(shuō)明，在2018年，一家高科技公司的AI Lab曾參加由荷蘭瓦赫寧根大學(xué)（WUR）主辦的國(guó)際人工智能溫室種植大賽，通過人工智能和遙感技術(shù)，采集農(nóng)作物的生長(zhǎng)情況，最終在50平米的溫室里種出了3000公斤以上的黃瓜，農(nóng)業(yè)產(chǎn)出是高效人工種植的五倍以上。這說(shuō)明在農(nóng)業(yè)領(lǐng)域人工智能具有巨大的發(fā)展?jié)摿?。未?lái)，人工智能將有效減少農(nóng)業(yè)生產(chǎn)對(duì)勞動(dòng)力、土地等要素的消耗，提升勞動(dòng)生產(chǎn)率，緩解困擾我國(guó)農(nóng)業(yè)發(fā)展的資源“緊箍咒”，推進(jìn)農(nóng)業(yè)現(xiàn)代化。

除此之外，人工智能與新一代信息技術(shù)結(jié)合，能有效解決地區(qū)發(fā)展的不均衡。2019年4月3日，廣東高州市人民醫(yī)院和廣東省人民醫(yī)院共同完成了全國(guó)首臺(tái)“5G+AI微創(chuàng)心臟手術(shù)”。本次手術(shù)中，廣東省人民醫(yī)院利用5G技術(shù)為遠(yuǎn)在400公里外的高州市人民醫(yī)院進(jìn)行遠(yuǎn)程指導(dǎo)?，F(xiàn)場(chǎng)畫面時(shí)延低于30微秒，幾乎是同步進(jìn)行，整體網(wǎng)速比4G提升10倍。未來(lái)一個(gè)主治醫(yī)生在手術(shù)上只需做10—15分鐘的關(guān)鍵環(huán)節(jié)，借助遠(yuǎn)程智慧醫(yī)療方式，可讓一個(gè)醫(yī)生同時(shí)做十臺(tái)手術(shù)。人工智能技術(shù)將極大地提升效率，讓優(yōu)質(zhì)的醫(yī)療資源惠及更多的老百姓。

人工智能在未來(lái)的應(yīng)用不局限于以上的農(nóng)業(yè)和醫(yī)療領(lǐng)域，在無(wú)人駕駛、智能制造、智慧城市、智慧政務(wù)系統(tǒng)、教育、通訊、社會(huì)治理和軍事等方面，也將拓展出新的空間。

人工智能：從國(guó)家計(jì)劃到國(guó)家戰(zhàn)略

人工智能是引領(lǐng)未來(lái)的戰(zhàn)略性技術(shù)，世界主要國(guó)家把發(fā)展人工智能作為提升國(guó)家競(jìng)爭(zhēng)力、維護(hù)國(guó)家安全的重大戰(zhàn)略，加緊出臺(tái)規(guī)劃和政策，圍繞核心技術(shù)、頂尖人才、標(biāo)準(zhǔn)規(guī)范等強(qiáng)化部署，力圖在新一輪國(guó)際科技競(jìng)爭(zhēng)中掌握主導(dǎo)權(quán)。

加拿大是全球首個(gè)發(fā)布AI全國(guó)戰(zhàn)略的國(guó)家。2017年發(fā)布了《泛加拿大人工智能戰(zhàn)略》（Pan-Canadian Artificial Intelligence Strategy），政府計(jì)劃撥款1.25 億加元支持AI研究及人才培養(yǎng)，目標(biāo)是將加拿大建立為人工智能研究的全球領(lǐng)先者。該戰(zhàn)略包含四個(gè)目標(biāo)：增加人工智能研究者和畢業(yè)生數(shù)量；建立三個(gè)世界頂尖科研集群；培養(yǎng)理解人工智能經(jīng)濟(jì)、道德、政策和法律含義的思想領(lǐng)袖；支持專注于人工智能的國(guó)家研究團(tuán)體。

日本是第二個(gè)發(fā)展AI戰(zhàn)略的國(guó)家，其《人工智能技術(shù)戰(zhàn)略》在2017年3月發(fā)布。日本成立了人工智能技術(shù)戰(zhàn)略委員會(huì)以發(fā)展《研究和發(fā)展目標(biāo)以及人工智能產(chǎn)業(yè)化的路線圖》。該委員會(huì)有11名成員，分別來(lái)自學(xué)術(shù)界、業(yè)界和政府，包括日本科學(xué)促進(jìn)會(huì)主席、東京大學(xué)校長(zhǎng)和豐田董事長(zhǎng)。戰(zhàn)略制定的政策包括在研究與開發(fā)、人才、公共數(shù)據(jù)和創(chuàng)業(yè)公司上的新投資。

英國(guó)政府于2018年4月發(fā)布了《人工智能行業(yè)新政》（AI Sector Deal）。這是該國(guó)政府工業(yè)戰(zhàn)略的一部分，旨在推動(dòng)英國(guó)成為全球AI領(lǐng)導(dǎo)者。包含推動(dòng)政府和公司研發(fā)、STEM 教育投資、提升數(shù)字基礎(chǔ)設(shè)施、增加AI人才和領(lǐng)導(dǎo)全球數(shù)字道德交流等方面。

2018年4月25日，歐盟委員會(huì)向歐洲議會(huì)、歐盟理事會(huì)、歐洲理事會(huì)、歐洲經(jīng)濟(jì)與社會(huì)委員會(huì)及地區(qū)委員會(huì)提交了題為《歐盟人工智能》報(bào)告，描述了歐盟在國(guó)際人工智能競(jìng)爭(zhēng)中的地位，并制定了歐盟AI行動(dòng)計(jì)劃，提出了發(fā)展目標(biāo)。2019年4月8日，歐盟委員會(huì)發(fā)布了一份人工智能道德準(zhǔn)則，提出了“值得信賴”的人工智能應(yīng)當(dāng)滿足的7個(gè)條件，并將啟動(dòng)AI道德準(zhǔn)則的試行，邀請(qǐng)工業(yè)界、研究機(jī)構(gòu)和政府機(jī)構(gòu)對(duì)該準(zhǔn)則進(jìn)行測(cè)試和補(bǔ)充。

韓國(guó)政府大力發(fā)展人工智能計(jì)劃起源于2016年，由于人工智能技術(shù) AlphaGo 打敗韓國(guó)圍棋世界冠軍李世石，給了韓國(guó)很大的觸動(dòng)，比賽結(jié)束兩天之后，韓國(guó)政府就公布要在未來(lái)五年投資1萬(wàn)億韓元支持AI研究。兩年之后，韓國(guó)政府又公布了一個(gè)新的五年計(jì)劃，計(jì)劃投資2.2萬(wàn)億韓元加強(qiáng)該國(guó)的AI研發(fā)。

2018年5月，印度政府發(fā)布《國(guó)家人工智能戰(zhàn)略》，該戰(zhàn)略將人工智能應(yīng)用重點(diǎn)放在健康護(hù)理、農(nóng)業(yè)、教育、智慧城市和基礎(chǔ)建設(shè)與智能交通五大領(lǐng)域上，重點(diǎn)關(guān)注印度如何利用AI促進(jìn)經(jīng)濟(jì)增長(zhǎng)和社會(huì)包容。以“AI卓越研究中心”(CORE)與“國(guó)際AI轉(zhuǎn)型中心”(ICTAI)兩級(jí)綜合戰(zhàn)略為基礎(chǔ)，投資科學(xué)研究，鼓勵(lì)技能培訓(xùn)，加快人工智能在整個(gè)產(chǎn)業(yè)鏈中的應(yīng)用，最終實(shí)現(xiàn)將印度打造為人工智能發(fā)展模本的宏偉藍(lán)圖。

2018年7月，德國(guó)聯(lián)邦政府內(nèi)閣通過了名為《聯(lián)邦政府人工智能戰(zhàn)略要點(diǎn)》的文件。文件提出，當(dāng)前急需采取的措施包括：為人工智能相關(guān)重點(diǎn)領(lǐng)域的研發(fā)和創(chuàng)新轉(zhuǎn)化提供資助；優(yōu)先為德國(guó)人工智能領(lǐng)域?qū)＜姨岣呓?jīng)濟(jì)收益；同法國(guó)合作建設(shè)人工智能競(jìng)爭(zhēng)力中心要盡快完成并實(shí)現(xiàn)互聯(lián)互通；設(shè)置專業(yè)門類的競(jìng)爭(zhēng)力中心；加強(qiáng)人工智能基礎(chǔ)設(shè)施建設(shè)等。

2018年美國(guó)成立了“人工智能特別委員會(huì)”，成員包括白宮科學(xué)和技術(shù)政策辦公室、國(guó)家科學(xué)基金會(huì)和國(guó)防部高級(jí)研究項(xiàng)目局等政府機(jī)構(gòu)的官員。2019年2月美國(guó)總統(tǒng)特朗普簽署了行政令，啟動(dòng)“美國(guó)人工智能倡議”。盡管相比日本、中國(guó)、英國(guó)和法國(guó)等國(guó)家，美國(guó)的人工智能發(fā)展規(guī)劃姍姍來(lái)遲，但“維持美國(guó)人工智能領(lǐng)導(dǎo)力”的主題讓這一規(guī)劃與眾不同，主要體現(xiàn)出“頂層推動(dòng)”“美國(guó)領(lǐng)導(dǎo)”和“注重基礎(chǔ)”三大特點(diǎn)。自特朗普政府執(zhí)政以來(lái)，聯(lián)邦政府在引領(lǐng)科技發(fā)展中的角色日益明顯，從太空探索到量子技術(shù)，到下一代芯片技術(shù)，再到人工智能領(lǐng)域。此前，美國(guó)人工智能技術(shù)的主力軍一直是谷歌等企業(yè)部門。美國(guó)總統(tǒng)技術(shù)政策副助理邁克爾·克拉齊奧斯則宣稱，這個(gè)倡議的重點(diǎn)就是集中聯(lián)邦政府的資源來(lái)發(fā)展人工智能。

2017年7月，中國(guó)政府印發(fā)《新一代人工智能發(fā)展規(guī)劃》，明確指出新一代人工智能發(fā)展分三步走的戰(zhàn)略目標(biāo)，到2030年使中國(guó)人工智能理論、技術(shù)與應(yīng)用總體達(dá)到世界領(lǐng)先水平，成為世界主要人工智能創(chuàng)新中心。

在各國(guó)戰(zhàn)略規(guī)劃描繪的美好愿景之下，對(duì)于人工智能技術(shù)迅速發(fā)展帶來(lái)的安全問題同樣受到了高度關(guān)注。例如我國(guó)的《新一代人工智能發(fā)展規(guī)劃》中就明確提出，要開展與人工智能應(yīng)用相關(guān)的民事與刑事責(zé)任確認(rèn)、隱私和產(chǎn)權(quán)保護(hù)、信息安全利用等法律問題研究，建立追溯和問責(zé)制度，明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任等。英國(guó)科學(xué)和技術(shù)委員會(huì)則于2016年相繼發(fā)布《機(jī)器人和人工智能》和《人工智能對(duì)未來(lái)決策的機(jī)會(huì)和影響》兩份報(bào)告，呼吁政府介入監(jiān)管，建立透明、可追責(zé)機(jī)制。歐盟更是在2018年頒布實(shí)行了“史上最嚴(yán)”的一般數(shù)據(jù)保護(hù)條例（General Data Protection Regulation），賦予了歐盟居民對(duì)個(gè)人數(shù)據(jù)更多的控制權(quán)，并界定了在線服務(wù)商在收集、利用歐洲用戶個(gè)人數(shù)據(jù)的規(guī)則和責(zé)任。在探討WTO改革的議程中，各國(guó)對(duì)于數(shù)據(jù)基于信任的跨境流動(dòng)和數(shù)據(jù)貿(mào)易等問題也是高度重視，積極探索適合各國(guó)共同發(fā)展的新模式、新辦法，并商議如何更好地解決由于各國(guó)發(fā)展不平衡造成的數(shù)字鴻溝等問題。

人工智能“進(jìn)化”背景下全球治理的新挑戰(zhàn)

人工智能是影響面廣的顛覆性技術(shù)，將對(duì)政府管理、經(jīng)濟(jì)安全、社會(huì)穩(wěn)定乃至全球治理產(chǎn)生深遠(yuǎn)影響。在這一過程中，非國(guó)家行為體的作用前所未有地上升，就業(yè)結(jié)構(gòu)、法律與社會(huì)倫理、個(gè)人隱私、國(guó)際關(guān)系準(zhǔn)則等領(lǐng)域同時(shí)受到?jīng)_擊與挑戰(zhàn)。

與原來(lái)核軍控等談判機(jī)制主體不同的是，人工智能的技術(shù)基本掌握在非國(guó)家行為體中，如美國(guó)的谷歌、蘋果、微軟、亞馬遜、IBM、Facebook等私營(yíng)機(jī)構(gòu)，在中國(guó)，則是阿里、騰訊、百度、華為、京東、小米、商湯科技、科大訊飛等私營(yíng)機(jī)構(gòu)。私營(yíng)機(jī)構(gòu)甚至在如何使用人工智能技術(shù)的原則上就會(huì)與國(guó)家存在很大分歧，這就導(dǎo)致與洽談核軍控等治理規(guī)則時(shí)完全不同的背景和條件，給人工智能全球治理規(guī)則的洽談帶來(lái)很大的挑戰(zhàn)。

在商業(yè)公司日常運(yùn)營(yíng)過程中，對(duì)于公司決策者與技術(shù)開發(fā)人員來(lái)說(shuō)，到底由誰(shuí)來(lái)決定技術(shù)的使用方向？傳統(tǒng)公司，一般是由公司高層管理人員來(lái)決定公司產(chǎn)品和技術(shù)的應(yīng)用方向。而現(xiàn)在的高科技互聯(lián)網(wǎng)公司，尤其是人工智能公司，一些技術(shù)開發(fā)人員的價(jià)值觀也在某種程度上開始影響相關(guān)決策。這也導(dǎo)致價(jià)值觀認(rèn)可和公司追求利益目標(biāo)之間矛盾的增加。技術(shù)是一把雙刃劍，沒有人比參與創(chuàng)造技術(shù)的員工更接近科技增長(zhǎng)的破壞力，也更接近它的道德困境。谷歌前首席執(zhí)行官Lokman Tsui就曾提出這樣的問題：“誰(shuí)來(lái)定義谷歌，誰(shuí)來(lái)決定谷歌的靈魂是什么？是領(lǐng)導(dǎo)還是員工？現(xiàn)在，這家公司的靈魂正面臨一場(chǎng)真正的斗爭(zhēng)?！惫雀璎F(xiàn)任首席執(zhí)行官Pichai則試圖淡化來(lái)自公司內(nèi)部壓力的影響，他強(qiáng)調(diào)“我們不會(huì)通過公投來(lái)管理公司”，并表示是實(shí)際構(gòu)建AI技術(shù)的人在做決定。

對(duì)于每個(gè)掌握人工智能技術(shù)的私營(yíng)機(jī)構(gòu)，以及使用這些技術(shù)的機(jī)構(gòu)（政府部門或軍方等）來(lái)說(shuō)，還存在一個(gè)很大的問題。那就是挑選誰(shuí)來(lái)參與制定技術(shù)使用規(guī)則，也就是通常所說(shuō)的人工智能倫理委員會(huì)人選。人們對(duì)于這些人員的選擇充滿警惕，由于每個(gè)人自身的價(jià)值觀、情感、宗教等因素偏好不同，通常候選人能獲得大多數(shù)人的認(rèn)可并不容易。比如，2019年3月，紐約市警察局（NYPD）透露，他們自2016年底開始，使用人工智能（Patternizr）追蹤罪犯，這是美國(guó)第一個(gè)通過算法機(jī)器學(xué)習(xí)軟件，篩選警察局?jǐn)?shù)據(jù)，找到同類案件并鎖定嫌疑人的工具，研究這項(xiàng)技術(shù)的目的是為了識(shí)別犯罪模式，幫助警察盡快逮捕嫌疑人。NYPD使用Patternizr被披露后，一些公民自由倡導(dǎo)者表示擔(dān)心基于機(jī)器的工具可能無(wú)意中加強(qiáng)了警務(wù)方面的偏見。紐約公民自由聯(lián)盟法律總監(jiān)Christopher Dunn認(rèn)為，對(duì)有色人種的過度監(jiān)管，會(huì)使任何預(yù)測(cè)性警務(wù)平臺(tái)都存在風(fēng)險(xiǎn)。為了確保公平，NYPD應(yīng)該對(duì)其部署的技術(shù)保持透明，并允許獨(dú)立研究人員對(duì)這些系統(tǒng)進(jìn)行審核。NYPD則宣稱Patternizr將種族和性別排除在算法之外，在搜索過程中不會(huì)將嫌疑人的種族考慮在內(nèi)，以作為對(duì)種族偏見的預(yù)防措施。2016年，布倫南司法中心對(duì)NYPD使用Patternizr采取了法律行動(dòng)。2018年12月，紐約州最高法院下令NYPD發(fā)布有關(guān)其測(cè)試開發(fā)和使用預(yù)測(cè)性警務(wù)軟件的記錄。

除此之外，谷歌在宣布成立人工智能倫理小組一周后，取消了其討論人工智能問題的小組。谷歌于2019年3月26日任命了其高級(jí)技術(shù)外部咨詢委員會(huì)的成員。谷歌負(fù)責(zé)全球事務(wù)的高級(jí)副總裁肯特·沃克(Kent Walker)在一份報(bào)告中表示：“這個(gè)小組將考慮谷歌在人工智能原則下出現(xiàn)的一些最復(fù)雜的挑戰(zhàn)，比如面部識(shí)別和機(jī)器學(xué)習(xí)的公平性，為我們的工作提供不同的視角?！眴T工和外部人士很快對(duì)委員會(huì)的組成提出了質(zhì)疑。有些人想知道為什么傳統(tǒng)基金會(huì)的主席凱·科爾斯·詹姆斯(Kay Coles James)會(huì)被納入理事會(huì)。2300多名谷歌員工簽約請(qǐng)?jiān)笗粲豕雀璋芽聽査埂ふ材匪骨謇沓鲂〗M，請(qǐng)?jiān)笗械睦碛墒瞧鋬r(jià)值觀中包含有“反變性人、反LGBTQ和反移民”等主張。3月30日，卡內(nèi)基梅隆大學(xué)(Carnegie Mellon University)信息技術(shù)和公共政策教授、谷歌(Google)選定的專家之一阿奎斯特(Alessandro Acquisti)則宣布他選擇不參加。周三，牛津大學(xué)(University Of Oxford)信息哲學(xué)與倫理教授盧西亞諾·弗洛里迪(Lucano Floridi)表示，盡管他不同意科爾斯·詹姆斯(Coles James)和傳統(tǒng)基金會(huì)的觀點(diǎn)，但他還是覺得自己應(yīng)該參與進(jìn)來(lái)。周四晚上，谷歌取消了整個(gè)項(xiàng)目?！昂苊黠@，在目前的環(huán)境下，ATEAC不能按我們的意愿發(fā)揮作用。所以我們要結(jié)束會(huì)議，回到畫板上”，谷歌周四在公告頂部貼上的一份聲明中寫道?！拔覀儗⒗^續(xù)對(duì)人工智能提出的重要問題負(fù)責(zé)，并將找到不同的方法來(lái)獲取外界對(duì)這些問題的意見?！?

以上案例說(shuō)明，人工智能相關(guān)的倫理問題難以在缺乏國(guó)家政府主導(dǎo)和國(guó)際合作的情況下得到解決，人們對(duì)于算法歧視、不透明等問題存有擔(dān)憂，將來(lái)也可能會(huì)對(duì)人工智能技術(shù)的發(fā)展產(chǎn)生阻礙。

未來(lái)人工智能全球治理需要新框架

當(dāng)前，世界各國(guó)政府以及聯(lián)合國(guó)在內(nèi)的國(guó)際組織都開始思考如何建立起有效的治理體系，以推動(dòng)新技術(shù)對(duì)生產(chǎn)力發(fā)展的促進(jìn)和人民生活水平的提高。中國(guó)《新一代人工智能發(fā)展規(guī)劃》提出，必須放眼全球，把人工智能發(fā)展放在國(guó)家戰(zhàn)略層面系統(tǒng)布局、主動(dòng)謀劃。從全球格局來(lái)看，人工智能技術(shù)發(fā)展本身也需要一定的國(guó)際合作，這對(duì)大變局下的國(guó)際治理體系提出了新的要求。我們應(yīng)該搭建涵蓋政府、企業(yè)、學(xué)界、公共部門和私營(yíng)部門的平臺(tái)，形成合力，推動(dòng)新技術(shù)為人類文明的進(jìn)步服務(wù)。

正如聯(lián)合國(guó)副秘書長(zhǎng)劉振民在2019年博鰲亞洲論壇年會(huì)對(duì)話環(huán)節(jié)時(shí)所說(shuō)“關(guān)于人工智能，就應(yīng)當(dāng)進(jìn)行溝通制定規(guī)則”，“需要建立一個(gè)平臺(tái)，來(lái)解決人工智能規(guī)范性使用的問題”。

隨著人工智能不斷“進(jìn)化”，未來(lái)全球治理格局將會(huì)得到重塑，人工智能必將為人類創(chuàng)造更美好的未來(lái)。

（本研究得到清華大學(xué)戰(zhàn)略與安全研究中心“人工智能與安全”項(xiàng)目研究資助）

（作者系清華大學(xué)社科學(xué)院中美關(guān)系研究中心副主任）

來(lái)源：中國(guó)社會(huì)科學(xué)網(wǎng) 作者：魯俊群