8月29日下午，2019世界人工智能大會(huì)治理論壇在上海世博中心舉辦。外交部前副部長(zhǎng)、清華大學(xué)國(guó)際戰(zhàn)略與安全研究中心主任傅瑩發(fā)表題為《人工智能的治理與國(guó)際合作》的講話。

以下為傅瑩講話原文：

人工智能的治理與國(guó)際合作

——傅瑩在上海世界人工智能大會(huì)治理論壇上的講話

2019年8月29日，上海世博中心

一、關(guān)于人工智能治理面臨的挑戰(zhàn)

進(jìn)入21世紀(jì)的第二個(gè)十年，人工智能技術(shù)的應(yīng)用進(jìn)入快速發(fā)展的階段，隨著AlphaGo為代表的深度學(xué)習(xí)算法的成熟，人工智能技術(shù)出現(xiàn)大面積應(yīng)用的趨勢(shì)。我最近訪問了一些企業(yè)，昨天在上海還看了三家企業(yè)，可以明顯地感受到我國(guó)人工智能產(chǎn)業(yè)所呈現(xiàn)出來的蓬勃發(fā)展態(tài)勢(shì)?？梢云诖磥砣祟惖纳a(chǎn)和生活方式將發(fā)生更大的變化，生活將變得更加舒適和便利。

今年7月，我們?cè)谇迦A大學(xué)的世界和平論壇期間舉辦了三場(chǎng)論壇，邀請(qǐng)70多位國(guó)內(nèi)外專家學(xué)者和企業(yè)家圍繞人工智能的風(fēng)險(xiǎn)和治理進(jìn)行研討。大家比較一致的看法是，人工智能技術(shù)是一把“雙刃劍”，一方面帶來科技革命和產(chǎn)業(yè)升級(jí)的重要機(jī)會(huì)，另一方面，也帶來新的安全風(fēng)險(xiǎn)，在治理上人類將面臨與以往完全不同的難題。

例如，在立法上需要有新的思維。傳統(tǒng)的法律是要以社會(huì)基本共識(shí)為基礎(chǔ)的，因此往往要滯后于社會(huì)實(shí)踐。但是在人工智能技術(shù)上，我們恐怕沒有這樣奢侈的時(shí)間條件，因?yàn)檫@項(xiàng)技術(shù)的應(yīng)用影響之快、之大，遠(yuǎn)不同于傳統(tǒng)技術(shù)，治理的需求與技術(shù)的應(yīng)用幾乎同步出現(xiàn)。

再比如，傳統(tǒng)立法者關(guān)注的是人與人之間的關(guān)系。而人工智能作為“非人行為體”，未來會(huì)越來越廣泛地參與人類活動(dòng)，那么，在人機(jī)共存，甚至人機(jī)沖突的情況下，如何面對(duì)和處置人類與機(jī)器的矛盾呢？

人工智能的到來對(duì)就業(yè)模式的快速?zèng)_擊也是前所未有的。清華大學(xué)戰(zhàn)略與安全研究中心人工智能項(xiàng)目組的于洋老師牽頭做的《中國(guó)青年視角下的人工智能技術(shù)（AI）風(fēng)險(xiǎn)和治理》調(diào)查項(xiàng)目中，超過50％青年人表達(dá)的頭等關(guān)切是失業(yè)風(fēng)險(xiǎn)。如同以往的技術(shù)革命，人工智能將取代大量程式化的工作崗位，同時(shí)也會(huì)創(chuàng)造出新型崗位和就業(yè)機(jī)會(huì)。挑戰(zhàn)在于，如何才能讓人才結(jié)構(gòu)的調(diào)整跑贏技術(shù)的更新迭代和產(chǎn)業(yè)結(jié)構(gòu)的躍升？

不能忽視的還有在倫理規(guī)范方面的新問題。例如國(guó)際上討論比較多的人群歧視和對(duì)個(gè)人隱私的尊重和保護(hù)等問題。有外國(guó)人對(duì)我說，中國(guó)人不需要隱私保護(hù)，我認(rèn)為這是偏見。我國(guó)立法高度重視對(duì)個(gè)人權(quán)利的維護(hù)。在本月全國(guó)人大常委會(huì)審議的民法典人格權(quán)編草案稿中，針對(duì)收集、處理自然人個(gè)人信息有明確規(guī)定，要求必須“征得該自然人或者其監(jiān)護(hù)人同意”等，而且把個(gè)人生物識(shí)別信息也納入保護(hù)的范圍。

二、我國(guó)在創(chuàng)新制度和手段、推進(jìn)人工智能治理方面加快部署

習(xí)近平總書記明確要求，“要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范”，“確保人工智能安全、可靠、可控”，“要整合多學(xué)科力量，加強(qiáng)人工智能相關(guān)法律、倫理、社會(huì)問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德?！?

總書記的要求是我們推進(jìn)人工智能治理的重要指導(dǎo)方針。黨中央和國(guó)務(wù)院對(duì)人工智能的部署采取的是發(fā)展和治理同步推進(jìn)的方針。今年2月科技部牽頭組建了中國(guó)國(guó)家新一代人工智能治理專業(yè)委員會(huì)，6月該委員會(huì)發(fā)布了新一代人工智能治理8條原則，強(qiáng)調(diào)發(fā)展負(fù)責(zé)任的人工智能。工信部在2017年就頒布了《促進(jìn)新一代人工智能健康發(fā)展三年行動(dòng)計(jì)劃（2018－2020）》，其中也對(duì)治理提出要求?，F(xiàn)在的重要任務(wù)是如何讓這些規(guī)則和要求落地，形成有利于我國(guó)人工智能健康成長(zhǎng)的良性環(huán)境。上海在人工智能的研發(fā)和應(yīng)用方面走在全國(guó)的前列，積極探索治理路徑，重視推進(jìn)國(guó)際合作。在科技部和工信部的支持下，上海推動(dòng)建立了國(guó)家人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)和國(guó)家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)。可以期待，上海在人工智能治理的規(guī)則與制度的創(chuàng)新、開展國(guó)際合作方面也將走在全國(guó)的前列。

考慮到這個(gè)新興領(lǐng)域自身獨(dú)特的性質(zhì)，我們一方面要加快對(duì)立規(guī)和立法的研究，另一方面也要依靠科學(xué)界和企業(yè)界采取負(fù)責(zé)任的態(tài)度和行為。如果科學(xué)家在每一項(xiàng)新技術(shù)的研發(fā)中都能思考其負(fù)面風(fēng)險(xiǎn)，如果制造商在每一個(gè)新技術(shù)的應(yīng)用中同步構(gòu)建風(fēng)險(xiǎn)管理的解決辦法，那么，對(duì)這方面的挑戰(zhàn)就不難找到應(yīng)對(duì)辦法，其立法和規(guī)范也就不難走出新的路徑。

目前很多人工智能企業(yè)希望有法律責(zé)任和范圍的清晰界定，認(rèn)為這樣更有利于企業(yè)的發(fā)展，他們?cè)诓扇∫恍┳月纱胧┑耐瑫r(shí)，也期待國(guó)內(nèi)整體規(guī)則環(huán)境和基礎(chǔ)條件更快得到完善。

三、人工智能治理的全球視野和國(guó)際合作

人工智能技術(shù)的研發(fā)和應(yīng)用是在全球平臺(tái)上實(shí)現(xiàn)的，因此，其治理也不是某個(gè)國(guó)家或區(qū)域的問題，而是涉及到全人類的福祉。因此，我們需要有全球視野，拓展全球合作。在這方面，國(guó)際社會(huì)有過一些經(jīng)驗(yàn)。例如核軍控和氣候變化等難題，都是先在學(xué)界、企業(yè)界和社會(huì)組織中被廣泛討論和推動(dòng)，最終達(dá)成國(guó)際共識(shí)，形成有效的治理原則和制度。

目前，國(guó)際上圍繞人工智能帶來的挑戰(zhàn)正在進(jìn)行廣泛和熱烈的討論，不少國(guó)家和機(jī)構(gòu)出臺(tái)了相應(yīng)的法律法規(guī)和原則主張。但各國(guó)間仍缺乏大家共同接受的人工智能治理原則和在價(jià)值觀和理念上的共識(shí)。

中國(guó)對(duì)人工智能的國(guó)際合作和治理采取的是積極參與的開放態(tài)度，也主動(dòng)搭建了不少平臺(tái)，上海世界人工智能大會(huì)就吸引了國(guó)際和國(guó)內(nèi)的不少關(guān)注。天津的世界智能大會(huì)、重慶的國(guó)際智能產(chǎn)業(yè)博覽會(huì)等，也都是向世界開放的交流平臺(tái)。

中美關(guān)系的前景也關(guān)系到人工智能治理的國(guó)際合作。有人會(huì)說，美國(guó)挑起貿(mào)易戰(zhàn)，破壞全球貿(mào)易體系，是對(duì)國(guó)際秩序更大的挑戰(zhàn)。我覺得確實(shí)如此，這是一個(gè)主觀的破壞性行為，中美關(guān)系的動(dòng)蕩為人工智能國(guó)際治理的探索也帶來一定阻礙。

而現(xiàn)實(shí)中，中美學(xué)者在人工智能領(lǐng)域的關(guān)系是相當(dāng)緊密的。根據(jù)科睿唯安提供的人工智能領(lǐng)域科技文獻(xiàn)數(shù)據(jù)，從2013年到2017年，全球參與評(píng)估的167個(gè)國(guó)家／地區(qū)在“計(jì)算機(jī)、人工智能”發(fā)文排名中，中國(guó)大陸位居第一，發(fā)文量達(dá)到59573篇，占25.02％；其次是美國(guó)，發(fā)文量是32527篇，占13.66％。中美兩國(guó)國(guó)際合作論文數(shù)量增長(zhǎng)最快，過去五年中國(guó)大陸開展國(guó)際合作最多的對(duì)象是美國(guó)，美方開展國(guó)際合作最多的國(guó)家是中國(guó)大陸，雙方合作論文有四千多篇。

在人工智能技術(shù)的快速發(fā)展中，中美各有優(yōu)勢(shì)。數(shù)據(jù)顯示，在涉及人工智能基礎(chǔ)層的算力、數(shù)據(jù)和算法三大關(guān)鍵要素中，美國(guó)在算力和算法上有優(yōu)勢(shì)，巨頭公司基本掌握著開元算法平臺(tái)和場(chǎng)景豐富的算法能力，而中國(guó)正在積累越來越多的應(yīng)用和數(shù)據(jù)資源。從兩國(guó)的實(shí)踐看，如果中美無法有效合作形成共同標(biāo)準(zhǔn)的數(shù)據(jù)和算法，雙方的產(chǎn)業(yè)和未來發(fā)展都將受到很大影響。

習(xí)近平總書記在2018年致上海世界人工智能大會(huì)的賀信中指出，“新一代人工智能正在全球范圍內(nèi)蓬勃興起”，“把握好這一發(fā)展機(jī)遇，處理好人工智能在法律、安全、就業(yè)、道德倫理和政府治理等方面提出的新課題，需要各國(guó)深化合作、共同探討。中國(guó)愿在人工智能領(lǐng)域與各國(guó)共推發(fā)展、共護(hù)安全、共享成果?！?

因此，我們需要從相互依存、命運(yùn)與共的“共同體”意識(shí)出發(fā)，主動(dòng)參與和推動(dòng)國(guó)際交流與合作，同時(shí)也要認(rèn)真履行自己的責(zé)任。歷史上每一次科技革命都推動(dòng)了新的國(guó)際議程的設(shè)置，相信人工智能技術(shù)也能成為各國(guó)合作的新紐帶，為全球化增添新的動(dòng)力。中國(guó)人應(yīng)該也能夠?yàn)榇俗龀鲐暙I(xiàn)。

四、對(duì)人工智能的國(guó)際治理的三點(diǎn)建議

一是保持開放性。人工智能的技術(shù)發(fā)展與產(chǎn)業(yè)應(yīng)用是全球高度協(xié)作的成果，其未來的發(fā)展也依賴世界各國(guó)優(yōu)勢(shì)互補(bǔ)，合作共享。因此，在人工智能的治理上也需要保持開放性，集合各國(guó)智慧與經(jīng)驗(yàn)，實(shí)現(xiàn)有效的全球治理。

二是合作性。人工智能被認(rèn)為是一項(xiàng)綜合性的“原力技術(shù)”，其治理也需要多學(xué)科、多領(lǐng)域和多部門乃至多國(guó)的共同參與。各國(guó)在探討和構(gòu)建治理機(jī)制的過程中，應(yīng)積極開展國(guó)際合作，取長(zhǎng)補(bǔ)短，才有可能實(shí)現(xiàn)有效的治理。

三是客觀性。人工智能作為革命性的新技術(shù)，難免引發(fā)很多誤解和懷疑，沒有人能準(zhǔn)確預(yù)測(cè)技術(shù)的未來結(jié)果。國(guó)際治理應(yīng)該秉承中立客觀的立場(chǎng)，保護(hù)科學(xué)家和企業(yè)家的創(chuàng)新積極性，尊重人的權(quán)利與尊嚴(yán)。