近日，騰訊研究院和騰訊AI Lab聯(lián)合發(fā)布了人工智能倫理報(bào)告《智能時(shí)代的技術(shù)倫理觀——重塑數(shù)字社會(huì)的信任》。人工智能倫理是國(guó)際社會(huì)近幾年關(guān)注的焦點(diǎn)話題。最近，國(guó)內(nèi)外都有重大進(jìn)展，OECD成員國(guó)采納了首個(gè)由各國(guó)政府簽署的AI原則，即“負(fù)責(zé)任地管理可信AI的原則（Principles for responsible stewardship of trustworthy AI）”，這些原則之后被G20采納，成為人工智能治理方面的首個(gè)政府間國(guó)際共識(shí)，確立了以人為本的發(fā)展理念和敏捷靈活的治理方式。無(wú)獨(dú)有偶，我國(guó)新一代人工智能治理原則也于近日發(fā)布，提出和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理八項(xiàng)原則，以發(fā)展負(fù)責(zé)任的人工智能。

在此背景下，在騰訊研究院過(guò)去幾年對(duì)人工智能倫理進(jìn)行的持續(xù)研究的基礎(chǔ)上，騰訊研究院和騰訊AI Lab聯(lián)合研究形成了這份人工智能倫理報(bào)告《智能時(shí)代的技術(shù)倫理觀——重塑數(shù)字社會(huì)的信任》，認(rèn)為在“科技向善”理念之下，需要倡導(dǎo)面向人工智能的新的技術(shù)倫理觀，包含三個(gè)層面：技術(shù)信任，人工智能等新技術(shù)需要價(jià)值引導(dǎo)，做到可用、可靠、可知、可控（“四可”）；個(gè)體幸福，確保人人都有追求數(shù)字福祉、幸福工作的權(quán)利，在人機(jī)共生的智能社會(huì)實(shí)現(xiàn)個(gè)體更自由、智慧、幸福的發(fā)展；社會(huì)可持續(xù)，踐行“科技向善”，發(fā)揮好人工智能等新技術(shù)的巨大“向善”潛力，善用技術(shù)塑造健康包容可持續(xù)的智慧社會(huì)，持續(xù)推動(dòng)經(jīng)濟(jì)發(fā)展和社會(huì)進(jìn)步。

以下為《智能時(shí)代的技術(shù)倫理觀——重塑數(shù)字社會(huì)的信任》主要內(nèi)容：

互聯(lián)網(wǎng)的前三十年，是一個(gè)連接一切的故事，這個(gè)故事以前所未有的速度和規(guī)模改變著人類和人類社會(huì)。如今，以人工智能、大數(shù)據(jù)為代表的新技術(shù)集群加速發(fā)展，有望引領(lǐng)第四次工業(yè)革命，智能時(shí)代的大幕正在拉開，無(wú)處不在的數(shù)據(jù)和算法正在催生一種新型的人工智能驅(qū)動(dòng)的經(jīng)濟(jì)和社會(huì)形式，生物層、物理層、技術(shù)層可能融合為三位一體。簡(jiǎn)言之，人工智能正在改變這個(gè)世界。

因此在當(dāng)前，以人工智能為代表的這一輪新技術(shù)具有巨大的潛力和價(jià)值，無(wú)疑能夠成為一股“向善”的力量，繼續(xù)造福于人類和人類社會(huì)。但任何具有變革性的新技術(shù)都必然帶來(lái)法律的、倫理的以及社會(huì)的影響。例如，互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等數(shù)字技術(shù)及其應(yīng)用帶來(lái)的隱私保護(hù)、虛假信息、算法歧視、網(wǎng)絡(luò)安全、網(wǎng)絡(luò)犯罪、網(wǎng)絡(luò)過(guò)度使用等問(wèn)題已經(jīng)成為全球關(guān)注焦點(diǎn)，引發(fā)全球范圍內(nèi)對(duì)數(shù)字技術(shù)及其應(yīng)用的影響的反思和討論，探索如何讓新技術(shù)帶來(lái)個(gè)人和社會(huì)福祉的最大化。

因此，人工智能倫理開始從幕后走到前臺(tái)，成為糾偏和矯正科技行業(yè)的狹隘的技術(shù)向度和利益局限的重要保障。正如華裔AI科學(xué)家李飛飛所言，要讓倫理成為人工智能研究與發(fā)展的根本組成部分。在此背景下，從政府到行業(yè)再到學(xué)術(shù)界，全球掀起了一股探索制定人工智能倫理原則的熱潮，歐盟、德國(guó)、英國(guó)、OECD、G20、IEEE、谷歌、微軟等諸多主體從各自的角度提出了相應(yīng)的人工智能倫理原則，共同促進(jìn)AI知識(shí)的共享和可信AI的構(gòu)建。要言之，各界已經(jīng)基本達(dá)成共識(shí)，人工智能的發(fā)展離不開對(duì)倫理的思考和倫理保障。

從最早的計(jì)算機(jī)到后來(lái)的信息再到如今的數(shù)據(jù)和算法，伴隨著技術(shù)倫理的關(guān)注焦點(diǎn)的轉(zhuǎn)變，技術(shù)倫理正在邁向一個(gè)新的階段。在新的發(fā)展階段，我們提出新的技術(shù)倫理（technology ethics），探索AI、個(gè)人、社會(huì)三者之間的平衡。就AI技術(shù)自身而言，AI需要價(jià)值引導(dǎo)，應(yīng)做到可用、可靠、可知、可控（“四可”），從而讓人們可以信任AI，讓AI可以給個(gè)人和社會(huì)創(chuàng)造價(jià)值；就AI與個(gè)人之關(guān)系而言，幸福是人生的終極目的，需要構(gòu)建和諧共生的人機(jī)關(guān)系，保障個(gè)人的數(shù)字福祉和幸福工作權(quán)利,實(shí)現(xiàn)智能社會(huì)人機(jī)共生，讓個(gè)體更自由、智慧、幸福地生活和發(fā)展；就AI與社會(huì)之關(guān)系而言，AI所具有的巨大的“向善”潛力是歷史上任何時(shí)候都無(wú)法比擬的，可以成為一股“向善”的力量，助力經(jīng)濟(jì)社會(huì)健康包容可持續(xù)發(fā)展。

信任（trust）：人工智能需要價(jià)值引導(dǎo)，做到可用、可靠、可知、可控（“四可”）

就AI而言，雖然技術(shù)自身沒(méi)有道德、倫理的品質(zhì)，但是開發(fā)、使用技術(shù)的人會(huì)賦予其倫理價(jià)值，因?yàn)榛跀?shù)據(jù)做決策的軟件是人設(shè)計(jì)的，他們?cè)O(shè)計(jì)模型、選擇數(shù)據(jù)并賦予數(shù)據(jù)意義，從而影響我們的行為。所以，這些代碼并非價(jià)值中立，其中包括了太多關(guān)于我們的現(xiàn)在和未來(lái)的決定。更進(jìn)一步，現(xiàn)在人們無(wú)法完全信任人工智能，一方面是因?yàn)槿藗內(nèi)狈ψ銐蛐畔ⅲ瑢?duì)這些與我們的生活和生產(chǎn)息息相關(guān)的技術(shù)發(fā)展缺少足夠的了解；另一方面是因?yàn)槿藗內(nèi)狈︻A(yù)見能力，既無(wú)法預(yù)料企業(yè)會(huì)拿自己的數(shù)據(jù)做什么，也無(wú)法預(yù)測(cè)人工智能系統(tǒng)的行為。因此，我們需要構(gòu)建能夠讓社會(huì)公眾信任人工智能等新技術(shù)的規(guī)制體系，讓技術(shù)接受價(jià)值引導(dǎo)。

作為建立技術(shù)信任的起點(diǎn)，我們認(rèn)為，人工智能等新技術(shù)的發(fā)展和應(yīng)用需要遵循倫理原則。為此，秉持“負(fù)責(zé)任研究與創(chuàng)新”（responsible research and innovation）、“科技向善”等理念，我們進(jìn)一步闡述“四可”原則，用以引導(dǎo)負(fù)責(zé)任地發(fā)展和應(yīng)用工智能技術(shù)，使其可以造福于人類和人類社會(huì)。并將“四可”翻譯為“ARCC”（available，reliable，comprehensible，controllable，即ARCC，讀作ark）。正如傳說(shuō)中保存人類文明火種的諾亞方舟，人工智能的健康發(fā)展需要以“倫理方舟”為保障，確保將來(lái)友好、和諧、共生的人機(jī)關(guān)系。

第一，可用（available）。發(fā)展人工智能的首要目的，是促進(jìn)人類發(fā)展，給人類和人類社會(huì)帶來(lái)福祉，實(shí)現(xiàn)包容、普惠和可持續(xù)發(fā)展。為此，需要讓盡可能多的人可以獲取、使用人工智能，讓人們都能共享技術(shù)紅利，避免出現(xiàn)技術(shù)鴻溝?？捎眯赃€意味著以人為本的發(fā)展理念、人機(jī)共生、包容性以及公平無(wú)歧視，要求踐行“經(jīng)由設(shè)計(jì)的倫理”（ethics by design）理念，將倫理價(jià)值融入到AI產(chǎn)品、服務(wù)的設(shè)計(jì)當(dāng)中。

第二，可靠（reliable）。人工智能應(yīng)當(dāng)是安全可靠的，能夠防范網(wǎng)絡(luò)攻擊等惡意干擾和其它意外后果，實(shí)現(xiàn)安全、穩(wěn)定與可靠。一方面人工智能系統(tǒng)應(yīng)當(dāng)經(jīng)過(guò)嚴(yán)格的測(cè)試和驗(yàn)證，確保其性能達(dá)到合理預(yù)期；另一方面人工智能應(yīng)確保數(shù)字網(wǎng)絡(luò)安全、人身財(cái)產(chǎn)安全以及社會(huì)安全。

第三，可知（comprehensible）。人工智能應(yīng)當(dāng)是透明的、可解釋的，是人可以理解的，避免技術(shù)“黑盒”影響人們對(duì)人工智能的信任。研發(fā)人員需要致力于解決人工智能“黑盒”問(wèn)題，實(shí)現(xiàn)可理解、可解釋的人工智能算法模型。此外，對(duì)于由人工智能系統(tǒng)做出的決策和行為，在適當(dāng)?shù)臅r(shí)候應(yīng)能提供說(shuō)明或者解釋，包括背后的邏輯和數(shù)據(jù)，這要求記錄設(shè)計(jì)選擇和相關(guān)數(shù)據(jù)，而不是一味追求技術(shù)透明。換句話說(shuō)，技術(shù)透明或者說(shuō)算法透明不是對(duì)算法的每一個(gè)步驟、算法的技術(shù)原理和實(shí)現(xiàn)細(xì)節(jié)進(jìn)行解釋，簡(jiǎn)單公開算法系統(tǒng)的源代碼也不能提供有效的透明度，反倒可能威脅數(shù)據(jù)隱私或影響技術(shù)安全應(yīng)用。相反，在AI系統(tǒng)的行為和決策上實(shí)現(xiàn)有效透明將更可取，也能提供顯著的效益。此外，在發(fā)展和應(yīng)用人工智能的過(guò)程中，應(yīng)為社會(huì)公眾參與創(chuàng)造機(jī)會(huì)，并支持個(gè)人權(quán)利的行使。

第四，可控（controllable）。人工智能的發(fā)展應(yīng)置于人類的有效控制之下，避免危害人類個(gè)人或整體的利益。短期來(lái)看，發(fā)展和應(yīng)用人工智能應(yīng)確保其帶來(lái)的社會(huì)福祉顯著超過(guò)其可能給個(gè)人和社會(huì)帶來(lái)的可預(yù)期的風(fēng)險(xiǎn)和負(fù)面影響，確保這些風(fēng)險(xiǎn)和負(fù)面影響是可控的，并在風(fēng)險(xiǎn)發(fā)生之后積極采取措施緩解、消除風(fēng)險(xiǎn)及其影響。長(zhǎng)期來(lái)看，雖然人們現(xiàn)在還無(wú)法預(yù)料通用人工智能和超級(jí)人工智能能否實(shí)現(xiàn)以及如何實(shí)現(xiàn)，也無(wú)法完全預(yù)料其影響，但應(yīng)遵循預(yù)警原則（precautionary principle），防范未來(lái)的風(fēng)險(xiǎn)，使未來(lái)可能出現(xiàn)的通用人工智能和超級(jí)人工智能能夠服務(wù)于全人類的利益。

當(dāng)然，信任的建立，需要一套規(guī)則體系。在這些原則之下，人們可以探索制定標(biāo)準(zhǔn)、法律、國(guó)際公約等。對(duì)于人工智能需要采取包容審慎、敏捷靈活的治理方式，應(yīng)避免嚴(yán)格、細(xì)致的法律要求，而是可以采取事后監(jiān)管或者通過(guò)出臺(tái)標(biāo)準(zhǔn)、行業(yè)公約、倫理框架、最佳實(shí)踐、技術(shù)指南等調(diào)整人工智能等新技術(shù)的發(fā)展應(yīng)用，支持行業(yè)自律。

幸福（happiness）：在人機(jī)共生的智能社會(huì)，確保人人都有追求數(shù)字福祉、幸福工作的權(quán)利

各種智能機(jī)器正在成為人類社會(huì)不可或缺的一部分，和我們的生活和生產(chǎn)息息相關(guān)。這給人類與技術(shù)之間的關(guān)系提出了新的命題，需要深入思考智能社會(huì)如何實(shí)現(xiàn)人機(jī)共生（human-computer symbiosis）。

第一，保障個(gè)人的數(shù)字福祉，人人都有追求數(shù)字福祉的權(quán)利。一方面需要消除技術(shù)鴻溝和數(shù)字鴻溝，全球還有接近一半人口沒(méi)有接入互聯(lián)網(wǎng)，老年人、殘疾人等弱勢(shì)群體未能充分享受到數(shù)字技術(shù)帶來(lái)的便利。另一方面減小、防止互聯(lián)網(wǎng)技術(shù)對(duì)個(gè)人的負(fù)面影響，網(wǎng)絡(luò)過(guò)度使用、信息繭房、算法偏見、假新聞等現(xiàn)象暴露出了數(shù)字產(chǎn)品對(duì)個(gè)人健康、思維、認(rèn)知、生活和工作等方面的負(fù)面影響，呼吁互聯(lián)網(wǎng)經(jīng)濟(jì)從吸引乃至攫取用戶注意力向維護(hù)、促進(jìn)用戶數(shù)字福祉轉(zhuǎn)變，要求科技公司將對(duì)用戶數(shù)字福祉的促進(jìn)融入到互聯(lián)網(wǎng)服務(wù)的設(shè)計(jì)中，例如Android和iOS的屏幕使用時(shí)間功能、Facebook等社交平臺(tái)的“數(shù)字福祉”工具、騰訊視頻的護(hù)眼模式對(duì)用戶視力的保護(hù)等。

第二，保障個(gè)人的工作和自由發(fā)展，人人都有追求幸福工作的權(quán)利。目前而言，人工智能的經(jīng)濟(jì)影響依然相對(duì)有限，不可能很快造成大規(guī)模失業(yè)，也不可能終結(jié)人類工作，因?yàn)榧夹g(shù)采納和滲透往往需要數(shù)年甚至數(shù)十年，需要對(duì)生產(chǎn)流程、組織設(shè)計(jì)、商業(yè)模式、供應(yīng)鏈、法律制度、文化期待等各方面做出調(diào)整和改變。雖然短期內(nèi)人工智能可能影響部分常規(guī)性的、重復(fù)性的工作。長(zhǎng)遠(yuǎn)來(lái)看，以機(jī)器學(xué)習(xí)為代表的人工智能技術(shù)對(duì)人類社會(huì)、經(jīng)濟(jì)和工作的影響將是深刻的，但人類的角色和作用不會(huì)被削弱，相反會(huì)被加強(qiáng)和增強(qiáng)。未來(lái)二十年內(nèi)，90%以上的工作或多或少都需要數(shù)字技能。人們現(xiàn)在需要做的，就是為當(dāng)下和未來(lái)的勞動(dòng)者提供適當(dāng)?shù)募寄芙逃?，為過(guò)渡期勞動(dòng)者提供再培訓(xùn)、再教育的公平機(jī)會(huì)，支持早期教育和終身學(xué)習(xí)。

可持續(xù)（sustainability）：踐行“科技向善”，善用技術(shù)塑造健康包容可持續(xù)的智慧社會(huì)

技術(shù)創(chuàng)新是推動(dòng)人類和人類社會(huì)發(fā)展的最主要因素。而這一輪技術(shù)革命具有巨大的“向善”潛力，將對(duì)人類生活與社會(huì)進(jìn)步帶來(lái)突破性的提升。在二十一世紀(jì)的今天，人類擁有的技術(shù)能力，以及這些技術(shù)所具有的“向善”潛力，是歷史上任何時(shí)候都無(wú)法比擬的。換言之，這些技術(shù)本身是“向善”的工具，可以成為一股“向善”的力量，用于解決人類發(fā)展面臨著的各種挑戰(zhàn)，助力可持續(xù)發(fā)展目標(biāo)。與此同時(shí)，人類所面臨的挑戰(zhàn)也是歷史上任何時(shí)候都無(wú)法比擬的。聯(lián)合國(guó)制定的《2030可持續(xù)發(fā)展議程》確立了17項(xiàng)可持續(xù)發(fā)展目標(biāo)，實(shí)現(xiàn)這些目標(biāo)需要解決相應(yīng)的問(wèn)題和挑戰(zhàn)，包括來(lái)自生態(tài)環(huán)境的，來(lái)自人類健康的，來(lái)自社會(huì)治理的，來(lái)自經(jīng)濟(jì)發(fā)展的，等等。

將新技術(shù)應(yīng)用于這些方面，是正確的、“向善”的方向。例如，人工智能與醫(yī)療、教育、金融、政務(wù)民生、交通、城市治理、農(nóng)業(yè)、能源、環(huán)保等領(lǐng)域的結(jié)合，可以更好地改善人類生活，塑造健康包容可持續(xù)的智慧社會(huì)。因此，企業(yè)不能只顧財(cái)務(wù)表現(xiàn)，只追求經(jīng)濟(jì)利益，還必須肩負(fù)社會(huì)責(zé)任，追求社會(huì)效益，服務(wù)于好的社會(huì)目的和社會(huì)福祉，給社會(huì)帶來(lái)積極貢獻(xiàn)，實(shí)現(xiàn)利益與價(jià)值的統(tǒng)一。包括有意識(shí)有目的地設(shè)計(jì)、研發(fā)、應(yīng)用技術(shù)來(lái)解決社會(huì)挑戰(zhàn)。如今，“人工智能造福人類”（AI for Good）已經(jīng)成為全球發(fā)展趨勢(shì)，呼吁與行動(dòng)并存。以騰訊為例，自2018年1月在國(guó)內(nèi)首次提出“科技向善”以來(lái)，騰訊已將“科技向善”作為新的愿景與使命，并身體力行地在醫(yī)療、社會(huì)治理（如尋找失蹤人口）、FEW（糧食、能源、水源）等方面踐行“科技向善”理念。

以智能時(shí)代的技術(shù)倫理重塑數(shù)字社會(huì)的信任

互聯(lián)網(wǎng)、人工智能等數(shù)字技術(shù)發(fā)展到今天，給個(gè)人和社會(huì)帶來(lái)了諸多好處、便利和效率，未來(lái)還將持續(xù)推動(dòng)經(jīng)濟(jì)發(fā)展和社會(huì)進(jìn)步。如今，步入智能時(shí)代，為了重塑數(shù)字社會(huì)的信任，我們需要呼吁以數(shù)據(jù)和算法為面向的新的技術(shù)倫理觀，實(shí)現(xiàn)技術(shù)、人、社會(huì)之間的良性互動(dòng)和發(fā)展。最終，我們希望以新的技術(shù)倫理觀增進(jìn)人類對(duì)于技術(shù)發(fā)展應(yīng)用的信任，讓人工智能等技術(shù)進(jìn)步持續(xù)造福人類和人類社會(huì)發(fā)展進(jìn)步，塑造更健康包容可持續(xù)的智慧社會(huì)。