人工智能可以給社會帶來難以置信的好處，例如更快、更準(zhǔn)確的醫(yī)療診斷到更可持續(xù)的能源管理，等等。但在今天的經(jīng)濟(jì)中，首先取得技術(shù)突破的是贏家，首先開發(fā)ai人工智能技術(shù)的團(tuán)隊(duì)將獲得金錢、聲望和市場等好處。由于賭注如此之高，人工智能系統(tǒng)的建設(shè)者們有足夠的動力爭先恐后地成為第一名。

當(dāng)一個組織競相成為第一個開發(fā)產(chǎn)品的組織時，對安全標(biāo)準(zhǔn)的遵守就會變得松懈。因此，對于研究人員和開發(fā)人員來說，最重要的是要記住，無論人工智能多么偉大，它也伴隨著風(fēng)險(xiǎn)，從無意的偏見和歧視，到潛在的意外災(zāi)難。如果首先開發(fā)某種產(chǎn)品或功能的團(tuán)隊(duì)不花時間適當(dāng)?shù)貙彶楹驮u估他們的程序和設(shè)計(jì)的各個方面，這些風(fēng)險(xiǎn)就會加劇。

然而，盡管人工智能競賽的風(fēng)險(xiǎn)是巨大的，但如果企業(yè)不競爭，它們就無法生存。

正如埃隆·馬斯克(Elon Musk)最近所說的那樣，“有些公司在比賽-它們不得不比賽-來構(gòu)建人工智能，否則它們將失去競爭力。如果你的競爭對手是向人工智能沖擊，而你沒有，他們會擊敗你?！?

合作可行嗎?

有跡象表明，一場人工智能競賽可能已經(jīng)開始，一些人擔(dān)心合作將很難實(shí)現(xiàn)。“很難合作，”人工智能教授蘇珊·克勞德說，“尤其是當(dāng)你試圖爭奪產(chǎn)品時，我認(rèn)為很難控制這種情況，除非人們接受這一原則?！睂ξ覀儊碚f，安全標(biāo)準(zhǔn)是至高無上的，因此在這個領(lǐng)域積極合作以避免切角就更重要了。但這真的取決于誰和你在這個空間里?！?

蘇珊·施奈德(SusanSchneider)是一位專注于高級人工智能的哲學(xué)家，她補(bǔ)充說：“合作非常重要，問題是那些在保密問題上有利害關(guān)系的國家或公司很難合作，如果超智能人工智能是這場競賽的結(jié)果，它可能對人類的生存構(gòu)成威脅?！?

誰最重要?

也許建立鼓勵“合作競爭”的環(huán)境的一個重要步驟是理解為什么一個組織或一個團(tuán)隊(duì)可能會冒險(xiǎn)在安全問題上偷工減料。這正是哈佛心理學(xué)家約書亞·格林所做的，因?yàn)樗J(rèn)為這個原理。

格林說：“在安全問題上偷工減料實(shí)質(zhì)上是在說，‘我的私利優(yōu)先于公共利益?！薄霸诎踩珕栴}上偷工減料，其實(shí)只是一種自私的行為。以安全為代價向前跑的唯一理由是，如果你認(rèn)為賽車的好處不成比例地屬于你。它增加了人們普遍受到傷害的可能性，如果你愿意的話，這是一種普通的壞事，目的是為了提高私利的可能性?！?。

有利可圖的安全效益

我們必須幫助人們重新思考安全標(biāo)準(zhǔn)意味著什么，通過安全檢查，你現(xiàn)在會問：我的人工智能系統(tǒng)是什么?它將如何與最終用戶或供應(yīng)鏈中的利益相關(guān)者互動，接觸它并與之接觸，哪里有人類參與，哪里是系統(tǒng)對人，哪里是系統(tǒng)對系統(tǒng)?

安全其實(shí)就是詢問人們的價值觀，不僅僅是身體上的安全，還有：他們的個人數(shù)據(jù)呢，他們將如何與這些信息交互呢?所以你不想偷工減料的原因是你也在削減創(chuàng)新。你失去了提供更好的產(chǎn)品或服務(wù)的機(jī)會。

但對于認(rèn)真對待這些標(biāo)準(zhǔn)的公司花時間仔細(xì)研究這些標(biāo)準(zhǔn)時，會發(fā)現(xiàn)所有這些很棒的方法，可以讓你在做的事情上建立更多的信任。

你怎么認(rèn)為?

有了像人工智能合作伙伴這樣的組織，我們已經(jīng)開始看到一些跡象，表明企業(yè)認(rèn)識到并希望解決人工智能競賽的危險(xiǎn)。但就目前而言，該伙伴關(guān)系主要由西方組織組成，而許多國家(特別是中國)的公司正在爭先恐后地追趕-或許是“擊敗”-美國和歐洲的公司。我們?nèi)绾尾拍芄膭钍澜绺鞯氐慕M織和研究團(tuán)隊(duì)合作，共同制定安全標(biāo)準(zhǔn)?我們怎樣才能協(xié)助各小組監(jiān)察他們的工作，并確保他們經(jīng)常有適當(dāng)?shù)陌踩绦?人工智能研究團(tuán)隊(duì)將需要其他團(tuán)隊(duì)的反饋和洞察力，以確保他們不會忽視潛在風(fēng)險(xiǎn)，但這種合作將如何在不迫使公司披露商業(yè)秘密的情況下進(jìn)行?你如何看待種族回避原則?