我們?nèi)绾晤A(yù)測(cè)、預(yù)防和(必要時(shí))減輕惡意使用ai人工智能的有害影響?

人工智能不僅改變了現(xiàn)有威脅的性質(zhì)和范圍，而且擴(kuò)大了我們將面臨的威脅范圍。他們對(duì)人工智能的許多有益的應(yīng)用感到興奮，包括它將協(xié)助防御能力的方式。但是，蓄意惡意使用人工智能造成的安全威脅的情況也是很嚴(yán)重的。

我們的側(cè)重點(diǎn)在于人們利用人工智能進(jìn)行蓄意傷害的方式，人工智能可能在網(wǎng)絡(luò)、物理和政治安全方面構(gòu)成新的威脅，或改變現(xiàn)有威脅的性質(zhì)。我們需要認(rèn)識(shí)到這些風(fēng)險(xiǎn)，并采取措施加以管理，因?yàn)榧夹g(shù)正在以指數(shù)級(jí)的速度發(fā)展。

人工智能系統(tǒng)往往比傳統(tǒng)工具效率更高，可擴(kuò)展性更好。此外，使用人工智能可以增加一個(gè)人對(duì)所采取行動(dòng)的匿名性和心理距離，有可能降低犯罪和暴力行為的障礙。此外，人工智能系統(tǒng)有其自身獨(dú)特的漏洞，包括來(lái)自數(shù)據(jù)中毒的風(fēng)險(xiǎn)，對(duì)抗性的例子，以及利用其設(shè)計(jì)中的缺陷。啟用人工智能的攻擊將超過(guò)傳統(tǒng)的網(wǎng)絡(luò)攻擊，因?yàn)樗鼈兺ǔ?huì)更有效，目標(biāo)更精確，更難以確定。

我們需要準(zhǔn)備的攻擊種類并不限于復(fù)雜的計(jì)算機(jī)黑客，主要存在三個(gè)安全領(lǐng)域：

1、數(shù)字安全：主要涉及網(wǎng)絡(luò)攻擊;

2、實(shí)體安全：指用無(wú)人機(jī)和其他物理系統(tǒng)進(jìn)行攻擊;

3、政治安全：包括監(jiān)視、通過(guò)有針對(duì)性的宣傳進(jìn)行說(shuō)服以及通過(guò)操縱視頻進(jìn)行欺騙。這些域有很大的重疊，但該框架對(duì)于識(shí)別不同類型的攻擊、攻擊背后的原理以及可用于保護(hù)我們自己的各種選擇都很有用。

可以做些什么來(lái)為惡意使用人工智能跨這些領(lǐng)域做準(zhǔn)備?可能是研究人員和決策者探索未來(lái)和集思廣益的好方法，以管理最關(guān)鍵的威脅。例如，想象一個(gè)商業(yè)清潔機(jī)器人被改造成一個(gè)不可追蹤的爆炸裝置可能會(huì)嚇到我們，但它也說(shuō)明了為什么像機(jī)器人注冊(cè)要求這樣的政策可能是一個(gè)有用的選擇。

每個(gè)領(lǐng)域也有自己可能的控制點(diǎn)和對(duì)策，例如，為了提高數(shù)字安全，公司可以提高消費(fèi)者的意識(shí)，并鼓勵(lì)白帽黑客發(fā)現(xiàn)代碼中的漏洞。我們還可以向網(wǎng)絡(luò)安全界學(xué)習(xí)，并采用一些措施，如人工智能開發(fā)中的紅色團(tuán)隊(duì)、人工智能系統(tǒng)中的正式驗(yàn)證，以及負(fù)責(zé)任地披露人工智能漏洞。為了改善實(shí)體安全，政策制定者可能希望監(jiān)管硬件開發(fā)，并禁止銷售致命的自主武器。同時(shí)，媒體平臺(tái)可以通過(guò)提供圖像和視頻真實(shí)性認(rèn)證、假新聞檢測(cè)和加密來(lái)最大限度地減少對(duì)政治安全的威脅。

這里提出四項(xiàng)建議，目的不是提供具體的技術(shù)或政策建議，而是提前注意值得進(jìn)一步調(diào)查的領(lǐng)域。這些建議如下：

1、決策者應(yīng)與技術(shù)研究人員密切合作，調(diào)查、預(yù)防和減少人工智能的潛在惡意用途。

2、人工智能領(lǐng)域的研究人員和工程師應(yīng)認(rèn)真對(duì)待其工作的雙重用途性質(zhì)，允許與濫用有關(guān)的考慮影響研究?jī)?yōu)先事項(xiàng)和規(guī)范，并在可預(yù)見有害應(yīng)用時(shí)主動(dòng)接觸相關(guān)行為者。

3、在研究領(lǐng)域找出最佳做法，采用更成熟的方法解決雙重用途問(wèn)題，如計(jì)算機(jī)安全問(wèn)題，并在適用于人工智能的情況下引入最佳做法。

4、積極尋求擴(kuò)大參與討論這些挑戰(zhàn)的利益攸關(guān)方和領(lǐng)域?qū)＜业姆秶?

最后是向網(wǎng)絡(luò)安全界學(xué)習(xí)并與之合作，因?yàn)殡S著基于人工智能的系統(tǒng)變得更加廣泛和有能力，網(wǎng)絡(luò)安全事件的影響將不斷擴(kuò)大。其他研究領(lǐng)域包括探索不同的開放模式，在人工智能研究人員中促進(jìn)責(zé)任文化，以及開發(fā)技術(shù)和政策解決方案。

惡意使用人工智能將影響我們?nèi)绾螛?gòu)建和管理我們的數(shù)字基礎(chǔ)設(shè)施，以及我們?nèi)绾卧O(shè)計(jì)和分發(fā)人工智能系統(tǒng)，并可能需要政策和其他機(jī)構(gòu)的回應(yīng)。雖然這只是對(duì)人工智能將如何影響全球安全的必要理解的開始，但將推動(dòng)討論向前推進(jìn)。