研究文化原則：應該在人工智能的研究人員和開發(fā)人員之間培養(yǎng)一種合作、信任和透明的文化。

競爭和保密只是做生意的一部分，即使在學術界，研究人員也常常將自己的想法和即將出現的發(fā)現保存起來，直到贈款或出版物最后確定為止。但有時，即使是競爭對手和研究實驗室也在一起工作，對于組織來說，為了解決問題和解決挑戰(zhàn)而進行合作，否則會導致重復成本和浪費時間，這種情況并不少見。

這種友好的行為有助于團體更有效地解決監(jiān)管問題，制定標準，并分享安全方面的最佳實踐。盡管這些公司或研究實驗室-無論是在ai人工智能領域還是任何其他領域-在某些問題上進行合作，他們的目標仍然是第一個開發(fā)新產品或做出新發(fā)現。

像人工智能這樣的新技術，如何在合作確保安全和單獨保護新想法之間劃清界限?由于研究文化原則沒有區(qū)分人工智能安全合作和人工智能系統(tǒng)開發(fā)，從與我討論這一原則的人工智能研究人員和倫理學家的反應來看，它可以得到廣義的解釋。

必要的第一步

在早期階段，它是關于創(chuàng)造一個共同的理解，有益的人工智能需要一個積極的承諾，使其結果為每個人都好，這不是默認的道路。為了確保這種權力在成熟時得到很好的利用，我們需要有一種文化，一套規(guī)范，一套期望，一套有利于好結果的制度。這就是我們要做的-讓人們聚在一起，并致力于以一種互利的方式指導人工智能，否則任何人都會有強烈的動機去做其他事情。

這將是一個非常友好的原則，但它可以更好地在大學里發(fā)揮作用，因為在大學里，沒有和工業(yè)界一樣的競爭優(yōu)勢概念。大學也是能很好的培養(yǎng)研究人員之間的合作與信任…如果沒有合作，我們都不會有任何進展，因為我們不會孤立地做事情。因此，我相信這種研究文化的想法不僅適用于人工智能-也希望它適用于人們所研究的許多學科。

但不幸的是，可能有一些組織，包括政府，不遵循透明和合作的原則。重要的是我們制定了指導方針，并以制定其他人認為他們需要遵循的規(guī)范為目標，那就是提醒大家注意人工智能的安全，這一點非常重要。

什么是合作、信任和透明的文化?

合作、信任和透明的文化是什么意思?自然會有兩極分化的可能，在(道德)或風險或法律合規(guī)方面，他們認為技術人員可能沒有考慮到某些問題。這是我們推進我們的工作所真正需要的信息時，你就會建立起合作、信任和透明的文化。我們怎樣才能知道你需要更多什么，這樣我們才能用這些問題很好地解決這個問題?這個原則是偉大的，但下一句話應該是：給我下一個步驟，使之成為現實。

團結一個支離破碎的社區(qū)

建立一個有凝聚力的合作文化會在很多事情上有所幫助，這將有助于加速研究和避免種族沖突，但我看到的人工智能社區(qū)的大問題是，沒有人工智能社區(qū)，它是支離破碎的，它是一個科學怪人縫合在一起的各種社區(qū)。你有程序員，工程師，機器人專家;你有數據科學家，甚至不清楚什么是數據科學家。他們是從事統(tǒng)計學或經濟學的人，還是工程師，還是程序員?…沒有凝聚力的身份，這將是一個巨大的挑戰(zhàn)，創(chuàng)造一個有凝聚力的文化，合作和信任，是透明的，但這是一個有價值的目標。

貫徹原則

人工智能研究界在合作、信任和透明度方面已經有了相當顯著的規(guī)范，從NIP、AAAI和IJCAI的活躍氣氛，到學術界、產業(yè)界和非政府組織之間越來越多的研究合作(無論是在項目方面還是在多個職位持有人方面)，再到整個人工智能研究領域中不回避指出不良做法或違反規(guī)范的豐富博客社區(qū)，都有相當多的規(guī)范。

工業(yè)人工智能實驗室公開出版的承諾是值得贊揚的，而且似乎正逐漸成為一種規(guī)范，迫使歷史上不太開放的公司公開他們的研究。坦率地說，對高端人工智能研究技能的需求意味著，無論是個人還是群體，研究人員都可以對自己的工作環(huán)境提出強烈要求，從工資和零食等實際問題，到開放和項目選擇的規(guī)范性問題。

人工智能研究中強烈的個人主義也表明，促進長期有益人工智能合作的方式將是與既有研究人員和培訓研究人員討論潛在風險，并培養(yǎng)責任感和對未來的監(jiān)護。我們已經看到，一群見多識廣、有道德觀念和積極主動的研究團隊，將能夠將最佳實踐奉若神明，并讓他們的雇主和同事遵守有益人工智能的準則。

你怎么看?

隨著諸如人工智能合作伙伴關系的形成，有可能我們已經看到工業(yè)和學術界開始朝著合作、信任和透明的方向前進的跡象了。但這就足夠了嗎?還是世界各國政府必須加入進來?總體而言，人工智能公司和研究實驗室如何在不犧牲自己的想法和產品的情況下，確保共享必要的安全研究成果?