人類控制：人類應(yīng)該選擇如何以及是否將決策權(quán)交給人工智能系統(tǒng)，以完成人類選擇的目標。

什么時候才能讓機器做決定，而不是讓一個人來做決定呢?我們中的大多數(shù)人都允許地圖軟件選擇通往新地點的最佳路線，當我們在憧憬未來的人工智能自動駕駛汽車的時候，我們中的許多人都很興奮地讓自動駕駛汽車帶我們?nèi)ノ覀兊哪康牡?，但是你準備好讓你的車為你選擇目的地了嗎?汽車可能會意識到，你的最終目標是吃飯、購物或跑腿，但是大多數(shù)的情況下，我們有特定的商店或餐廳，所以可能并不想讓車輛為我們作出這些決定。

當人工智能變得比人類聰明得多時，我們?nèi)绾谓鉀Q控制的問題?如果人工智能比我們更了解世界和我們的喜好，那么如果人工智能為我們做所有的決定會更好嗎?要解決這樣的問題并不容易，幾乎每個人都同意這個人類控制的問題涉及到人工智能設(shè)計所面臨的一些最具挑戰(zhàn)性的問題。

人類控制意味著什么?

這是一個有趣的問題，因為現(xiàn)在還不清楚違反這一規(guī)定意味著什么。在某種意義上，人工智能系統(tǒng)可以做出何種非人類委托給系統(tǒng)的決策?人工智能是人類創(chuàng)造的，這個原則，在實踐中，更多的是關(guān)于我們有意識地選擇讓機器做什么具體的決定。一種說法是，我們不介意讓機器來做決定，但是不管他們做什么決定，我們都想讓他們自己來完成，但不能與我們?nèi)祟惖目刂瓢l(fā)生沖突。

比方說，在一個像人一樣用腿走路的導航機器人中，控制它的人不可能決定每一個動作的每個角度。人類不會決定每只腳將在哪里著陸，但人類會說，我對機器做出這些決定感到滿意，只要它不與其他更高層次的命令發(fā)生沖突。

我們可能比許多人意識到的更接近于賦予人工智能決策權(quán)，在很多方面，我們已經(jīng)把控制權(quán)拱手讓給了機器，例如，在所有股票交易中，AIS占85%以上，包括發(fā)電廠、核反應(yīng)堆、電網(wǎng)、交通信號燈協(xié)調(diào)等，這些都是“死胡同”。有意義地控制這些復(fù)雜過程所需的復(fù)雜性和速度使人無法進行有意義的控制。我們只是沒有足夠快的速度來應(yīng)對超快事件，比如那些在算法交易中出現(xiàn)的事件。我們也沒有足夠的能力記住成千上萬的變量，或者理解復(fù)雜的數(shù)學模型。我們對機器的依賴只會增加，但只要他們做出了正確的決定(如果我們足夠聰明，有足夠的數(shù)據(jù)和足夠的時間，我們會做出正確的決定)，我們就可以接受他們做出這樣的決定。只有在機器決策偏離我們的情況下，我們才希望能夠干預(yù)。當然，找出我們存在分歧的情況正是尚未解決的價值比對問題。

我們擔心的是，與‘下一步該往哪里走’相比，機器會做出更復(fù)雜、更重要的決策。當您有一臺機器可以開放的、靈活的方式運行時，您如何在不委托一切的情況下委派任何東西呢?當你有一個為你工作的人，你有一些問題需要解決，你說，‘去找出它，’你沒有具體說明，但在這個過程不要違反任何法律，也不要把公司所有的錢都花在解決這個小問題上，人工智能機器人能找到我需要的東西嗎。

這是一個具體的說明，從更一般的責任的想法，每一個決定要么是由一個人作出的，或明確委托給機器的。但一旦人工智能系統(tǒng)開始以更靈活、開放的方式運行，這一系統(tǒng)將特別難以實現(xiàn)。

信任與責任

人工智能往往被比作兒童，無論是在學習的水平，一個系統(tǒng)已經(jīng)取得了，也是如何學習的系統(tǒng)。就像我們和一個孩子在一起一樣，我們也在猶豫是否要給一臺機器太多的控制，直到它被證明是安全可靠的。當涉及到地圖、金融交易和電網(wǎng)運行時，人工智能系統(tǒng)可能已經(jīng)贏得了我們的信任，但有人質(zhì)疑，隨著人工智能系統(tǒng)變得更加復(fù)雜，或者當安全和福祉面臨更大風險時，這種趨勢能否持續(xù)下去。

然而，我們所看到的研究也表明，現(xiàn)在是最危險的時刻，現(xiàn)在的人類正在享受的機器運轉(zhuǎn)帶來的便利，這是最危險的情況。最近的研究發(fā)現(xiàn)，如果像自動駕駛汽車這樣的系統(tǒng)很少出現(xiàn)問題，人們就會停止關(guān)注，當問題出現(xiàn)時，人們很難重新聚焦和解決問題。

必須先由人類授權(quán)

已經(jīng)提到的決策機器的問題外，如果出了問題，誰該負上責任呢?這與人類控制和責任的觀念有關(guān)。如果你沒有人的控制，那么誰是錯誤的負責人就不清楚了。況且由人類先授權(quán)可以讓人類先判斷一下，這樣做是不是對人類有益的，再決定是否同意。

你認為如何?

人類在任何時候都應(yīng)該控制機器的決定嗎?這有可能嗎?什么時候由機器來接管是合適的?很明顯，有時機器比人類更有能力安全地處理一種情況，但這是最重要的嗎?什么時候你對一臺機器替你做決定感到舒服?還是你更愿意自己保持控制?