隨著人工智能變得更加先進(jìn)，程序員將期望與計(jì)算機(jī)交談，就像他們與人類交談一樣。我們將使用自然語言與人工智能系統(tǒng)通信，而不是鍵入長而復(fù)雜的代碼。

在當(dāng)前的“程序綜合”模型中，人類可以通過提供示例和概念演示來讓計(jì)算機(jī)為其編寫代碼，但這種模型是有限的。在程序合成方面，計(jì)算機(jī)是識(shí)字者：他們不是在字里行間閱讀并考慮意圖，而是只做字面上真實(shí)的事情，而真正真實(shí)的事情并不總是人類想要的。

例如，如果向計(jì)算機(jī)詢問以字母“a”開頭的單詞，它可能只返回“a”?！癮”這個(gè)詞字面上滿足了你問題的要求，但它不是你想要的。類似地，如果你問一個(gè)ai人工智能系統(tǒng)“你能把鹽遞過來嗎?”人工智能可能會(huì)保持靜止并回答“是的”。這種行為，雖然從字面上講與需求一致，但最終是無效的，因?yàn)槿斯ぶ悄軟]有將鹽傳遞給您。

計(jì)算機(jī)科學(xué)家斯圖爾特·拉塞爾給出了一個(gè)機(jī)器人吸塵器的例子，有人指示它“盡可能多地收集污垢”。通過編程來解釋這一點(diǎn)，而不是考慮意圖，真空吸塵器可能會(huì)找到一小塊污垢，把它撿起來，放回原處，然后反復(fù)地把它撿起來放回去，有效地最大化污垢的垂直位移，這是它認(rèn)為的“盡可能多地拾取污垢”。不難想象，在這種情況下，計(jì)算機(jī)按字面意思、嚴(yán)格地解釋語句的趨勢(shì)會(huì)變得極其不安全。

語用推理：真實(shí)與有益

隨著人工智能系統(tǒng)在財(cái)政和資源分配方面承擔(dān)更大的責(zé)任，我們不能讓它只是單純的理解最淺顯的回答，為了解決這一溝通失誤，科學(xué)家正致力于“人性化”編程，以防止人們因?yàn)閷?duì)計(jì)算機(jī)說了不準(zhǔn)確或錯(cuò)誤的話而意外地造成傷害。隨著人工智能的不斷發(fā)展，我們將看到更先進(jìn)的人工智能系統(tǒng)，它們可以接收來自人類操作人員的指令，這些系統(tǒng)能理解操作人員的意思。

人類在解釋某人話語背后的含義時(shí)，會(huì)不斷地進(jìn)行這種分析。通過字里行間的閱讀，人們了解了某人的意圖和對(duì)他們有幫助的東西，而不是字面意義上的“真實(shí)”。

假設(shè)一個(gè)學(xué)生問教授她是否喜歡他的論文，教授說她喜歡論文的“某些部分”。最有可能的是，學(xué)生會(huì)認(rèn)為教授不喜歡他論文的其他部分。這種語用推理對(duì)人類來說是常識(shí)，但程序綜合不會(huì)產(chǎn)生這種聯(lián)系。在會(huì)話中，“一些”一詞顯然意味著“并非全部”，但在數(shù)理邏輯中，“一些”只是指“任何超過零的數(shù)量”。因此，對(duì)于只在數(shù)學(xué)邏輯意義上理解事物的計(jì)算機(jī)來說，教授喜歡論文的某些部分這一事實(shí)并不排除她喜歡所有部分的可能性。

為了更好地理解人工智能系統(tǒng)如何學(xué)會(huì)實(shí)用推理和避免這些誤解，科學(xué)家正在研究人們?nèi)绾谓忉屍渌说恼Z言和指令。

在一次測(cè)試中，科學(xué)家給受試者提供了三個(gè)數(shù)據(jù)點(diǎn)-A、AAA和AAAAA-被試必須向后工作來確定順序的規(guī)則-也就是實(shí)驗(yàn)者試圖用例子傳達(dá)的內(nèi)容。在這種情況下，人體主體可能很快就會(huì)確定所有的數(shù)據(jù)點(diǎn)都有奇數(shù)的AS，因此規(guī)則是數(shù)據(jù)點(diǎn)必須有奇數(shù)的AS。

但是，在確定某些規(guī)則的概率的過程中，還有更多的內(nèi)容。在這種情況下，認(rèn)知科學(xué)家將我們的思維過程建模為貝葉斯推理-一種將新證據(jù)與先前的信念結(jié)合起來以確定一個(gè)假設(shè)(或規(guī)則)是否正確的方法。

作為文字合成器，計(jì)算機(jī)只能進(jìn)行有限版本的貝葉斯推斷。他們考慮這些例子與假設(shè)規(guī)則的一致性，但是他們沒有考慮這些例子在假設(shè)規(guī)則中的代表性。具體來說，文字合成器只能推理那些沒有以有限方式呈現(xiàn)的示例?？紤]到數(shù)據(jù)集A、AAA和AAAAA，計(jì)算機(jī)可能會(huì)從邏輯上得出這樣的結(jié)論：所有東西都必須有字母A。這條規(guī)則與示例字面上是一致的，但它不能表示或捕捉實(shí)驗(yàn)者的想法。相反，人類受試者理解實(shí)驗(yàn)者故意省略偶數(shù)例aa和aaa，并據(jù)此確定規(guī)則。

通過研究人類如何使用貝葉斯推理，科學(xué)家正在努力提高計(jì)算機(jī)識(shí)別信息的能力-比如“我喜歡你論文的某些部分”或“盡可能多地拾起污垢”這句話是有意選擇的，以傳達(dá)超出字面意義的信息。他的目標(biāo)是制造一種具體的工具-一種實(shí)用的合成器-人們可以用它與計(jì)算機(jī)進(jìn)行更有效的交流。

計(jì)算機(jī)與人之間的溝通差距是人工智能安全的核心問題之一，希望實(shí)用合成器有助于縮小這一差距。如果人工智能更深入地解釋人們對(duì)他們說的話，他們就會(huì)更有效地創(chuàng)造我們想要的有益結(jié)果。