自動(dòng)算法目前管理著美國(guó)股市超過(guò)一半的交易量，隨著人工智能的改善，它將繼續(xù)控制重要的金融決策。但這些系統(tǒng)并非萬(wàn)無(wú)一失，一個(gè)小故障可能會(huì)導(dǎo)致股價(jià)暴跌，可能會(huì)讓投資者損失數(shù)十億美元。

對(duì)于企業(yè)來(lái)說(shuō)，接受這種風(fēng)險(xiǎn)的決定很簡(jiǎn)單，自動(dòng)化系統(tǒng)中的算法比任何人類都更快、更精確，而運(yùn)用最先進(jìn)的人工智能系統(tǒng)技術(shù)可以讓企業(yè)繼續(xù)經(jīng)營(yíng)下去。但對(duì)社會(huì)的其他人來(lái)說(shuō)，后果還不清楚。人工智能給企業(yè)帶來(lái)了競(jìng)爭(zhēng)優(yōu)勢(shì)，但這些快速發(fā)展的系統(tǒng)會(huì)保持安全和健壯嗎?當(dāng)他們犯錯(cuò)誤時(shí)會(huì)發(fā)生什么?

自動(dòng)錯(cuò)誤

密歇根大學(xué)計(jì)算機(jī)科學(xué)教授邁克爾·威爾曼(MichaelWellman)研究人工智能對(duì)金融系統(tǒng)的威脅，他解釋說(shuō)，“金融系統(tǒng)是人工智能自動(dòng)化領(lǐng)域的領(lǐng)先優(yōu)勢(shì)之一，同時(shí)也是一個(gè)特別脆弱的領(lǐng)域。它很容易被破壞，壞事也會(huì)發(fā)生?！?

想想騎士資本的故事，2012年8月1日，奈特決定試用新軟件，以便在新的交易池中保持競(jìng)爭(zhēng)力。該軟件通過(guò)了安全測(cè)試，但當(dāng)Knight部署它時(shí)，算法激活了它的測(cè)試軟件，而不是實(shí)時(shí)交易程序。測(cè)試軟件在接下來(lái)的幾分鐘內(nèi)發(fā)出了數(shù)以百萬(wàn)計(jì)的壞訂單，雖然騎士迅速的阻止它，但傷害已經(jīng)造成了。僅在45分鐘內(nèi)，奈特資本就損失了4.4億美元，幾乎是2011年利潤(rùn)的四倍，這一切都是因?yàn)橐恍写a。在這種情況下，損失僅限于奈特，但當(dāng)一行代碼可以影響整個(gè)金融系統(tǒng)時(shí)，會(huì)發(fā)生什么呢?

理解自主交易代理

威爾曼認(rèn)為，自主的交易代理很難控制，因?yàn)樗鼈円郧八从械乃俣忍幚砗晚憫?yīng)信息，它們可以很容易地大規(guī)模復(fù)制，它們獨(dú)立行動(dòng)，而且它們適應(yīng)自己的環(huán)境。隨著通用能力的日益增強(qiáng)，系統(tǒng)可能會(huì)學(xué)會(huì)以程序員從未想過(guò)的危險(xiǎn)方式賺錢。為了防止人工智能系統(tǒng)破壞市場(chǎng)的透明度和穩(wěn)定性，政府機(jī)構(gòu)和學(xué)術(shù)界必須了解這些機(jī)構(gòu)是如何工作的。

市場(chǎng)操縱

即使對(duì)人工智能的良性使用也會(huì)阻礙市場(chǎng)透明度，但威爾曼擔(dān)心人工智能系統(tǒng)將學(xué)會(huì)操縱市場(chǎng)。

自主交易代理在利用套利機(jī)會(huì)方面尤其有效，他們同時(shí)買賣一項(xiàng)資產(chǎn)，以從價(jià)差中獲利。例如，如果一只股票在一個(gè)市場(chǎng)的交易價(jià)格為30美元，在第二個(gè)市場(chǎng)的交易價(jià)格為32美元，代理人可以購(gòu)買30美元的股票，然后立即在第二市場(chǎng)以32美元的價(jià)格出售，從而獲得2美元的利潤(rùn)。

市場(chǎng)的低效率自然創(chuàng)造了套利機(jī)會(huì)，然而，人工智能可能會(huì)學(xué)會(huì)靠自己，通過(guò)采取誤導(dǎo)的行動(dòng)來(lái)創(chuàng)造價(jià)格差異，從而推動(dòng)市場(chǎng)產(chǎn)生利潤(rùn)。一種操縱技巧是“欺騙”，對(duì)股票項(xiàng)目進(jìn)行投標(biāo)的行為，目的是在執(zhí)行之前取消投標(biāo)。這將使市場(chǎng)朝著一定的方向發(fā)展，而欺騙者則從虛假信號(hào)中獲利。

威爾曼和他的團(tuán)隊(duì)最近在他們的實(shí)驗(yàn)室模型中復(fù)制了欺騙，作為理解欺騙可能有效的情況的努力的一部分。他解釋說(shuō)：“我們?cè)趯?shí)驗(yàn)室里這樣做，是想看看我們是否能夠描述認(rèn)可機(jī)構(gòu)這樣做的特征，這樣我們就能可靠地檢測(cè)到它，并設(shè)計(jì)出降低脆弱性的市場(chǎng)?！?

隨著經(jīng)紀(jì)人的改進(jìn)，他們可能會(huì)學(xué)著更加惡意地利用套利，在市場(chǎng)上制造虛假的產(chǎn)品來(lái)誤導(dǎo)交易員，或者通過(guò)入侵賬戶來(lái)報(bào)告影響市場(chǎng)的虛假事件。威爾曼的工作旨在產(chǎn)生方法來(lái)幫助控制這種操縱行為。

金融世界的秘密

金融的隱秘性質(zhì)使學(xué)者們無(wú)法充分理解人工智能的作用。威爾曼解釋說(shuō)：“我們知道他們?cè)诤艽蟪潭壬鲜褂萌斯ぶ悄芎蜋C(jī)器學(xué)習(xí)，而且他們一直在努力改進(jìn)他們的算法。我們不知道目前市場(chǎng)操縱和欺騙行為在多大程度上是自動(dòng)化的，但我們知道它們可能是自動(dòng)化的，這可能導(dǎo)致市場(chǎng)操縱者與試圖檢測(cè)和監(jiān)控市場(chǎng)不良行為的系統(tǒng)之間的某種程度的軍備競(jìng)賽?！?

政府機(jī)構(gòu)中如證券交易委員會(huì)應(yīng)該密切關(guān)注金融市場(chǎng)，但“就技術(shù)發(fā)展而言，它們的實(shí)力確實(shí)落后了”威爾曼指出，“他們沒(méi)有專業(yè)知識(shí)或基礎(chǔ)設(shè)施來(lái)跟上行業(yè)變化的速度?！钡珜W(xué)術(shù)界可以提供幫助。根據(jù)威爾曼的說(shuō)法，“即使我們自己不做金錢交易，我們也可以逆向工程金融世界中必須發(fā)生的事情，并弄清楚會(huì)發(fā)生什么。”

為高級(jí)ai人工智能做準(zhǔn)備

雖然威爾曼研究的是當(dāng)前和近期的人工智能，但他擔(dān)心的是高級(jí)通用人工智能的威脅。他解釋道：“我們可以做的一件事，就是設(shè)法了解遠(yuǎn)距離人工智能，即獲得處理短期人工智能的經(jīng)驗(yàn)。這就是為什么我們要研究自治代理的監(jiān)管，這些監(jiān)管非常接近地平線或當(dāng)前。希望我們能學(xué)到一些教訓(xùn)，以便以后當(dāng)超級(jí)智慧出現(xiàn)時(shí)能加以應(yīng)用?！?

人工智能系統(tǒng)正在迅速改進(jìn)，金融公司之間在使用這些系統(tǒng)方面存在著激烈的競(jìng)爭(zhēng)。了解和跟蹤人工智能在金融中的作用將有助于金融市場(chǎng)保持穩(wěn)定和透明。