來(lái)源：財(cái)聯(lián)社　　

　　財(cái)聯(lián)社11月21日訊（編輯 牛占林）圖靈獎(jiǎng)得主、計(jì)算機(jī)科學(xué)家Yoshua Bengio最新警告稱(chēng)，人工智能（AI）這項(xiàng)新興技術(shù)可能對(duì)人類(lèi)社會(huì)產(chǎn)生負(fù)面影響，并呼吁進(jìn)行更多研究以減輕其風(fēng)險(xiǎn)。

　　Bengio在深度學(xué)習(xí)方面獲得了多個(gè)國(guó)際獎(jiǎng)項(xiàng)，為AI的發(fā)展奠定了基礎(chǔ)，但他現(xiàn)在對(duì)這項(xiàng)技術(shù)擔(dān)憂擔(dān)憂，并警告說(shuō)，一些擁有“強(qiáng)大力量”的人甚至可能希望看到人類(lèi)被機(jī)器取代。

　　他表示：“展望未來(lái)，機(jī)器在許多方面和我們?nèi)祟?lèi)一樣聰明，這對(duì)社會(huì)意味著什么？”他補(bǔ)充說(shuō)，機(jī)器可能很快就會(huì)擁有人類(lèi)的大部分認(rèn)知能力，通用人工智能（AGI）正在變成觸手可及的未來(lái)。

　　“智慧賦予力量。那么誰(shuí)來(lái)控制這種權(quán)力呢？擁有遠(yuǎn)超人類(lèi)的智能系統(tǒng)，如果落入壞人之手，可能會(huì)很危險(xiǎn)，并在地緣政治層面上制造更多的不穩(wěn)定，比如恐怖主義?！?/p>

　　Bengio認(rèn)為，只有少數(shù)組織和政府能夠負(fù)擔(dān)得起建造強(qiáng)大的AI機(jī)器，而且往往系統(tǒng)越大，它們就越智能?！斑@些機(jī)器，你知道的，花費(fèi)數(shù)十億美元來(lái)建造和訓(xùn)練，很少有組織和國(guó)家能夠做到這一點(diǎn)，這已經(jīng)是事實(shí)了?！?/p>

　　如果這樣的話，權(quán)力將會(huì)越來(lái)越集中，比如經(jīng)濟(jì)權(quán)力、政治權(quán)力、軍事力量。Bengio指出，我們沒(méi)有辦法確保這些系統(tǒng)不會(huì)傷害人們或不會(huì)反對(duì)人們……我們不知道如何做到這一點(diǎn)。

　　而且這樣的前景離我們并不遙遠(yuǎn)，Bengio認(rèn)為，幾十年內(nèi)就可能實(shí)現(xiàn)，因此，人類(lèi)需要仔細(xì)研究許多針對(duì)性的問(wèn)題，并盡快開(kāi)始緩解可能的風(fēng)險(xiǎn)。

　　需要進(jìn)行監(jiān)管和立法

　　還有觀點(diǎn)認(rèn)為，AI機(jī)器目前的訓(xùn)練方式“將導(dǎo)致系統(tǒng)與人類(lèi)對(duì)立”?！按送?，有些人可能想要濫用這種權(quán)力，有些人可能很高興看到人類(lèi)被機(jī)器取代，除非我們現(xiàn)在設(shè)置正確的護(hù)欄?！?/p>

　　在今年6月份，Bengio聯(lián)合許多科學(xué)家發(fā)表了一封題為“對(duì)先進(jìn)AI發(fā)出警告的權(quán)利”的公開(kāi)信，他們呼吁科學(xué)家、政策制定者和公眾為減輕這些風(fēng)險(xiǎn)提供指導(dǎo)。

　　Bengio指出：“政府需要做的第一件事就是制定法規(guī)，迫使科技公司在建立這些前沿系統(tǒng)時(shí)進(jìn)行注冊(cè)，政府應(yīng)該知道他們的邊界在哪里，你知道的，這些系統(tǒng)的細(xì)節(jié)?！?/p>

　　由于AI發(fā)展如此之快，政府必須“發(fā)揮自己的創(chuàng)造力”，制定能夠適應(yīng)技術(shù)變化的立法。Bengio表示：“為了享受人工智能帶來(lái)的好處，我們必須進(jìn)行監(jiān)管，我們必須安裝護(hù)欄，我們必須對(duì)技術(shù)的開(kāi)發(fā)進(jìn)行民主監(jiān)督?！?/p>

　　至于AI系統(tǒng)最大的負(fù)面影響，Bengio認(rèn)為短期內(nèi)應(yīng)該是虛假信息、錯(cuò)誤信息、AI影響政治和認(rèn)知的能力?！半S著我們的發(fā)展，將擁有能夠生成更逼真圖像、更逼真聲音和更逼真視頻的機(jī)器?！?/p>

　　最難的是，如果我們創(chuàng)造出比我們更聰明、有自己目標(biāo)的實(shí)體，這對(duì)人類(lèi)意味著什么？Bengio回答稱(chēng)：“這些都是非常困難和重要的問(wèn)題，目前還沒(méi)有答案。但我們需要更多的研究和預(yù)防措施來(lái)減輕潛在的風(fēng)險(xiǎn)?！?/p>