人工智能(AI)正在不斷“嵌入”人類社會：交通出行、住房家居、教育醫(yī)療、養(yǎng)老助殘、文化體育……越來越豐富的應(yīng)用場景也讓人們對AI治理提出了迫切需求。在昨天舉行的2020世界人工智能大會云端峰會人工智能治理論壇上，針對人工智能應(yīng)該如何“負(fù)起社會責(zé)任”這一話題，國內(nèi)外30多位專家從技術(shù)、倫理、法律等不同角度進(jìn)行探討，倡議社會各方引導(dǎo)AI體現(xiàn)向善價值，“給AI安一顆‘良芯’”。

深度融入社會，AI必須“負(fù)起責(zé)任”

人工智能需要對社會“負(fù)責(zé)”嗎?在不少人的意識中，AI僅僅是一種工具，但在專家看來，它必須“負(fù)起責(zé)任”。

圖靈獎獲得者、中國科學(xué)院外籍院士約翰·霍普克勞伏特在報告開場就提出，迄今為止，計算機(jī)決策規(guī)則一直是與人類決策一致的，但未來，計算機(jī)將根據(jù)從訓(xùn)練數(shù)據(jù)中得來的經(jīng)驗進(jìn)行決策，“這是AI的本質(zhì)，將對人類未來產(chǎn)生重大影響”。他舉了一個極端的例子：有人違章橫穿馬路時被撞身亡，假使我們向AI要解決方案，它可能會建議我們直接拆除公路。

隨著AI的普及，大量社會問題也將浮現(xiàn)，比如算法“黑箱”帶來的歧視與偏見、AI自動駕駛錯誤而引發(fā)的交通事故等。如果這些判斷來自人類，在法律上很容易認(rèn)定責(zé)任主體，然而現(xiàn)在，人們首先要問的是：“AI能負(fù)責(zé)嗎?”

針對這一問題，復(fù)旦大學(xué)應(yīng)用倫理學(xué)研究中心主任王國豫認(rèn)為，既然AI產(chǎn)品能夠承擔(dān)一定的功能角色，就應(yīng)該承擔(dān)“角色責(zé)任”，這來自古老的倫理責(zé)任概念，“如果它不能履行責(zé)任或者出現(xiàn)了事故，那它就應(yīng)該被問責(zé)”。

“負(fù)責(zé)任的AI，才是可持續(xù)發(fā)展的AI。”作為人工智能領(lǐng)域的創(chuàng)業(yè)者和技術(shù)從業(yè)者，曠視科技聯(lián)合創(chuàng)始人兼首席執(zhí)行官印奇認(rèn)為，AI治理對于產(chǎn)業(yè)落地的意義非常深遠(yuǎn)——人工智能就像火之于人類文明，如果善待并加以合理利用，將可推進(jìn)文明進(jìn)程;如果運用不當(dāng)，則可能引發(fā)災(zāi)難。

去年，曠視科技在企業(yè)內(nèi)部成立了自己的人工智能治理委員會，并提出AI技術(shù)要“既問輸贏，也問對錯”的原則。比如，一種技術(shù)無論多么成熟、商業(yè)價值有多高，但如果有悖倫理、法律、社會習(xí)俗，企業(yè)就應(yīng)選擇不去研發(fā)，也不將其應(yīng)用于產(chǎn)品中。

有“良芯”的AI需技術(shù)環(huán)境共同驅(qū)動

一個AI智能體可能會面臨許多責(zé)任拷問，比如它究竟是對企業(yè)負(fù)責(zé)，還是對社會負(fù)責(zé)?很顯然，人類必須給AI安一顆“良芯”，體現(xiàn)其向善價值。而要解決AI發(fā)展帶來的道德倫理、隱私保護(hù)、安全風(fēng)險等問題，需要技術(shù)與環(huán)境的共同努力。

只需對圖像、音頻、文本稍加干擾，就能讓機(jī)器產(chǎn)生誤判;后門技術(shù)也可生產(chǎn)虛假新聞、音頻、視頻……復(fù)旦大學(xué)計算機(jī)科技學(xué)院院長姜育剛在論壇上介紹了他的團(tuán)隊攻破這些AI偽造術(shù)上的一些方法：只需加入一個不起眼的小模型，就可使抗干擾成功率達(dá)到80%左右。在他看來，“攻防永遠(yuǎn)都是一對博弈和互促的技術(shù)，技術(shù)將會在AI治理中發(fā)揮極為重要的作用。”

在論壇報告中，從事可信人工智能研究的中國科學(xué)院院士何積豐提出，從技術(shù)源頭建立起規(guī)范，讓AI算法本身就具備安全、可信的素質(zhì)，顯得尤為重要。從技術(shù)角度，他將AI風(fēng)險總結(jié)為數(shù)據(jù)安全和模型安全兩大類問題。然而，現(xiàn)在不少人工智能安全技術(shù)還缺乏理論工具的支撐。他希望有更多年輕人投身這一領(lǐng)域，為夯實AI治理的基礎(chǔ)貢獻(xiàn)智慧。

事實上，AI不僅僅是一個技術(shù)系統(tǒng)，而是與人類社會經(jīng)濟(jì)系統(tǒng)、政治系統(tǒng)、文化系統(tǒng)等多維度情境結(jié)合在一起的。聯(lián)合國人工智能和機(jī)器人中心主任伊拉克里·貝里澤透露，目前，全球執(zhí)法機(jī)構(gòu)均已將AI應(yīng)用到各個領(lǐng)域，但在執(zhí)法過程中會產(chǎn)生許多“邊緣案例”。因此，要想真正利用好AI的力量，必須努力確保在遵循原則和國際法律的情況下負(fù)責(zé)任地使用。

近年來，全球正在就推動人與機(jī)器的和諧共生逐步達(dá)成共識。在我國，國家新一代人工智能治理專業(yè)委員會去年發(fā)布了以“發(fā)展負(fù)責(zé)任的人工智能”為主題的治理原則。此次論壇上，上海國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)專家咨詢委員會發(fā)布了“協(xié)同落實人工智能治理原則的行動建議”。這是國內(nèi)首次提出的系統(tǒng)落實AI治理原則的綜合行動方案，將為進(jìn)一步推進(jìn)AI治理提供參考。( 許琦敏)

標(biāo)簽： 人工智能 良芯