4月25日，美國消費者金融保護(hù)局、司法部、聯(lián)邦貿(mào)易委員會等部門官員警告金融公司和其他機(jī)構(gòu)，使用人工智能（AI）會增加偏見和侵犯公民權(quán)利的風(fēng)險，并表示正在監(jiān)管市場以防止此類歧視。

【資料圖】

隨著人工智能工具的日益普及，美國、歐洲和中國的監(jiān)管機(jī)構(gòu)都在加強(qiáng)對使用人工智能技術(shù)的審查，并呼吁制定新的法律來控制該技術(shù)。

美國消費者金融保護(hù)局局長喬普拉（Rohit Chopra）表示，在金融領(lǐng)域，如果公司甚至不了解人工智能做出決定的原因，就不能合法地使用這些技術(shù)。

4月25日，上海交通大學(xué)安泰經(jīng)濟(jì)與管理學(xué)院教授，上海交通大學(xué)行業(yè)研究院“人工智能+”行業(yè)團(tuán)隊負(fù)責(zé)人史占中在一場媒體沙龍上也提到了類似的話題。他對第一財經(jīng)記者表示：“新的技術(shù)出來之后我們不能恐懼，更不能因噎廢食；我們要積極、及時通過規(guī)則優(yōu)化和有效監(jiān)管，把它從挑戰(zhàn)人類的最強(qiáng)‘對手’變成人類的最好‘助手’。”

史占中認(rèn)為，人工智能是由算法推動的，而算法里面有算法的陷阱和算法的誤導(dǎo)，Al算法和模型的偏見設(shè)計，如種族、性別歧視等等，將引發(fā)社會排斥；Al數(shù)據(jù)分析、存儲及應(yīng)用，可能引發(fā)造假造謠詐騙、信息泄露、隱私侵犯及數(shù)據(jù)濫用等，這些問題都將挑戰(zhàn)道德倫理。

“人工智能更大的風(fēng)險是，AI在治理架構(gòu)、隱私保護(hù)以及風(fēng)險設(shè)計等方面，會對未來的社會穩(wěn)定、價值觀、法律法規(guī)等，形成巨大的挑戰(zhàn)。”史占中說道。

在談到關(guān)于人工智能的決策如何定責(zé)的時候，史占中認(rèn)為，人類智能和人工智能在協(xié)作過程中，誰處于指導(dǎo)地位，誰的權(quán)屬更高一點。“現(xiàn)在法律上確實是一個空白地帶，包括出現(xiàn)問題的時候誰負(fù)主要責(zé)任，以及AI責(zé)任由誰承擔(dān)，這也存在法律法規(guī)的空白區(qū)。”他說道。

本周一，微軟支持的技術(shù)倡導(dǎo)組織美國商業(yè)軟件聯(lián)盟（BSA）建議在美國數(shù)據(jù)隱私立法中制定管理人工智能使用的規(guī)則。BSA代表Adobe、IBM和甲骨文等商業(yè)軟件公司。

BSA方面稱，數(shù)字化轉(zhuǎn)型是“經(jīng)濟(jì)議程的重要組成部分”，應(yīng)該制定一個國家數(shù)字化轉(zhuǎn)型議程，包括關(guān)于人工智能的規(guī)則、國家隱私標(biāo)準(zhǔn)和強(qiáng)有力的網(wǎng)絡(luò)安全政策。

對此，上海交通大學(xué)安泰經(jīng)濟(jì)與管理學(xué)院經(jīng)濟(jì)系教授陳宏民表示：“數(shù)字經(jīng)濟(jì)發(fā)展是一個循序漸進(jìn)的過程，現(xiàn)在所有的信息變成數(shù)字化，一秒鐘的時間可以傳千萬里、送達(dá)億萬人，背后需要兼顧快速、便利和安全等問題。”

陳宏民認(rèn)為，數(shù)字經(jīng)濟(jì)發(fā)展是參差不齊的，有一些行業(yè)和企業(yè)已經(jīng)進(jìn)入到數(shù)據(jù)驅(qū)動的階段，但大部分行業(yè)和企業(yè)剛剛在數(shù)字化起步階段，只有帶著迭代思維不斷學(xué)習(xí)進(jìn)步，才能更好地應(yīng)對不確定性的世界。

標(biāo)簽：