歐洲議會正就全球首部人工智能（AI）法案展開大規(guī)模協(xié)商，光修正案就有一千多項，創(chuàng)下了歐洲議會史上之最。

當(dāng)?shù)貢r間11日，歐洲議會內(nèi)部市場委員會和公民自由委員會以84票贊成、7票反對和12票棄權(quán)通過關(guān)于《AI法案》的談判授權(quán)草案，其中包含了有關(guān)面部識別、生物識別監(jiān)控和其他AI應(yīng)用使用的新規(guī)則，并提出了嚴(yán)格監(jiān)管ChatGPT等AI工具的新思路。

領(lǐng)導(dǎo)上述法案制定的歐洲議會議員土多拉舍（Drago? Tudorache）表示，歐盟的《AI法案》是全球首個此類立法，“歐盟可以在全球范圍內(nèi)帶頭使AI以人為本，（變得）值得信賴和安全”。

(資料圖片僅供參考)

“避免建立一個基于人工智能的受控社會”

歐盟于2021年首次提出《AI法案》，旨在制定管理使用AI系統(tǒng)的任何產(chǎn)品和服務(wù)的規(guī)則。

第一財經(jīng)記者看到，目前的提案采取了分級管理的思路，即基于AI的四個等級（從風(fēng)險最小到不可接受），進(jìn)行區(qū)別管理，風(fēng)險較高的應(yīng)用程序?qū)⒚媾R更嚴(yán)格的規(guī)則，需要更高的透明度和準(zhǔn)確性。

歐洲議會認(rèn)為，對人類安全造成不可接受風(fēng)險的AI系統(tǒng)將被嚴(yán)格禁止，包括部署潛意識或有目的操縱技術(shù)、利用人們?nèi)觞c或用于社會評分的系統(tǒng)。

譬如，用于預(yù)先確定犯罪發(fā)生地點和犯罪者的警務(wù)工具可能將被禁止，除打擊和預(yù)防特定恐怖威脅外，遠(yuǎn)程面部識別技術(shù)也將被禁止。

《AI法案》的聯(lián)合推動人之一、歐洲議會意大利議員伯尼菲（Brando Benifei）表示，這樣做的目的是“避免建立一個基于人工智能的受控社會”。“我們認(rèn)為這些技術(shù)可以用于好的地方，也可以用來做壞事，風(fēng)險太高了。”他補(bǔ)充道。

此外，雖然原始提案并未詳細(xì)涵蓋聊天機(jī)器人，但由于在立法期間，ChatGPT橫空出世，立法者添加了一項修正案，將 ChatGPT和類似的生成式AI與高風(fēng)險系統(tǒng)置于同一級別。

具體而言，此次歐洲議會的議員大幅修改了清單，以禁止侵入性和歧視性地使用AI系統(tǒng)的行為，例如：在公共場所“實時”使用的遠(yuǎn)程生物特征識別系統(tǒng)；“事后”遠(yuǎn)程生物識別系統(tǒng)，不過執(zhí)法機(jī)關(guān)為起訴嚴(yán)重罪行且取得司法授權(quán)后例外；使用如性別、種族、公民身份、宗教、政治取向等敏感數(shù)據(jù)的生物識別分類系統(tǒng)；基于分析、位置或過去犯罪行為的預(yù)測性警務(wù)系統(tǒng)；執(zhí)法、邊境管理、工作場所和教育機(jī)構(gòu)中的情緒識別系統(tǒng)，以及不分青紅皂白地從社交媒體或閉路電視錄像中抓取生物識別數(shù)據(jù)來創(chuàng)建面部識別數(shù)據(jù)庫等行為。

針對ChatGPT等生成式AI專門監(jiān)管

此次，歐洲議會議員擴(kuò)大了AI高風(fēng)險領(lǐng)域的分類，將對人們健康、安全、基本權(quán)利或環(huán)境的危害考慮在內(nèi)。

目前，歐洲議會還有意針對ChatGPT等生成式 AI設(shè)立專門監(jiān)管制度，大致與高風(fēng)險系統(tǒng)須遵守的義務(wù)相同。

歐洲議會還提出，像ChatGPT這樣的生成基礎(chǔ)模型必須遵守額外的透明度要求，比如披露內(nèi)容是由AI生成的，設(shè)計模型以防止其生成非法內(nèi)容，以及發(fā)布用于訓(xùn)練的受版權(quán)保護(hù)數(shù)據(jù)的摘要。

此外，歐洲議會的議員們還希望提高歐洲公民對AI系統(tǒng)提出投訴的權(quán)利，并獲得對基于嚴(yán)重影響其權(quán)利的高風(fēng)險AI系統(tǒng)決策的解釋權(quán)利。

本周歐洲議會所達(dá)成的協(xié)議只是歐盟內(nèi)部漫長而艱巨的程序的第一步，該程序可能需要數(shù)年時間，才能讓法案成為歐盟27個成員國的正式法律。

根據(jù)目前的時間表，該法案將于6月提交歐洲議會全體表決，之后歐洲議會、歐盟理事會和歐盟委員會的代表將在“三方”會談中商定最終條款。在條款最終確定且該法案成為法律后，將有大約兩年的寬限期。

知情人士表示，成員國和立法者可能會就在有限情況下，如存在恐怖威脅時，是否可以接受實時面部識別AI應(yīng)用展開曠日持久的討論。

伯尼菲表示，對實時生物識別技術(shù)的限制是一個需要“艱難”談判的領(lǐng)域，歐盟可能“需要找到解決方案”。

他也樂觀表示，各個成員國會支持歐洲議會關(guān)于對生成AI模型進(jìn)行立法的提議。

歐美監(jiān)管思路不同

除了歐洲，全球各地越來越擔(dān)心快速發(fā)展的AI技術(shù)可能被濫用。上周，美國聯(lián)邦貿(mào)易委員會發(fā)出警告，稱“正在密切關(guān)注公司如何選擇使用AI技術(shù)，包括新的生成人工智能工具，以及對消費者產(chǎn)生實際和實質(zhì)性影響的方式”。

5月4日，拜登政府則宣布對“值得信賴的”人工智能增加新投資。同日，美國副總統(tǒng)哈里斯以及多位白宮高級官員與谷歌、微軟、OpenAI和AI初創(chuàng)公司Anthropic的首席執(zhí)行官會面，集中討論當(dāng)前和近期的技術(shù)發(fā)展所帶來的風(fēng)險。

作為潛在監(jiān)管的第一步，美國商務(wù)部在4月11日已就相關(guān)措施正式公開征求意見，包括新AI模型在發(fā)布前是否應(yīng)經(jīng)過認(rèn)證程序。征求意見期限為60天。

不過，盡管華盛頓遭到了AI威脅論的轟炸，但他們擔(dān)心禁用或停止AI的部署，可能讓美國在AI研究上失去競爭優(yōu)勢。

投資咨詢公司BCA Research美國資產(chǎn)部首席策略師唐克爾（Irene Tunkel）對第一財經(jīng)記者表示：“為了使美國保持相對于世界其他國家的技術(shù)優(yōu)勢，美國政府將需要利用政策和財政支出來促進(jìn)AI在多年內(nèi)的增長。我們預(yù)計，（美國）更多的政府資源將被分配給AI，包括國防和非國防性質(zhì)的資源，而監(jiān)管環(huán)境將促進(jìn)整個經(jīng)濟(jì)領(lǐng)域在公共和私營部門越來越多地采用AI。”

同時，她稱，雖然近年來美國聯(lián)邦層面和州層面提出了許多AI領(lǐng)域的立法，但更多的立法并不一定意味著更緊的監(jiān)管。“這些立法有一個基本的相似性。目的是促進(jìn)美國公共和私營部門的AI的發(fā)展和使用，同時也有相關(guān)指導(dǎo)方針，保護(hù)AI的消費者和用戶。”她說。（記者高雅對本文亦有貢獻(xiàn)去）

標(biāo)簽：