歐盟朝著全球首部人工智能（AI）立法又邁出重要一步。

當(dāng)?shù)貢r間14日，歐洲議會以499票贊成、28票反對和93票棄權(quán)，高票通過了歐盟的《人工智能法案》談判授權(quán)草案。

(資料圖片)

第一財經(jīng)記者看到的草案文本顯示，歐洲議會對此前版本作出修改，譬如在如何定義人工智能方面，進(jìn)一步明確了高風(fēng)險人工智能的場景，同時該版本也保留了此前的法案的重要內(nèi)容，包括禁止在生物識別監(jiān)控中使用人工智能技術(shù)，以及ChatGPT等生成式人工智能的披露透明度等問題。

據(jù)悉，接下來各方將正式進(jìn)入與歐盟委員會進(jìn)行協(xié)商的程序，以確定最終版本，最快也要在今年年底才能達(dá)成共識。

“監(jiān)管中必須有不可跨越的紅線。歐盟的《人工智能法案》中就規(guī)定了不可發(fā)展的部分，比如不可用于社會評分。”歐洲工商管理學(xué)院（INSAED）的決策科學(xué)和技術(shù)管理教授埃夫根尼奧（Theos Evgeniou）對第一財經(jīng)記者表示："不過從某種意義上來說，歐洲更復(fù)雜，在解決某些重大問題時，所有成員國需要達(dá)成一致，需要考慮到不同成員國之間不同的立法流程、文化背景以及治理體系。所以歐洲的行動相比起來較為緩慢。因此，歐洲希望從一開始就不要在監(jiān)管上犯錯誤。"

人工智能分級管理

歐盟于2021年首次提出《人工智能法案》，旨在制定管理使用人工智能系統(tǒng)的任何產(chǎn)品和服務(wù)的規(guī)則。

目前的該法案談判授權(quán)草案采取了分級管理的思路，即基于人工智能的四個等級（從風(fēng)險最小到不可接受），進(jìn)行區(qū)別管理，風(fēng)險較高的應(yīng)用程序?qū)⒚媾R更嚴(yán)格的規(guī)則，需要更高的透明度和準(zhǔn)確性。

歐洲議會認(rèn)為，對人類安全造成不可接受風(fēng)險的人工智能系統(tǒng)將被嚴(yán)格禁止，包括部署潛意識或有目的操縱技術(shù)、利用人們?nèi)觞c(diǎn)或用于社會評分的系統(tǒng)。

譬如，用于預(yù)先確定犯罪發(fā)生地點(diǎn)和犯罪者的警務(wù)工具可能將被禁止，除打擊和預(yù)防特定恐怖威脅外，遠(yuǎn)程面部識別技術(shù)也將被禁止。

此次，歐洲議會就批準(zhǔn)了全面禁止警察在公共場所使用實(shí)時面部識別技術(shù)的立法草案文本。具體而言，此次歐洲議會議員擴(kuò)大了禁止清單，進(jìn)一步禁止了侵入性和歧視性使用人工智能，其中包括在公共場所的實(shí)時遠(yuǎn)程生物特征識別監(jiān)控系統(tǒng)，使用敏感特征（例如性別、種族等）的生物識別分類系統(tǒng)，預(yù)測性警務(wù)系統(tǒng)（基于分析、位置或既往犯罪行為），執(zhí)法、邊境管理、工作場所和教育機(jī)構(gòu)中的情緒識別系統(tǒng)以及從互聯(lián)網(wǎng)或閉路電視錄像中無針對性地抓取面部圖像以創(chuàng)建面部識別數(shù)據(jù)庫的行為。

將立法推進(jìn)到投票階段的歐洲議會人工智能委員會的聯(lián)合報告員本尼菲（Brando Benifei）表示，在面部識別方面，法律將提供“明確的保障措施，以避免任何大規(guī)模監(jiān)控的風(fēng)險”。

徹底記錄訓(xùn)練人工智能版權(quán)

需要提到的是，最初的草案并未詳細(xì)涵蓋聊天機(jī)器人，但由于在立法期間，ChatGPT橫空出世，立法者添加了一項(xiàng)修正案，將ChatGPT和類似的生成式AI與高風(fēng)險系統(tǒng)置于同一級別。

歐洲議會提出，像ChatGPT這樣的生成基礎(chǔ)模型必須遵守額外的透明度要求，比如披露內(nèi)容是由人工智能生成的，設(shè)計模型以防止其生成非法內(nèi)容，以及發(fā)布用于訓(xùn)練的受版權(quán)保護(hù)數(shù)據(jù)的摘要。

此外，歐洲議會的議員們還希望提高歐洲公民對人工智能系統(tǒng)提出投訴的權(quán)利，并獲得對基于嚴(yán)重影響其權(quán)利的高風(fēng)險人工智能系統(tǒng)決策的解釋權(quán)利。

在歐盟的定義里，由于生成式人工智能沒有特定用途，因而將其劃分為通用人工智能領(lǐng)域（General Purpose AI），并強(qiáng)制披露受版權(quán)保護(hù)的人工智能訓(xùn)練數(shù)據(jù)。

根據(jù)草案文本，開發(fā)商在歐盟市場上發(fā)布之前在歐盟人工智能管理數(shù)據(jù)庫中進(jìn)行登記。如ChatGPT等工具，必須披露哪些內(nèi)容是人工智能生成的，以便幫助區(qū)分所謂的深度造假圖像和真實(shí)圖像，并確保防止生成非法內(nèi)容。

同時，此次在草案中，歐洲議會要求徹底記錄任何用于訓(xùn)練人工智能系統(tǒng)如何生成類似于人類作品的文本、圖像、視頻和音樂的版權(quán)材料，且開發(fā)商還必須證明他們?yōu)橛?xùn)練機(jī)器所做的一切都符合法律。

歐洲議會議員圖朵拉赫表示，如果人工智能的開發(fā)者不這樣做，他們可能會被迫立即刪除應(yīng)用程序或被罰款，罰款最高可達(dá)其收入的 7%，這對科技巨頭來說可能高達(dá)數(shù)億歐元。

埃夫根尼奧對第一財經(jīng)記者表示，像ChatGPT這樣的生成性AI技術(shù)是所謂“根基模型”（foundation models）。

“人們可以在這種模型的基礎(chǔ)上開發(fā)大量產(chǎn)品，并能夠進(jìn)行微調(diào)。換言之，它們不是單純的產(chǎn)品，而是核心技術(shù)，是人們可以開發(fā)的產(chǎn)品之核心所在。”他解釋道，“這種核心技術(shù)本身已經(jīng)非常強(qiáng)大，我們甚至無法預(yù)測人們將依靠它們開發(fā)出什么。我們也從未仔細(xì)考慮過如何管控和規(guī)范根基模型。這是一種新概念。”

“很明顯，我們需要對其中一些部分進(jìn)行監(jiān)管。要注意的是，我們要規(guī)范和監(jiān)管的是內(nèi)容審核的過程，而非內(nèi)容本身。”他表示：“一些國家和地區(qū)已著手制定有關(guān)內(nèi)容審核的法規(guī)。例如，歐洲提出《數(shù)字服務(wù)法》（DSA），涉及規(guī)范在線平臺的內(nèi)容。在我看來，這是一個很好的法規(guī)，因?yàn)樗鼛砹艘粋€公平和透明的內(nèi)容審核程序。”

他并補(bǔ)充道，總之，我們需要法規(guī)來規(guī)范如何公平和透明地審核內(nèi)容，至于內(nèi)容來自人還是來自人工智能，這在某種意義上并不重要。

據(jù)悉，接下來，歐洲議會、歐盟理事會和歐盟委員會的代表將在“三方”會談中商定最終條款。在條款最終確定且該法案成為法律后，將有大約兩年的寬限期。

（記者高雅對本文亦有貢獻(xiàn)）

標(biāo)簽：