近期，ChatGPT爆火掀起了新一輪生成式人工智能（AIGC）熱潮，也引發(fā)了社會(huì)各界對(duì)于該領(lǐng)域規(guī)范發(fā)展與治理問題的廣泛關(guān)注。4月11日，為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》（下稱《管理辦法》）。《管理辦法》明確提出，提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會(huì)公德、公序良俗，并明確了生成式人工智能服務(wù)的提供者需要承擔(dān)的各項(xiàng)義務(wù)和責(zé)任。

(相關(guān)資料圖)

一旦《管理辦法》正式通過并生效，則預(yù)示著可信AIGC發(fā)展邁向新的臺(tái)階。目前，ChatGPT等AIGC技術(shù)仍是一把雙刃劍，其作為高度智慧化的人工智能（AI）形態(tài)，帶給人類社會(huì)的便捷與風(fēng)險(xiǎn)同在，而這些潛在風(fēng)險(xiǎn)，可能引發(fā)民眾對(duì)于AI技術(shù)應(yīng)用的信任危機(jī)。ChatGPT等AI技術(shù)應(yīng)用在給人們帶來便捷的同時(shí)，也存在泄露個(gè)人隱私的風(fēng)險(xiǎn)，并且可能成為“學(xué)術(shù)造假”、制造虛假信息和謠言的工具，引發(fā)人們對(duì)AIGC乃至整個(gè)AI產(chǎn)業(yè)的信任危機(jī)，而對(duì)AI的信任危機(jī)將不利于AI的進(jìn)一步創(chuàng)新和發(fā)展。為此，有必要基于可能引發(fā)AIGC信任危機(jī)的問題所在，探索可信AIGC發(fā)展的治理基點(diǎn)。

AIGC引發(fā)信任危機(jī)的原因

在AI技術(shù)發(fā)展早期，人們對(duì)其產(chǎn)生信任危機(jī)主要緣于技術(shù)不成熟，譬如自動(dòng)駕駛技術(shù)存在發(fā)生事故的可能，使用者的人身安全難以得到有效保障，由此會(huì)產(chǎn)生一種不信任。隨著ChatGPT等的出現(xiàn)，AI技術(shù)發(fā)展進(jìn)入一個(gè)全新階段，人們發(fā)現(xiàn)AI技術(shù)具有無限可能性，可以完成一些人們從未想象過的任務(wù)，但這仍然可能引發(fā)人們對(duì)于AI技術(shù)的不信任。這種不信任，一方面緣于AI技術(shù)確實(shí)尚未成熟，另一方面則緣于AI技術(shù)生成的內(nèi)容難辨真假，且在無形中會(huì)采集我們提供的大量數(shù)據(jù)。以ChatGPT為代表的AIGC技術(shù)為例，就可能引發(fā)下述問題：

其一，科技倫理問題。科技倫理是開展科學(xué)研究、技術(shù)開發(fā)等科技活動(dòng)需要遵循的價(jià)值理念和行為規(guī)范，是促進(jìn)科技事業(yè)健康發(fā)展的重要保障。ChatGPT等AIGC技術(shù)的發(fā)展使得AI應(yīng)用擴(kuò)展到了新聞、畫圖、寫作等領(lǐng)域，但這些領(lǐng)域尚未建立技術(shù)使用的行為規(guī)范，易導(dǎo)致在技術(shù)使用過程中出現(xiàn)違反倫理道德的行為。

以ChatGPT為例，它可以幫助用戶完成新聞報(bào)道、寫論文等多種任務(wù)，但也因此可能成為一些人用來制造謠言和偽造論文的工具。全球?qū)W術(shù)頂刊《自然》雜志（Nature）一周之內(nèi)兩次發(fā)布有關(guān)ChatGPT的分析文章，探討諸如ChatGPT等大型語言模型（LLMs）給學(xué)術(shù)圈帶來的潛在混亂、生成內(nèi)容存在的潛在侵權(quán)，以及如何規(guī)范使用等問題。

在此背景下，若不明確對(duì)AI技術(shù)在各領(lǐng)域應(yīng)用需要遵循的價(jià)值理念和行為規(guī)范，那么學(xué)術(shù)規(guī)范問題、虛假信息和謠言傳播等科技倫理問題將會(huì)引發(fā)人們對(duì)于AI的不信任，這種不信任甚至可能會(huì)擴(kuò)大到未使用AI技術(shù)的情形中，譬如對(duì)于一篇學(xué)術(shù)論文或者畫作，人們都可能懷疑其是不是由AI創(chuàng)作出來的。如此一來，由此引發(fā)的信任危機(jī)將對(duì)相關(guān)領(lǐng)域整體發(fā)展產(chǎn)生不可預(yù)估的影響。

其二，侵權(quán)責(zé)任問題。由于AIGC領(lǐng)域相關(guān)法律、倫理道德規(guī)范尚未健全，AIGC技術(shù)的濫用引發(fā)了諸多侵權(quán)事件發(fā)生。據(jù)媒體報(bào)道，澳大利亞墨爾本西部赫本郡的市長(zhǎng)布賴恩·胡德（BrianHood）指控OpenAI旗下ChatGPT對(duì)其進(jìn)行誹謗，或?qū)?duì)該公司提起訴訟。

而且，由于ChatGPT等AIGC技術(shù)的使用門檻較低，在一定程度上也提升了發(fā)生侵權(quán)事故的風(fēng)險(xiǎn)。以傳播謠言為例，在當(dāng)前追求流量的互聯(lián)網(wǎng)環(huán)境下，可能會(huì)促使一些用戶為博眼球制造虛假信息，增加虛假信息傳播的頻率。

隨之而來的是AI侵權(quán)責(zé)任的承擔(dān)問題，即遭到AIGC技術(shù)參與的侵權(quán)行為，應(yīng)當(dāng)找誰承擔(dān)責(zé)任？是用戶還是提供AIGC產(chǎn)品服務(wù)的運(yùn)營(yíng)商？目前，傳統(tǒng)法律法規(guī)中的主體資格、責(zé)任追究等制度適用于AIGC應(yīng)用場(chǎng)景面臨困境，若不能有效且合理地認(rèn)定各方的侵權(quán)責(zé)任，同樣會(huì)引發(fā)人們對(duì)于AIGC技術(shù)的不信任，因?yàn)樨?zé)任追究機(jī)制不明確可能導(dǎo)致行為人與運(yùn)營(yíng)商之間相互推諉責(zé)任，從而導(dǎo)致被侵權(quán)人的損失難以及時(shí)彌補(bǔ)。

其三，數(shù)據(jù)安全問題。AI技術(shù)的運(yùn)行需要大量數(shù)據(jù)支持，主要使用的是公共爬蟲數(shù)據(jù)集和有著超過萬億單詞的人類語言數(shù)據(jù)集。OpenAI官網(wǎng)發(fā)布的《隱私政策》顯示，用戶在使用ChatGPT時(shí)，會(huì)被采集有關(guān)用戶訪問、使用或互動(dòng)的信息。相關(guān)負(fù)責(zé)人也表示，ChatGPT會(huì)使用每個(gè)客戶的一小部分?jǐn)?shù)據(jù)樣本來提高模型性能，用戶若不希望數(shù)據(jù)用于提高性能，需要通過郵件向OpenAI發(fā)送申請(qǐng)。這意味著，包含用戶隱私以及用戶對(duì)話的數(shù)據(jù)可能會(huì)被OpenAI采集并存儲(chǔ)在其數(shù)據(jù)中心，隨著ChatGPT用戶數(shù)量暴增，其采集和存儲(chǔ)的用戶數(shù)據(jù)量也將非常龐大。

雖然近年來數(shù)據(jù)安全保護(hù)技術(shù)愈加成熟，且提供AIGC服務(wù)的運(yùn)營(yíng)商也會(huì)承諾保障數(shù)據(jù)安全，但數(shù)據(jù)泄露隱憂始終存在。3月25日，OpenAI表示有1.2%的ChatGPTPlus用戶數(shù)據(jù)可能被泄露，一些用戶可能看到其他人聊天記錄的片段，以及其他用戶信用卡的最后四位數(shù)字、到期日期、姓名、電子郵件地址和付款地址等信息。可見，數(shù)據(jù)安全問題仍然難以避免，若數(shù)據(jù)安全得不到有效保障，AI技術(shù)就難以獲信，進(jìn)而阻礙AI的發(fā)展和應(yīng)用。

推進(jìn)可信AI發(fā)展的治理基點(diǎn)

當(dāng)前，騰訊、百度等國(guó)內(nèi)科技巨頭紛紛表示將研發(fā)類ChatGPT的AIGC技術(shù)產(chǎn)品，在此背景下，必須正視可能引發(fā)AIGC信任危機(jī)的主要問題。應(yīng)當(dāng)以三方面作為治理基點(diǎn)，加快推進(jìn)可信AIGC發(fā)展。

第一，加快建立多領(lǐng)域的科技倫理監(jiān)管和規(guī)范，加強(qiáng)科技倫理審查。當(dāng)前，我國(guó)AIGC相關(guān)領(lǐng)域的科技倫理治理存在體制機(jī)制不健全、制度不完善、領(lǐng)域發(fā)展不均衡等問題，難以適應(yīng)AIGC領(lǐng)域科技創(chuàng)新發(fā)展的現(xiàn)實(shí)需要。

為此，一方面，需要針對(duì)不同的AIGC應(yīng)用領(lǐng)域制定相應(yīng)的科技倫理規(guī)范和標(biāo)準(zhǔn)，明確科技倫理要求，引導(dǎo)相關(guān)企業(yè)合規(guī)開展科技活動(dòng)。

同時(shí)，加強(qiáng)對(duì)AIGC產(chǎn)品的事前審查。《管理辦法》規(guī)定，在利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)向國(guó)家網(wǎng)信部門申報(bào)安全評(píng)估，并履行算法備案和變更、注銷備案手續(xù)。通過事前審查的方式，不僅可以提升生成式人工智能產(chǎn)品向公眾提供服務(wù)的合法性，增加其安全、可靠、可解釋、可問責(zé)等可信性，還有助于更好地實(shí)現(xiàn)AIGC產(chǎn)品和技術(shù)適用的包容性，更好地預(yù)防風(fēng)險(xiǎn)，保障安全。事前審查還能夠彌補(bǔ)外部監(jiān)督的缺陷，提前鑒別某個(gè)行為是否違法，對(duì)其實(shí)施監(jiān)控更加有利和有力。此外，進(jìn)行事前審查，可及時(shí)發(fā)現(xiàn)運(yùn)作程序、服務(wù)內(nèi)容存在的問題，提高生成式人工智能產(chǎn)品向公眾提供服務(wù)的可接受性。但同時(shí)，也可能由于事前審查效率及審查范圍設(shè)置不當(dāng)，抑制AIGC產(chǎn)品的研發(fā)與訓(xùn)練效能，客觀上導(dǎo)致AIGC發(fā)展降速。

另一方面，要加快建立科技倫理審查和監(jiān)管制度。4月4日，科技部發(fā)布關(guān)于公開征求對(duì)《科技倫理審查辦法（試行）》意見的公告，其中提出科技倫理審查應(yīng)堅(jiān)持科學(xué)、獨(dú)立、公正、透明原則，公開審查制度和審查程序，客觀審慎評(píng)估科技活動(dòng)倫理風(fēng)險(xiǎn)，依規(guī)開展審查，并自覺接受有關(guān)方面的監(jiān)督。通過科技倫理審查等外部監(jiān)管方式，能在一定程度上提升AI領(lǐng)域技術(shù)使用的規(guī)范性，建立人工智能領(lǐng)域道德層面的行為準(zhǔn)則，對(duì)維護(hù)社會(huì)公平正義、保障公眾切身利益具有重要意義，也有助于提升人們對(duì)人工智能技術(shù)應(yīng)用的信任。

第二，要完善AIGC侵權(quán)責(zé)任認(rèn)定規(guī)則。AI自動(dòng)化運(yùn)行造成了“主體—行為—責(zé)任”傳統(tǒng)理論下的“責(zé)任鴻溝”，但AI算法技術(shù)的應(yīng)用如算法的設(shè)計(jì)與部署是包含價(jià)值觀和主觀意圖的，這是法律追責(zé)之根本指向，也是承擔(dān)法律責(zé)任的主要依據(jù)，因此，可將AI算法設(shè)計(jì)部署的主觀過錯(cuò)作為追責(zé)的基礎(chǔ)依據(jù)。在此基礎(chǔ)上，還需進(jìn)一步提升《民法典》《刑法》《產(chǎn)品質(zhì)量法》等傳統(tǒng)法律在AIGC具體應(yīng)用場(chǎng)景中判定主體責(zé)任和產(chǎn)品質(zhì)量缺陷等問題的適用性。

在責(zé)任判定過程中，需要根據(jù)行為人以及提供AIGC服務(wù)的運(yùn)營(yíng)商對(duì)于侵權(quán)行為和損害后果發(fā)生的實(shí)質(zhì)作用進(jìn)行判定。《管理辦法》第五條規(guī)定，利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人（下稱“提供者”），需要承擔(dān)產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任。這意味著在責(zé)任判定過程中，若損害發(fā)生，可以參照適用《民法典》中規(guī)定的產(chǎn)品生產(chǎn)者責(zé)任，即因產(chǎn)品存在缺陷造成他人損害的，生產(chǎn)者應(yīng)當(dāng)承擔(dān)侵權(quán)責(zé)任，并且被侵權(quán)人可以向產(chǎn)品的提供者請(qǐng)求賠償。這是對(duì)AIGC產(chǎn)品提供者通常是平臺(tái)主體應(yīng)該盡到高度注意義務(wù)的規(guī)定，在一定程度上講，也只有賦予AIGC產(chǎn)品提供者相應(yīng)的責(zé)任義務(wù)，才能更好對(duì)生成內(nèi)容的合法合規(guī)做出要求。當(dāng)然，如果平臺(tái)盡到相應(yīng)義務(wù)，在責(zé)任的承擔(dān)上，鑒于其對(duì)創(chuàng)新發(fā)展的貢獻(xiàn)，不宜施加嚴(yán)格責(zé)任，否則不利于技術(shù)開發(fā)和未來商用。

第三，要加強(qiáng)AI領(lǐng)域的數(shù)據(jù)保障。在制度層面，需要結(jié)合AIGC底層技術(shù)所需數(shù)據(jù)的特性和作用，建立健全數(shù)據(jù)分類分級(jí)保護(hù)制度，譬如可根據(jù)數(shù)據(jù)主體、數(shù)據(jù)處理程度、數(shù)據(jù)權(quán)利屬性等方面對(duì)數(shù)據(jù)進(jìn)行分類管理，根據(jù)數(shù)據(jù)對(duì)于數(shù)據(jù)權(quán)利主體的價(jià)值，以及數(shù)據(jù)一旦遭到篡改、破壞等對(duì)數(shù)據(jù)主體的危害程度進(jìn)行分級(jí)。

在數(shù)據(jù)分類分級(jí)的基礎(chǔ)上，建立與數(shù)據(jù)類型和安全級(jí)別相配套的數(shù)據(jù)保護(hù)標(biāo)準(zhǔn)與共享機(jī)制。AIGC還涉及數(shù)據(jù)跨境流通問題，應(yīng)當(dāng)在考慮國(guó)際通行標(biāo)準(zhǔn)和做法的基礎(chǔ)上，制定合理的跨境數(shù)據(jù)安全執(zhí)法規(guī)則，加強(qiáng)與其他國(guó)家和地區(qū)規(guī)則的銜接，促進(jìn)數(shù)據(jù)安全跨境執(zhí)法合作。

此外，還需進(jìn)一步加強(qiáng)數(shù)據(jù)安全的事前保護(hù)，將保護(hù)鏈條前移。《管理辦法》規(guī)定，提供者應(yīng)當(dāng)根據(jù)國(guó)家網(wǎng)信部門和有關(guān)主管部門的要求，提供可以影響用戶信任、選擇的必要信息，包括預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的來源、規(guī)模、類型、質(zhì)量等描述，人工標(biāo)注規(guī)則，人工標(biāo)注數(shù)據(jù)的規(guī)模和類型，基礎(chǔ)算法和技術(shù)體系等。通過事前保護(hù)的方式，能夠更加積極有效地規(guī)范AI訓(xùn)練過程，以更好保障用戶的知情權(quán)、選擇權(quán)等權(quán)益，增強(qiáng)用戶信任度。

AIGC產(chǎn)業(yè)具有巨大的發(fā)展前景，能夠帶來更多數(shù)字化創(chuàng)新的發(fā)展機(jī)遇，也已成為未來全球競(jìng)爭(zhēng)與創(chuàng)新的重點(diǎn)方向，但AIGC產(chǎn)業(yè)發(fā)展面臨的信任危機(jī)也值得重視。我國(guó)需進(jìn)一步推進(jìn)可信AIGC產(chǎn)業(yè)的發(fā)展建設(shè)，重視AIGC產(chǎn)業(yè)的科技倫理治理，建立健全相關(guān)行為規(guī)范和倫理指南，用系統(tǒng)觀念和法治思維及辦法來推動(dòng)AIGC產(chǎn)業(yè)的規(guī)范健康持續(xù)發(fā)展，提升其安全、可靠、可解釋、可問責(zé)等可信性。

（陳兵系南開大學(xué)法學(xué)院副院長(zhǎng)、教授，南開大學(xué)競(jìng)爭(zhēng)法研究中心主任，南開大學(xué)數(shù)字經(jīng)濟(jì)交叉科學(xué)中心研究員；林思宇系南開大學(xué)競(jìng)爭(zhēng)法研究中心博士研究生）

標(biāo)簽：