一方面，算法歧視現(xiàn)象越來越引起決策者的重視；另一方面，如何平衡好科技創(chuàng)新與個人隱私保護(hù)問題也成為反壟斷監(jiān)管中亟待解決的難題。

10月22日至10月24日，第三屆外灘金融峰會在上海召開。峰會期間，多位知名經(jīng)濟(jì)學(xué)家、專業(yè)學(xué)者就金融科技發(fā)展監(jiān)管等問題進(jìn)行了思想碰撞，涉及算法歧視、數(shù)據(jù)確權(quán)、隱私保護(hù)等諸多內(nèi)容。

綜合來看，與會專家均認(rèn)為，在數(shù)字經(jīng)濟(jì)背景下，“算法霸權(quán)”已經(jīng)嚴(yán)重危害了消費者的合法權(quán)益，對算法應(yīng)實施公開透明監(jiān)管，同時也要兼顧好隱私保護(hù)與公平利用等問題。

“積極應(yīng)對算法歧視等新型壟斷問題，”正如近期央行行長易綱在國際清算銀行（BIS）監(jiān)管大型科技公司國際會議上講話時所說，“未來將發(fā)揮好與反壟斷部門的監(jiān)管合力，遏制濫用市場優(yōu)勢地位的壟斷行為。”

算法歧視新型壟斷問題

由于網(wǎng)絡(luò)效應(yīng)的存在，金融科技領(lǐng)域通常會形成“贏家通吃”的局面。為了強(qiáng)化反壟斷監(jiān)管，我國平臺經(jīng)濟(jì)領(lǐng)域的反壟斷指南出爐，以強(qiáng)化反壟斷和防止資本無序擴(kuò)張。除了“二選一”等與消費者購買行為密切相關(guān)的領(lǐng)域，與算法相關(guān)的大數(shù)據(jù)殺熟也成為我國反壟斷監(jiān)管的重點之一。

談及反壟斷監(jiān)管，美國哈佛大學(xué)教授、白宮經(jīng)濟(jì)顧問委員會前主席Jason Furman在論壇上表示，從技術(shù)的角度來看，隨著行業(yè)的不斷發(fā)展，反壟斷目標(biāo)只需監(jiān)管大型科技企業(yè)即可，中小企業(yè)可以進(jìn)一步創(chuàng)新，而不是作為反壟斷目標(biāo)。但從金融監(jiān)管角度出發(fā)，監(jiān)管的側(cè)重點是要保證金融系統(tǒng)穩(wěn)定性，保護(hù)消費者。因此，金融監(jiān)管部門需要了解數(shù)字技術(shù)，數(shù)字監(jiān)管者需要了解金融，二者需要更多資源和能力的建設(shè)及投入。

不過，中國金融四十人論壇學(xué)術(shù)委員會主席、北京大學(xué)數(shù)字金融研究中心主任黃益平的觀點則有所不同。黃益平認(rèn)為，在數(shù)字時代，當(dāng)大型科技企業(yè)利用大數(shù)據(jù)開展業(yè)務(wù)的時候，出現(xiàn)了歧視性定價，雖然不涉及壟斷問題，但也同樣損害到消費者的利益。他認(rèn)為，行業(yè)中存在的很多其他問題才是反壟斷監(jiān)管需要關(guān)注的重點，小型玩家也需要被監(jiān)管。

近年來，以人工智能算法為基礎(chǔ)的應(yīng)用滲透到社會的方方面面，隨之而來的算法歧視問題也引發(fā)人們的關(guān)注。公眾普遍擔(dān)憂，自己是否會被數(shù)字和模型歧視或操縱。

“實踐中，大型科技公司的算法已在很大程度上影響了用戶的消費行為。”中國金融四十人論壇資深研究員、清華大學(xué)五道口金融學(xué)院院長張曉慧稱，算法的復(fù)雜性以及算法使用者的刻意隱瞞，使得絕大多數(shù)人無法理解算法的工作原理，導(dǎo)致作為算法使用者的大型科技公司，特別是那些幾乎控股了所有與個人生活行為相關(guān)的數(shù)字平臺公司得以處于事實上的支配地位，形成“算法霸權(quán)”，從而嚴(yán)重危害了算法相對人也就是消費者的合法權(quán)益。應(yīng)該說，算法已經(jīng)成為大型科技公司控制市場的主要工具。

張曉慧認(rèn)為，算法打著保護(hù)競爭優(yōu)勢和商業(yè)秘密的名義，為大型科技公司故意隱藏規(guī)則、操縱消費者和制造歧視，創(chuàng)造了更多的灰色空間。一是通過不公平排名，偏向自家產(chǎn)品或者商業(yè)利益伙伴；二是存在算法歧視問題，“大數(shù)據(jù)殺熟”就是價格歧視的一種表現(xiàn)形式；三是通過誘導(dǎo)性信息與風(fēng)險隱藏，誘導(dǎo)消費者過度消費和承擔(dān)風(fēng)險。

在算法監(jiān)管上，確立公開透明原則已迫在眉睫。9月30日，央行發(fā)布《征信業(yè)務(wù)管理辦法》，要求征信公司必須公開個人信用評分算法模型；《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》中，也針對“大數(shù)據(jù)殺熟”和“算法歧視”等問題，要求從業(yè)者完善算法管理制度，優(yōu)化算法推薦，定期審核和評估算法模型，加強(qiáng)內(nèi)容管理，促進(jìn)算法應(yīng)用向上向善。

近期，易綱在國際清算銀行（BIS）監(jiān)管大型科技公司國際會議上講話時指出，未來將發(fā)揮好與反壟斷部門的監(jiān)管合力，遏制濫用市場優(yōu)勢地位的壟斷行為，積極應(yīng)對算法歧視等新型壟斷問題。

數(shù)據(jù)治理兼顧隱私保護(hù)和公平利用

隨著國內(nèi)反壟斷監(jiān)管的深入，數(shù)據(jù)治理、個人隱私保護(hù)等問題也成為國內(nèi)反壟斷監(jiān)管的另一重點。

近年來，為了獲得平臺公司的金融服務(wù)，中國消費者往往需要向其提供個人信息，過度采集數(shù)據(jù)的問題比比皆是。

例如，在2016～2017年“現(xiàn)金貸”高速增長期間，出現(xiàn)了買賣借款人信息的情況；甚至一些科技公司隨意將用戶數(shù)據(jù)在不同的產(chǎn)品條線上混用，加大了隱私保護(hù)的難度。

在張曉慧看來，當(dāng)前中國在數(shù)據(jù)治理上仍面臨較大挑戰(zhàn)。一方面，大型科技公司過度采集客戶數(shù)據(jù)，在各產(chǎn)品條線上混用數(shù)據(jù)，侵犯客戶數(shù)據(jù)隱私；另一方面，大型科技公司在數(shù)據(jù)開放利用上存在不足。

數(shù)字時代，如何兼顧大數(shù)據(jù)開發(fā)、平衡數(shù)據(jù)的有效利用和個人信息保護(hù)？對此，Jason Furman認(rèn)為，競爭和隱私應(yīng)是互補(bǔ)的。消費者可以有更多的選擇；“答案在選擇權(quán)，關(guān)鍵在于要保留不同服務(wù)的豐富性，讓消費者有選擇權(quán)。”國際貨幣基金組織（IMF）貨幣及資本市場部主任Tobias Adrian如是說。

黃益平也指出，關(guān)鍵的問題是在創(chuàng)新和消費者權(quán)利之間取得平衡。一方面，對個人隱私要充分保護(hù)，另一方面又不能過度保護(hù)導(dǎo)致有害創(chuàng)新，而這條線該劃在哪里還需要整個社會、各行業(yè)逐漸討論得出答案，因此，監(jiān)管需要有一定的靈活性，也要有創(chuàng)新性。

數(shù)據(jù)價值在創(chuàng)造的過程中，數(shù)據(jù)的產(chǎn)權(quán)歸誰所有，利益如何分配，也是當(dāng)下數(shù)據(jù)運用所面臨的一項重大課題。

在復(fù)旦大學(xué)特聘教授、重慶市原市長黃奇帆看來，數(shù)據(jù)涉及五項基本權(quán)利：管轄權(quán)、交易權(quán)、所有權(quán)、使用權(quán)、財產(chǎn)分配權(quán)，各類主體基于自身在數(shù)據(jù)交易環(huán)節(jié)中的位置來行使相應(yīng)權(quán)利。其中，數(shù)據(jù)的管轄權(quán)、交易權(quán)應(yīng)由國家所有。

值得注意的是，10月20日，《上海市數(shù)據(jù)條例（草案）》正式結(jié)束公開征求意見，上海將按照國家要求在浦東新區(qū)設(shè)立數(shù)據(jù)交易所，作為數(shù)據(jù)資產(chǎn)交易的平臺，開展實質(zhì)化運營。

黃奇帆在論壇上指出，國家可以成立中央數(shù)據(jù)部門對國內(nèi)的數(shù)據(jù)活動進(jìn)行統(tǒng)一管理，在確立總的管理規(guī)則后，主要城市可以設(shè)立定點數(shù)據(jù)交易所，類似在北京、上海、深圳設(shè)立的證券交易所，而其他的一般省會城市、地級市不能設(shè)立。同時基于人工智能和區(qū)塊鏈技術(shù)建立數(shù)據(jù)可追溯系統(tǒng)，對數(shù)據(jù)無論是交易、使用、財產(chǎn)分配，有全息的可追溯過程，并且保證是不可更改的，從而保證數(shù)據(jù)交易安全有序。

在數(shù)字治理方面，歐盟走在國際前列，其理念和方法被許多國家和地區(qū)所借鑒，包括《通用數(shù)據(jù)保護(hù)條例》《數(shù)字服務(wù)法案》《數(shù)字市場法案》等。

張曉慧認(rèn)為，歐盟對于數(shù)字治理可以概括為：一是對數(shù)據(jù)隱私進(jìn)行最嚴(yán)格的保護(hù)，加強(qiáng)用戶對數(shù)據(jù)的控制；二是規(guī)定大型科技公司不得基于“核心平臺服務(wù)”來整合個人數(shù)據(jù)；三是大型科技公司不得使用商業(yè)用戶產(chǎn)生的數(shù)據(jù)與這些用戶開展競爭；四是大型科技公司要為商業(yè)用戶或經(jīng)其授權(quán)的第三方機(jī)構(gòu)提供數(shù)據(jù)使用便利；五是商業(yè)用戶和終端用戶向大型科技公司提供或產(chǎn)生的數(shù)據(jù)具有可攜帶性。

她認(rèn)為，中國也應(yīng)借鑒歐盟做法，在數(shù)據(jù)治理中努力平衡兼顧好隱私保護(hù)和公平利用的關(guān)系。不僅要明確區(qū)分?jǐn)?shù)據(jù)作為私人產(chǎn)品和準(zhǔn)公共品、公共品的邊界，也要厘清各類數(shù)據(jù)的多重性以及數(shù)據(jù)跨界混合使用可能產(chǎn)生的系統(tǒng)性風(fēng)險和社會副作用。

實際上，在強(qiáng)化數(shù)據(jù)保護(hù)，保障消費者權(quán)益方面，自2016年起，中國陸續(xù)出臺了《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》和《個人信息保護(hù)法》，著手治理信息收集和“霸王條款”，督促金融機(jī)構(gòu)嚴(yán)格按照合法、正當(dāng)、最小必要原則收集、使用和保管用戶信息，充分保障個人隱私和消費者知情權(quán)、同意權(quán)、異議權(quán)、投訴權(quán)等合法權(quán)益。

張曉慧強(qiáng)調(diào)，應(yīng)嚴(yán)格落實《數(shù)據(jù)安全法》《個人信息保護(hù)法》等法律法規(guī)，努力改進(jìn)和提高監(jiān)管能力，堅持制度規(guī)范和技術(shù)防護(hù)雙管齊下，嚴(yán)防數(shù)據(jù)誤用、濫用，切實保障金融數(shù)據(jù)和個人隱私安全。

標(biāo)簽： 算法 歧視 經(jīng)濟(jì)學(xué)家 外灘