如今，大數(shù)據(jù)已經(jīng)被廣泛應(yīng)用于各行各業(yè)，產(chǎn)生了巨大的經(jīng)濟(jì)、社會(huì)效益。比如，包括人臉識(shí)別在內(nèi)的智能防控系統(tǒng)提高了案件偵破率；健康醫(yī)療大數(shù)據(jù)推動(dòng)人工智能輔助醫(yī)療，可以緩解優(yōu)質(zhì)醫(yī)療資源不足現(xiàn)狀；城市大腦與智慧城市的發(fā)展，既可以緩解交通擁堵等老大難問題，還可以使城市生活更為美好；基于大眾供給方與大眾需求方供需大數(shù)據(jù)精準(zhǔn)匹配的分享經(jīng)濟(jì)新業(yè)態(tài)，可以極大提升社會(huì)資源配置效率，正在迅速改變傳統(tǒng)生產(chǎn)方式，推動(dòng)數(shù)字經(jīng)濟(jì)等新興產(chǎn)業(yè)蓬勃發(fā)展。

由于我國網(wǎng)民人口數(shù)量大，大數(shù)據(jù)應(yīng)用場(chǎng)景豐富，互聯(lián)網(wǎng)企業(yè)商業(yè)模式創(chuàng)新能力強(qiáng)，大數(shù)據(jù)發(fā)展具備各種非常有利的條件。黨的十九大報(bào)告要求，推動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實(shí)體經(jīng)濟(jì)深度融合，有力支撐數(shù)字中國、網(wǎng)絡(luò)強(qiáng)國、智慧社會(huì)建設(shè)，這為我國大數(shù)據(jù)發(fā)展明確了方向。

當(dāng)前，我國大數(shù)據(jù)發(fā)展實(shí)踐中面臨的問題與挑戰(zhàn)不少，主要表現(xiàn)在四個(gè)方面：

數(shù)據(jù)共享不暢，制約大數(shù)據(jù)發(fā)展與應(yīng)用。近年來，隨著政務(wù)信息化的穩(wěn)步推進(jìn)，一些地方和部門依托網(wǎng)絡(luò)平臺(tái)創(chuàng)新政務(wù)服務(wù)，“只進(jìn)一扇門”“最多跑一次”“不見面審批”等改革措施不斷涌現(xiàn)。但是，政務(wù)服務(wù)平臺(tái)建設(shè)管理分散、辦事系統(tǒng)繁雜、事項(xiàng)標(biāo)準(zhǔn)不一、數(shù)據(jù)共享不暢、業(yè)務(wù)協(xié)同不足、數(shù)據(jù)開放滯后等問題較為普遍，制約了大數(shù)據(jù)發(fā)展與應(yīng)用。

比如，一直以來受到各界詬病的“奇葩證明”現(xiàn)象，根源在于政府部門間的數(shù)據(jù)無法共享，只能要求當(dāng)事人自己承擔(dān)證明責(zé)任。再如，按照法律規(guī)定，電子商務(wù)平臺(tái)有義務(wù)對(duì)平臺(tái)經(jīng)營主體的經(jīng)營資質(zhì)進(jìn)行審核，但是，由于不少地方管理部門的資質(zhì)審批信息不對(duì)外開放，使平臺(tái)根本無法履行這種審核義務(wù)，導(dǎo)致法律要求無法落地。數(shù)據(jù)共享不暢，導(dǎo)致辦事難、辦事慢、辦事繁等問題不時(shí)出現(xiàn)，也制約了政府監(jiān)管能力的提高，跟不上大數(shù)據(jù)發(fā)展步伐，甚至?xí)e(cuò)失大數(shù)據(jù)發(fā)展帶來的各種機(jī)會(huì)。

萬物互聯(lián)環(huán)境下，數(shù)據(jù)安全風(fēng)險(xiǎn)外溢，給國家安全帶來新挑戰(zhàn)。由于核心技術(shù)受制于人的狀況沒有根本改變，關(guān)鍵信息基礎(chǔ)設(shè)施面臨較大風(fēng)險(xiǎn)，并會(huì)外溢至經(jīng)濟(jì)、社會(huì)、文化、政治、軍事等不同領(lǐng)域。幾年前發(fā)生的“棱鏡門”事件，已經(jīng)給全世界敲響了數(shù)據(jù)安全與國家安全的警鐘。在算法為王的大數(shù)據(jù)環(huán)境下，如果對(duì)算法缺乏有效監(jiān)管，以個(gè)性化定制推送為特征的信息內(nèi)容傳播恐會(huì)對(duì)主流價(jià)值觀造成沖擊，加劇兩個(gè)輿論場(chǎng)的相互背離現(xiàn)象，進(jìn)而引發(fā)社會(huì)治理危機(jī)。

大規(guī)模的數(shù)據(jù)采集和處理，加大個(gè)人數(shù)據(jù)被濫用和權(quán)利被侵害風(fēng)險(xiǎn)。大數(shù)據(jù)中最有價(jià)值的無疑是個(gè)人數(shù)據(jù)。通過軟件、傳感器、各種終端等，不同數(shù)據(jù)控制者都可以對(duì)個(gè)人活動(dòng)信息全程采集、實(shí)時(shí)處理。一旦違法違規(guī)采集、使用、交換個(gè)人信息，就會(huì)導(dǎo)致個(gè)人數(shù)據(jù)被濫用，引發(fā)諸如詐騙、綁架、敲詐勒索等連鎖負(fù)面后果，影響公共安全與人身財(cái)產(chǎn)安全，徐玉玉遭電信詐騙案就是典型。一些App超范圍采集與其提供服務(wù)無關(guān)的個(gè)人信息，隱含巨大的個(gè)人信息被濫用風(fēng)險(xiǎn)。同時(shí)，在大數(shù)據(jù)處理過程中，根據(jù)財(cái)富、性別、膚色、種族、人種、健康狀況、地區(qū)差別等各種外在因素所進(jìn)行的算法歧視、大數(shù)據(jù)殺熟、預(yù)測(cè)性識(shí)別等，不僅涉及濫用個(gè)人數(shù)據(jù)，更會(huì)侵犯數(shù)據(jù)主體的各項(xiàng)基本權(quán)利，造成新的不平等。

傳統(tǒng)體制機(jī)制規(guī)則滯后，不適應(yīng)大數(shù)據(jù)發(fā)展要求。當(dāng)前運(yùn)用大數(shù)據(jù)推動(dòng)經(jīng)濟(jì)發(fā)展、完善社會(huì)治理、提升政府服務(wù)和監(jiān)管能力正成為全球性趨勢(shì)，帶來的是經(jīng)濟(jì)社會(huì)的全面轉(zhuǎn)型，而傳統(tǒng)體制機(jī)制規(guī)則不適應(yīng)大數(shù)據(jù)發(fā)展要求的現(xiàn)象日益明顯。比如，根據(jù)業(yè)務(wù)領(lǐng)域劃分邊界的傳統(tǒng)行政管理體制和信息系統(tǒng)，很難適應(yīng)大數(shù)據(jù)融合要求，出現(xiàn)信息系統(tǒng)林立的信息孤島現(xiàn)象；按照目前法律規(guī)定，機(jī)動(dòng)車只能由獲得駕駛員證書的人員駕駛，測(cè)試車不得上高速公路行駛等，明顯不適應(yīng)無人駕駛的發(fā)展；基于生產(chǎn)與消費(fèi)兩分的傳統(tǒng)行政許可管理方式，無法直接照搬到建立在大眾供給基礎(chǔ)上的分享經(jīng)濟(jì)新業(yè)態(tài)；傳統(tǒng)的權(quán)利關(guān)系與權(quán)利規(guī)則無法解決市場(chǎng)主體之間的新型數(shù)據(jù)權(quán)益沖突。

近年來，我國加大力度實(shí)施大數(shù)據(jù)發(fā)展戰(zhàn)略，相繼出臺(tái)《促進(jìn)大數(shù)據(jù)發(fā)展行動(dòng)綱要》《關(guān)于運(yùn)用大數(shù)據(jù)加強(qiáng)對(duì)市場(chǎng)主體服務(wù)和監(jiān)管的若干意見》《“十三五”國家信息化發(fā)展規(guī)劃》等文件，從頂層進(jìn)行布局。2015年，國務(wù)院《促進(jìn)大數(shù)據(jù)發(fā)展行動(dòng)綱要》明確提出了大數(shù)據(jù)發(fā)展相關(guān)的法規(guī)制度建設(shè)的具體要求，包括修訂政府信息公開條例，積極研究數(shù)據(jù)開放、保護(hù)等方面制度，明確政府統(tǒng)籌利用市場(chǎng)主體大數(shù)據(jù)的權(quán)限及范圍；制定政府信息資源管理辦法，建立政府部門數(shù)據(jù)資源統(tǒng)籌管理和共享利用制度；研究推動(dòng)網(wǎng)上個(gè)人信息保護(hù)立法工作，界定個(gè)人信息采集應(yīng)用的范圍和方式，加強(qiáng)對(duì)數(shù)據(jù)濫用、侵犯?jìng)€(gè)人隱私等行為的管理和懲戒；推動(dòng)出臺(tái)相關(guān)法律法規(guī)，加強(qiáng)對(duì)基礎(chǔ)信息網(wǎng)絡(luò)和關(guān)鍵行業(yè)領(lǐng)域重要信息系統(tǒng)的安全保護(hù)，保障網(wǎng)絡(luò)數(shù)據(jù)安全；研究推動(dòng)數(shù)據(jù)資源權(quán)益相關(guān)立法工作。

經(jīng)過幾年努力，目前，網(wǎng)絡(luò)安全法已經(jīng)頒布實(shí)施，建立了關(guān)鍵信息基礎(chǔ)設(shè)施保護(hù)等網(wǎng)絡(luò)安全基本制度；電子商務(wù)法對(duì)企業(yè)的數(shù)據(jù)報(bào)送、提供制度做了原則性安排，為管理部門利用市場(chǎng)主體大數(shù)據(jù)提供了法律依據(jù)；政府信息公開條例修訂出臺(tái)，為打造政務(wù)公開升級(jí)版，提升政府信息資源管理水平創(chuàng)造了條件；《國務(wù)院關(guān)于在線政務(wù)服務(wù)的若干規(guī)定》對(duì)于促進(jìn)政務(wù)服務(wù)跨地區(qū)、跨部門、跨層級(jí)數(shù)據(jù)共享和業(yè)務(wù)協(xié)同，明確了基本要求；國務(wù)院推進(jìn)“放管服”改革相關(guān)文件，對(duì)于推進(jìn)體制機(jī)制變革，優(yōu)化營商環(huán)境，進(jìn)行了全方位探索；數(shù)據(jù)安全法、個(gè)人信息保護(hù)法已經(jīng)被列入本屆人大一類立法計(jì)劃，正在起草過程之中，有望進(jìn)一步夯實(shí)數(shù)據(jù)安全基本制度。另外，貴州、天津等地相繼制定推動(dòng)大數(shù)據(jù)發(fā)展的地方性法規(guī)，更多地方制定了相關(guān)的政府規(guī)章或規(guī)范性文件；上海等地正在制定促進(jìn)公共數(shù)據(jù)開放的地方性法規(guī)或規(guī)定，各地?cái)?shù)據(jù)開放工作和制度建設(shè)全面推進(jìn)，大數(shù)據(jù)發(fā)展與應(yīng)用水平快速提升。

深入分析可以發(fā)現(xiàn)，我國大數(shù)據(jù)法規(guī)制度建設(shè)根據(jù)良法善治的要求，體現(xiàn)了四個(gè)鮮明的特點(diǎn)，也是構(gòu)筑大數(shù)據(jù)法律體系應(yīng)該堅(jiān)持的基本法律原則：

以底線思維構(gòu)筑大數(shù)據(jù)發(fā)展安全防線，加強(qiáng)領(lǐng)導(dǎo)體制，優(yōu)化執(zhí)行體制，強(qiáng)化預(yù)警、預(yù)測(cè)與預(yù)防，加強(qiáng)信息共享與綜合能力建設(shè)，有效防范重大安全風(fēng)險(xiǎn)，及時(shí)處置突發(fā)安全事件，維護(hù)國家利益。

以創(chuàng)新思維推動(dòng)體制機(jī)制變革，“放管服”并重，包容審慎監(jiān)管，發(fā)揮中央與地方兩個(gè)積極性，法治政府、廉潔政府、創(chuàng)新政府與服務(wù)型政府共同推進(jìn)，推動(dòng)新業(yè)態(tài)發(fā)展，培育新動(dòng)能，主動(dòng)引領(lǐng)大數(shù)據(jù)發(fā)展。

以法治思維明確不同主體行為規(guī)范與權(quán)利邊界，著力處理好管理部門與市場(chǎng)主體，市場(chǎng)主體之間以及市場(chǎng)主體與數(shù)據(jù)主體之間的法律關(guān)系，既維護(hù)數(shù)據(jù)主體對(duì)個(gè)人信息的控制權(quán)，也促進(jìn)市場(chǎng)主體之間的良性數(shù)據(jù)競(jìng)爭(zhēng)，并借助大數(shù)據(jù)提升政府監(jiān)管能力與服務(wù)能力。

以共治思維推動(dòng)體系性解決，重視大數(shù)據(jù)發(fā)展面臨問題與挑戰(zhàn)的復(fù)雜性、共生性與相互轉(zhuǎn)化性，避免線性思維、單向思維，構(gòu)筑多元主體參與、多種政策工具并用、激勵(lì)約束并重、依法治理與數(shù)據(jù)治理相結(jié)合的大數(shù)據(jù)治理新格局。

（作者：周漢華，系中國社會(huì)科學(xué)院法學(xué)研究所研究員、中國法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)常務(wù)副會(huì)長(zhǎng)）

當(dāng)前，網(wǎng)購、網(wǎng)約車、網(wǎng)上銀行等互聯(lián)網(wǎng)服務(wù)全方位地從虛擬數(shù)據(jù)世界介入到現(xiàn)實(shí)生活中。人們已經(jīng)習(xí)慣為了獲取便利高效的服務(wù)，錄入自己的姓名、電話、住址、銀行卡號(hào)等隱私信息。隨著生物科技的發(fā)展，指紋、面容等個(gè)人生物信息也被作為特殊密鑰，用于消費(fèi)支付和解鎖登陸等。

人們享受著大數(shù)據(jù)時(shí)代前所未有的便捷，可能未曾想到自己在網(wǎng)絡(luò)中的所有活動(dòng)都被數(shù)字化留存，這些數(shù)字信息借由機(jī)器和技術(shù)的力量，有將公眾變成“透明人”的風(fēng)險(xiǎn)。

朱某在某搜索引擎上搜索“減肥”等關(guān)鍵字，后進(jìn)入其他網(wǎng)站時(shí)，會(huì)出現(xiàn)與其之前搜索的關(guān)鍵詞相關(guān)的減肥廣告等。朱某認(rèn)為，該網(wǎng)站記錄和跟蹤其搜索痕跡，并據(jù)此進(jìn)行廣告投放的行為侵害了其隱私權(quán)，使其感到恐懼、精神高度緊張，影響了正常的工作和生活，因此選擇訴諸法律。

實(shí)際上，朱某的遭遇十分常見。我們?cè)谏暇W(wǎng)時(shí)經(jīng)常會(huì)發(fā)現(xiàn)各種能夠“讀懂人心”的廣告，這就是網(wǎng)絡(luò)定向廣告（OBA）。這種廣告通過大數(shù)據(jù)手段搜集用戶消費(fèi)信息，從而精準(zhǔn)投放符合消費(fèi)者偏好的廣告。網(wǎng)絡(luò)定向廣告能夠大幅度提高廣告宣傳效率，但對(duì)個(gè)人隱私保護(hù)帶來了巨大風(fēng)險(xiǎn)。許多網(wǎng)站和軟件通過以明示告知和默示同意相結(jié)合的隱私條款，此規(guī)避侵權(quán)風(fēng)險(xiǎn)，但是這種做法是否合理則爭(zhēng)議較大。因?yàn)?，用戶如果不同意這種隱私條款，在網(wǎng)絡(luò)世界中將寸步難行。

在大數(shù)據(jù)時(shí)代下，很多對(duì)個(gè)人數(shù)據(jù)信息的利用行為伴隨著侵犯隱私的風(fēng)險(xiǎn)。目前，指紋、面部以及虹膜識(shí)別等個(gè)人生物信息，在商業(yè)應(yīng)用、社會(huì)治理以及國家安全等領(lǐng)域具有廣闊前景。但是，“公民個(gè)人生物信息具有唯一性和不可變更的特質(zhì)，一旦泄露就是終身泄露，其敏感程度和利用價(jià)值遠(yuǎn)高于一般信息，存在特殊風(fēng)險(xiǎn)”。

魯某為自己的朋友龐某在去哪兒網(wǎng)訂購了中國東方航空的機(jī)票一張。在購票過程中，魯某并未填寫過龐某的手機(jī)號(hào)。兩天后，龐某的手機(jī)卻收到了通知其航班取消的詐騙短信。未曾留存過的手機(jī)號(hào)卻被詐騙團(tuán)伙獲知，甚至匹配出自己的姓名和航班信息，龐某認(rèn)為其個(gè)人隱私信息被代理公司趣拿公司和東航泄露，并一紙?jiān)V狀將兩個(gè)公司訴至法庭。最終二審法院認(rèn)定兩被告應(yīng)當(dāng)承擔(dān)侵權(quán)責(zé)任。

實(shí)踐中，許多網(wǎng)絡(luò)信息平臺(tái)在商業(yè)利益誘惑下，將所收集的消費(fèi)者隱私信息數(shù)據(jù)用于其他用途或是出售給第三方，導(dǎo)致大量隱私信息泄露。同時(shí)，在缺乏成熟的數(shù)據(jù)保護(hù)技術(shù)，數(shù)據(jù)保護(hù)意識(shí)不強(qiáng)，保護(hù)力度不足的情況下，數(shù)據(jù)庫中的個(gè)人隱私信息也極易泄露，并存在被惡意使用的風(fēng)險(xiǎn)。萬豪酒店約2.4億條客戶資料泄露、圓通10億條快遞信息泄露、優(yōu)衣庫網(wǎng)站逾46萬客戶資料泄露……層出不窮的信息泄露事件都在提醒我們要重視數(shù)據(jù)信息保護(hù)，強(qiáng)化隱私信息的合法收集、限制使用與安全儲(chǔ)存。

2017年11月，我國首家“信息換商品”店鋪開業(yè)，顧客可以用自己的隱私換購各種價(jià)位的商品。但在換購后，出賣手機(jī)號(hào)碼的顧客馬上收到了一則垃圾短信，出賣郵箱地址的顧客被搜索出用該郵箱地址注冊(cè)過的網(wǎng)站，出賣照片的顧客則被用照片合成了脫發(fā)廣告的代言人。實(shí)際上，主辦方的目的，就是旨在通過信息換購商品的形式，提高公眾的個(gè)人信息保護(hù)意識(shí)。

大數(shù)據(jù)時(shí)代隱私的暴露無處不在，人們往往對(duì)自己的隱私缺乏保護(hù)意識(shí)，用個(gè)人隱私的披露換取高效便捷的服務(wù)或是娛樂體驗(yàn)。在“信息換商品”店鋪活動(dòng)中，有體驗(yàn)者直言，“這有啥可怕的？反正我的信息已經(jīng)到處都是了”。隱私保護(hù)意識(shí)不強(qiáng)為違法分子提供了可乘之機(jī)。網(wǎng)絡(luò)上存在許多第三方軟件，用戶輸入個(gè)人姓名、性別、生辰八字、手機(jī)號(hào)等信息，來測(cè)試所謂的前世身份、愛情觀等，這實(shí)際上是后臺(tái)運(yùn)營商收集個(gè)人隱私數(shù)據(jù)的手段，運(yùn)營商完全可以根據(jù)用戶所輸入的個(gè)人信息拼湊出完整的隱私資料，具有引發(fā)電信詐騙和電信盜竊的可能。

需要指出的是，盡管面臨諸多挑戰(zhàn)，但我們不能因噎廢食，而是應(yīng)當(dāng)在對(duì)個(gè)人信息數(shù)據(jù)的使用和保護(hù)之間尋找平衡點(diǎn)，在隱私保護(hù)允許的范圍內(nèi)充分發(fā)揮大數(shù)據(jù)的應(yīng)用優(yōu)勢(shì)，推動(dòng)大數(shù)據(jù)發(fā)展。

我國在侵權(quán)責(zé)任法中首次明確對(duì)隱私權(quán)的保護(hù)，并從2012年開始先后出臺(tái)了一系列政策法規(guī)加強(qiáng)對(duì)個(gè)人信息的保護(hù)。如2015年刑法修正案（九）新增了“侵犯公民個(gè)人信息罪”“拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪”“非法利用信息網(wǎng)絡(luò)罪”“幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪”，為網(wǎng)絡(luò)個(gè)人隱私信息提供了刑法保護(hù)。2016年網(wǎng)絡(luò)安全法“網(wǎng)絡(luò)信息安全”一章，從個(gè)人信息收集、使用以及保護(hù)的角度進(jìn)行了規(guī)定。2017年民法總則確認(rèn)了個(gè)人信息自主權(quán)，明文規(guī)定自然人的個(gè)人信息受法律保護(hù)。

筆者以為，加強(qiáng)大數(shù)據(jù)時(shí)代的隱私保護(hù)，需做到以下三點(diǎn)：

首先，完善隱私保護(hù)的法律政策體系。可借鑒歐盟《統(tǒng)一數(shù)據(jù)保護(hù)條例》的經(jīng)驗(yàn)，整合我國目前在侵權(quán)責(zé)任法、網(wǎng)絡(luò)安全法、民法總則、刑法等相關(guān)法律法規(guī)中對(duì)于個(gè)人信息及隱私權(quán)保護(hù)的規(guī)定和措施，對(duì)個(gè)人信息及隱私權(quán)保護(hù)進(jìn)行專門立法，具體明確相應(yīng)的權(quán)利內(nèi)容、維權(quán)方式以及侵權(quán)責(zé)任，對(duì)公民個(gè)人信息的采集、利用以及保護(hù)進(jìn)行規(guī)范，解決當(dāng)前法律依據(jù)碎片化、保護(hù)途徑間接化、司法救濟(jì)薄弱化的問題。

其次，提升數(shù)據(jù)信息保護(hù)的技術(shù)水平，健全數(shù)據(jù)使用的監(jiān)管機(jī)制。針對(duì)系統(tǒng)漏洞和技術(shù)薄弱處更新技術(shù)保護(hù)手段，加強(qiáng)數(shù)據(jù)庫安全維護(hù)。同時(shí)要強(qiáng)化數(shù)據(jù)庫監(jiān)管，可以設(shè)立數(shù)據(jù)庫監(jiān)管的執(zhí)法機(jī)關(guān)，針對(duì)數(shù)據(jù)庫管理和使用機(jī)構(gòu)內(nèi)部人員違法盜取和出售個(gè)人數(shù)據(jù)的行為進(jìn)行監(jiān)管，并定期發(fā)布各數(shù)據(jù)庫使用狀況和安全評(píng)估的報(bào)告。

最后，強(qiáng)化公眾的隱私保護(hù)意識(shí)，引導(dǎo)公眾主動(dòng)拒絕不良網(wǎng)站、企業(yè)等非法收集個(gè)人信息的要求，對(duì)于侵犯?jìng)€(gè)人隱私的行為要勇于發(fā)聲，拿起法律武器捍衛(wèi)自己的隱私權(quán)利。

（作者：范淼，系遼寧大學(xué)中國特色社會(huì)主義理論體系研究中心研究員）

當(dāng)你搜索關(guān)鍵詞時(shí)，搜索引擎會(huì)計(jì)算該向你顯示哪些搜索結(jié)果；當(dāng)你登錄視頻網(wǎng)站時(shí)，某些系統(tǒng)會(huì)推薦一些你喜歡的節(jié)目；新聞?lì)怉pp會(huì)利用算法決定向你更新哪些信息。顯然，我們生活在一個(gè)算法的時(shí)代，算法為人們的日常學(xué)習(xí)、生活和工作提供了極大便利。但需要警惕的是，算法并非完美無缺——它不僅可能出錯(cuò)，甚至還會(huì)產(chǎn)生嚴(yán)重的歧視問題。

算法就是一系列指令，告訴計(jì)算機(jī)該做什么。作為一種數(shù)學(xué)理性的運(yùn)用，人們?cè)酒诖惴軌蚪^對(duì)客觀，但算法歧視的現(xiàn)象卻出人意料地頻頻出現(xiàn)。

算法歧視突出表現(xiàn)為以下幾類：其一，價(jià)格歧視。例如，早在2000年，某網(wǎng)站就曾經(jīng)搞過算法“殺熟”，同一款DVD碟片，對(duì)老用戶報(bào)價(jià)26.24美元，對(duì)新用戶僅報(bào)價(jià)22.74美元。近年來，我國一些網(wǎng)購平臺(tái)利用大數(shù)據(jù)“殺熟”的現(xiàn)象也是屢見不鮮。其二，性別歧視。例如，某網(wǎng)站研發(fā)了一套篩選簡(jiǎn)歷的算法系統(tǒng)，結(jié)果顯示其對(duì)男性求職者有著明顯的偏好，女性求職者的簡(jiǎn)歷常常分?jǐn)?shù)不高。其三，種族歧視。例如，某國外著名網(wǎng)站上的高薪工作廣告更多地向白人顯示；智能照相機(jī)在照相時(shí)不停提醒亞裔睜開眼睛等。此外，基于宗教信仰、經(jīng)濟(jì)狀況、外貌等形式的算法歧視也廣泛存在。

相較于人類歧視，算法歧視有其特殊一面。其一，算法歧視更加精準(zhǔn)。算法能夠?qū)γ總€(gè)用戶精準(zhǔn)畫像，被打上歧視標(biāo)簽的用戶絕無逃脫可能。其二，算法歧視更加多元。人類歧視通常依據(jù)的是性別、學(xué)歷等顯形特征，但算法能夠挖掘出更加深層次的隱形特征來作為其歧視處理的依據(jù)，包括網(wǎng)頁瀏覽記錄、購物記錄、行車路線等。其三，算法歧視更為片面。人類社會(huì)對(duì)于個(gè)體的判斷通常是綜合和動(dòng)態(tài)的，而算法無法獲取或處理用戶的全部數(shù)據(jù)。其四，算法歧視更加隱蔽。傳統(tǒng)基于種族、性別、民族等特征的歧視是法律所禁止的，但算法卻可以規(guī)避這些規(guī)定。

數(shù)據(jù)是人工智能的養(yǎng)料，歧視性數(shù)據(jù)必然會(huì)產(chǎn)生歧視性結(jié)果。例如，2016年，某國外公司的AI聊天機(jī)器人上線，但在和網(wǎng)民聊天時(shí)卻被灌輸了許多臟話以及各種歧視的思想，結(jié)果迅速成為一名“不良少女”，上線不到一天就被迫下線。與此同時(shí)，不完整、不正確或不及時(shí)的數(shù)據(jù)也會(huì)產(chǎn)生算法歧視。例如，2016年舉行的首屆“AI國際選美比賽”，由于算法訓(xùn)練的照片沒有包含足夠多的非白人面孔，結(jié)果導(dǎo)致絕大多數(shù)獲獎(jiǎng)?wù)叨际前兹诉x手。

算法本身存在缺陷或瑕疵也會(huì)引發(fā)歧視。算法決策總是需要設(shè)定某些變量或指標(biāo)，而這些都是人為設(shè)定的，不排除摻入歧視的可能。例如，很多國際互聯(lián)網(wǎng)巨頭的男性雇員占了2/3，技術(shù)崗位的比例更是高達(dá)4/5，這使得算法設(shè)計(jì)的過程中難免會(huì)摻入性別歧視的因子。與此同時(shí)，盡管算法是應(yīng)對(duì)復(fù)雜工作的利器，但在其輸入層與輸出層之間卻存在“黑箱”，這加劇了算法歧視的復(fù)雜性。此外，算法本質(zhì)上是一種分析、預(yù)測(cè)的數(shù)學(xué)技術(shù)，強(qiáng)調(diào)的是相關(guān)性，而非因果性，這決定了算法本身存在歧視的基因。

此外，算法作為人類利用的工具，縱使輸入的數(shù)據(jù)和算法技術(shù)本身都沒有問題，仍然存在歧視的可能。例如，算法能夠清晰地區(qū)分出消費(fèi)能力強(qiáng)、忠誠度高的老客戶群體，但企業(yè)完全可能將之作為殺熟的依據(jù)，而非促銷讓利的參考。

首先，完善算法的法律規(guī)制。一方面，規(guī)范算法利用的范圍、方式和限度。對(duì)于算法歧視，既要從公法層面嚴(yán)厲制裁濫用算法的企業(yè)等主體，也可以考慮在私法層面引入大規(guī)模侵權(quán)規(guī)則和懲罰性賠償規(guī)則。與此同時(shí)，對(duì)于高度敏感的數(shù)據(jù)應(yīng)當(dāng)禁止算法處理，包括種族、民族、宗教信仰等。另一方面，要賦予用戶更多的權(quán)利。用戶可以通過被遺忘權(quán)來刪除過時(shí)的數(shù)據(jù)，通過更正權(quán)來補(bǔ)充或更改錯(cuò)誤或不完整的數(shù)據(jù)。還應(yīng)參照歐盟《一般數(shù)據(jù)保護(hù)法》的規(guī)定，賦予用戶拒絕權(quán)和解釋權(quán)，即如果用戶認(rèn)為算法的自動(dòng)化決策存在歧視，那么其有權(quán)拒絕接受處理結(jié)果。

其次，重視算法的技術(shù)規(guī)制。面對(duì)日新月異的人工智能技術(shù)，依靠單一的法律規(guī)則來應(yīng)對(duì)算法歧視是難以奏效的。對(duì)此，建議引入算法的倫理設(shè)計(jì)，從一開始就將算法透明、算法可解釋、算法問責(zé)、算法審計(jì)等價(jià)值需求嵌入算法的設(shè)計(jì)當(dāng)中。相較于法律的事后救濟(jì)，算法的倫理設(shè)計(jì)更強(qiáng)調(diào)預(yù)防的重要性，要求設(shè)計(jì)者在算法的設(shè)計(jì)階段遵守禁止歧視的法律和倫理規(guī)則，并通過自然語言將法律語言嵌入到算法的全生命運(yùn)行周期中。

最后，探索算法規(guī)制的市場(chǎng)路徑。傳統(tǒng)理論認(rèn)為，算法公平與企業(yè)的營利目標(biāo)是沖突的，企業(yè)沒有動(dòng)力推動(dòng)算法公平的實(shí)現(xiàn)。然而，隨著用戶對(duì)于算法公平的需求越來越強(qiáng)烈，市場(chǎng)將會(huì)淘汰那些濫用算法的企業(yè)。對(duì)此，企業(yè)可以通過發(fā)布透明度報(bào)告等方式來公布算法公平指數(shù)，以贏得用戶信任。此外，公權(quán)力機(jī)關(guān)通過投資和采購的方式，也可以引導(dǎo)企業(yè)提高算法公平指數(shù)，減少算法歧視的發(fā)生。

（作者：鄭志峰，系西南政法大學(xué)民商法學(xué)院講師）

免責(zé)聲明：

本文由“ 大數(shù)據(jù)周刊”授權(quán)轉(zhuǎn)發(fā)。圖片來自互聯(lián)網(wǎng)，內(nèi)容為原作者個(gè)人觀點(diǎn)，并不代表本公眾號(hào)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)。如涉及作品版權(quán)問題，請(qǐng)與我們聯(lián)系，我們將在第一時(shí)間刪除內(nèi)容！

返回列表