推薦算法規(guī)制的他山之石
發(fā)布時(shí)間:2020-08-12 15:43:38 點(diǎn)擊次數(shù):254
摘要:用推薦算法進(jìn)行新聞分發(fā)不是保持新聞?wù)鎸?shí)、客觀并有效傳播的“萬(wàn)能藥”,習(xí)慣藏身于“黑箱子”里的算法,同樣需要法律和行政命令的規(guī)制。
關(guān)鍵詞:
作者簡(jiǎn)介:
摘要:用推薦算法進(jìn)行新聞分發(fā)不是保持新聞?wù)鎸?shí)、客觀并有效傳播的“萬(wàn)能藥”,習(xí)慣藏身于“黑箱子”里的算法,同樣需要法律和行政命令的規(guī)制。西方國(guó)家嘗試在法律上設(shè)定“規(guī)制”:一是從隱私權(quán)出發(fā)設(shè)定法律規(guī)范推薦算法;二是對(duì)某些重點(diǎn)行業(yè)進(jìn)行立法或政策管制。其方法可以為我國(guó)提供鏡鑒。
關(guān)鍵詞:推薦算法 “黑箱子” 法律規(guī)制 隱私權(quán)
基于用戶興趣的“算法推薦”是網(wǎng)絡(luò)新聞的主要分發(fā)方式,其代表有今日頭條、一點(diǎn)資訊等。今日頭條宣稱自己的“運(yùn)轉(zhuǎn)核心是一套由代碼搭建而成的算法”,此算法在商業(yè)上獲得成功,為它帶來(lái)了1.4億活躍用戶。與此同時(shí),推薦算法也引來(lái)不少質(zhì)疑,如:算法歧視、算法短視會(huì)導(dǎo)致媒體公共性內(nèi)容的缺失,加深用戶偏見、形成信息繭房;“編輯缺位”致使低俗消息更加泛濫,甚至挑戰(zhàn)道德底線,既不利于用戶獲得知識(shí),又難以做到價(jià)值引領(lǐng)①;推薦算法獲取信息的方式可能侵犯?jìng)€(gè)人隱私②。
這些問(wèn)題都與推薦算法的設(shè)計(jì)和使用息息相關(guān)。事實(shí)說(shuō)明,使用推薦算法進(jìn)行新聞分發(fā)不是保持新聞?wù)鎸?shí)、客觀并有效傳播的“萬(wàn)能藥”,習(xí)慣藏身于“黑箱子”里的算法,同樣需要法律和行政命令的規(guī)制。從國(guó)際視角看,人工智能支持下的推薦算法在全球范圍內(nèi)都有廣泛的應(yīng)用,這些算法及使用它們的公司也都遇到了一些相似的道德和法律困境。比如,推薦算法會(huì)不會(huì)過(guò)分搜集和使用用戶的數(shù)據(jù),侵犯?jìng)€(gè)人的隱私?又如,過(guò)于依賴推薦算法是否會(huì)造成不良社會(huì)影響,如何消除?此外,國(guó)外還特別關(guān)注人工智能算法是否會(huì)導(dǎo)致行業(yè)規(guī)則被破壞——自動(dòng)駕駛帶來(lái)車禍,誰(shuí)承擔(dān)責(zé)任;機(jī)器人寫出了假新聞,誰(shuí)來(lái)負(fù)責(zé)?
對(duì)此,西方國(guó)家與亞洲的日本、新加坡等國(guó)嘗試在法律上設(shè)定“規(guī)制”:一是從隱私權(quán)出發(fā)設(shè)定法律規(guī)范推薦算法,二是對(duì)某些重點(diǎn)行業(yè)(如傳媒、汽車、金融等)進(jìn)行立法或政策管制,以消除不良社會(huì)影響。這些相關(guān)的法律、立法議案、行政命令堪稱“他山之石”,可以為我國(guó)的推薦算法規(guī)制提供鏡鑒。
用什么樣的方式收集數(shù)據(jù)可能會(huì)侵犯?jìng)€(gè)人隱私?
在保護(hù)隱私權(quán)方面做得比較好的歐盟“數(shù)據(jù)隱私法案”,規(guī)定歐盟國(guó)家公民將有權(quán)要求“審查某項(xiàng)特定服務(wù)中如何做出特定算法決策”。法案要求算法公司詳細(xì)、明確說(shuō)明他們?nèi)绾问褂盟惴ㄊ占捅Wo(hù)用戶數(shù)據(jù),并且在收集數(shù)據(jù)前必須征得個(gè)人同意。歐盟極端重視數(shù)據(jù)隱私,在此之前就已經(jīng)出臺(tái)了“通用數(shù)據(jù)保護(hù)條例”(GDPR),而“數(shù)據(jù)隱私法案”在條例的基礎(chǔ)上繼續(xù)展開,它賦予個(gè)人以權(quán)利,去確認(rèn)一個(gè)組織是否正在處理自己的數(shù)據(jù),或是哪種類型的數(shù)據(jù)。此外,個(gè)人還有調(diào)整相關(guān)數(shù)據(jù)的保留期限、向數(shù)據(jù)保護(hù)機(jī)構(gòu)投訴的權(quán)利。歐盟設(shè)置了嚴(yán)苛的懲罰機(jī)制,如果一家公司不合規(guī),那么罰款可以高達(dá)2000萬(wàn)歐元(約合2400萬(wàn)美元),或者是該組織在全球收入的4%。③
對(duì)于用戶面部數(shù)據(jù)的采集,愛爾蘭、德國(guó)以及美國(guó)伊利諾伊州《生物信息隱私法案》(BIPA)要求:采集前需要明確提醒用戶并征得同意。著名互聯(lián)網(wǎng)公司Facebook因此遭到美、德、愛等國(guó)的調(diào)查,并被迫在歐洲地區(qū)關(guān)閉了人臉識(shí)別功能,刪除了針對(duì)歐洲用戶建立的人臉數(shù)據(jù)庫(kù)④。
歐盟之外,香港地區(qū)也出臺(tái)了“數(shù)字隱私法案”(DPO),但審查力度不如歐盟。此外新加坡有“個(gè)人資料保護(hù)法”(PDPA),日本有“個(gè)人信息保護(hù)法”⑤。
如何監(jiān)管“保密”的推薦算法?
現(xiàn)在大多數(shù)的推薦算法原理都是秘密,這樣的“算法黑箱子”潛藏一系列問(wèn)題:究竟有多少工程師懂算法,能夠保證其穩(wěn)定運(yùn)行?不公開的算法會(huì)不會(huì)秘密設(shè)置了某些違反道德、法律的規(guī)則,如推薦招聘信息的算法涉及性別歧視?不公開的算法一旦出了問(wèn)題,相關(guān)責(zé)任人在政府調(diào)查之前修改、銷毀了問(wèn)題算法怎么辦?
作為一種建議,中國(guó)計(jì)算機(jī)協(xié)會(huì)在2017年出版了七項(xiàng)算法透明度和問(wèn)責(zé)制的原則⑥:
意識(shí):所有者、設(shè)計(jì)師、構(gòu)建者、用戶和其他分析系統(tǒng)的涉眾應(yīng)該意識(shí)到他們對(duì)算法的設(shè)計(jì)、實(shí)現(xiàn)和使用可能存在的偏見,意識(shí)到偏見可能對(duì)個(gè)人和社會(huì)造成的潛在危害。
獲得和糾正:監(jiān)管機(jī)構(gòu)應(yīng)鼓勵(lì)一種機(jī)制,當(dāng)個(gè)人和團(tuán)體因算法決定的決策而受到不利影響時(shí),允許他們(對(duì)算法)進(jìn)行質(zhì)疑和糾正。
問(wèn)責(zé):機(jī)構(gòu)應(yīng)該對(duì)他們使用的算法做出的決策負(fù)責(zé),即使不可能詳細(xì)解釋算法是如何產(chǎn)生結(jié)果的。
解釋:鼓勵(lì)使用算法決策的系統(tǒng)和機(jī)構(gòu),對(duì)算法的過(guò)程和其作出的具體決定給予解釋。這在公共政策環(huán)境中尤為重要。
數(shù)據(jù)來(lái)源:對(duì)訓(xùn)練數(shù)據(jù)收集方式的描述應(yīng)該由算法的建造者維護(hù),同時(shí)還要探索人為或算法本身在數(shù)據(jù)收集過(guò)程中可能產(chǎn)生的偏差。公眾對(duì)數(shù)據(jù)的審查為修正偏差提供了最大的機(jī)會(huì),但是,考慮到隱私、保護(hù)商業(yè)秘密以及對(duì)公眾過(guò)于開放分析過(guò)程可能導(dǎo)致對(duì)系統(tǒng)的惡意攻擊,需要限制個(gè)人訪問(wèn),只允許合格的、得到授權(quán)的人接觸數(shù)據(jù)和算法。
可審核性:模型、算法、數(shù)據(jù)和決策應(yīng)該被記錄,以便在有危害的情況下對(duì)它們進(jìn)行審計(jì)。
驗(yàn)證和測(cè)試:機(jī)構(gòu)應(yīng)該使用嚴(yán)格的方法來(lái)驗(yàn)證他們的模型,并記錄這些方法和結(jié)果。特別是,他們應(yīng)該定期進(jìn)行測(cè)試,以評(píng)估和確定該模型是否會(huì)產(chǎn)生歧視性的危害,鼓勵(lì)機(jī)構(gòu)將此類測(cè)試的結(jié)果公之于眾。
西方國(guó)家主要通過(guò)行業(yè)立法來(lái)監(jiān)管算法本身。歐盟證券和市場(chǎng)管理局(ESMA)就制定了金融管理標(biāo)準(zhǔn):在金融交易領(lǐng)域,高頻算法交易員有義務(wù)存儲(chǔ)記錄和交易算法至少5年⑦。“算法交易”是指一些公司通過(guò)推薦算法自動(dòng)確定訂單的各個(gè)參數(shù),例如是否啟動(dòng)訂單的順序、時(shí)間、價(jià)格或數(shù)量等,并在有限的人為干預(yù)或無(wú)人干預(yù)的情況下,對(duì)訂單、報(bào)價(jià)和執(zhí)行過(guò)程進(jìn)行調(diào)整和優(yōu)化。ESMA的金融管理標(biāo)準(zhǔn)規(guī)定,使用這類算法輔助操作的公司需要:1.報(bào)告公司資質(zhì),證明其有足夠的員工和工程師來(lái)理解、操作和控制算法;2.算法備案,以防不正當(dāng)競(jìng)爭(zhēng)和出現(xiàn)系統(tǒng)錯(cuò)誤時(shí)進(jìn)行回溯檢查;3.使用算法的公司要向監(jiān)管部門報(bào)備,并接受交易全流程的持續(xù)監(jiān)控。
此外,英國(guó)上議院也對(duì)數(shù)字經(jīng)濟(jì)法案的修正案進(jìn)行了辯論,該法案將給予有關(guān)部門執(zhí)行和發(fā)布算法評(píng)估的權(quán)力。與數(shù)字保護(hù)法案不同,數(shù)字經(jīng)濟(jì)法案并不是要明確地反對(duì)某一種算法設(shè)計(jì)⑧,而原有的數(shù)字保護(hù)法案授權(quán)英國(guó)資訊委員會(huì)辦公室可采取強(qiáng)制措施保護(hù)數(shù)據(jù)安全。