摘要：用推薦算法進(jìn)行新聞分發(fā)不是保持新聞?wù)鎸?shí)、客觀并有效傳播的“萬(wàn)能藥”，習(xí)慣藏身于“黑箱子”里的算法，同樣需要法律和行政命令的規(guī)制。西方國(guó)家嘗試在法律上設(shè)定“規(guī)制”：一是從隱私權(quán)出發(fā)設(shè)定法律規(guī)范推薦算法；二是對(duì)某些重點(diǎn)行業(yè)進(jìn)行立法或政策管制。其方法可以為我國(guó)提供鏡鑒。

　　關(guān)鍵詞：推薦算法 “黑箱子” 法律規(guī)制 隱私權(quán)

　　基于用戶興趣的“算法推薦”是網(wǎng)絡(luò)新聞的主要分發(fā)方式，其代表有今日頭條、一點(diǎn)資訊等。今日頭條宣稱自己的“運(yùn)轉(zhuǎn)核心是一套由代碼搭建而成的算法”，此算法在商業(yè)上獲得成功，為它帶來(lái)了1.4億活躍用戶。與此同時(shí)，推薦算法也引來(lái)不少質(zhì)疑，如：算法歧視、算法短視會(huì)導(dǎo)致媒體公共性內(nèi)容的缺失，加深用戶偏見(jiàn)、形成信息繭房；“編輯缺位”致使低俗消息更加泛濫，甚至挑戰(zhàn)道德底線，既不利于用戶獲得知識(shí)，又難以做到價(jià)值引領(lǐng)①；推薦算法獲取信息的方式可能侵犯?jìng)€(gè)人隱私②。

　　這些問(wèn)題都與推薦算法的設(shè)計(jì)和使用息息相關(guān)。事實(shí)說(shuō)明，使用推薦算法進(jìn)行新聞分發(fā)不是保持新聞?wù)鎸?shí)、客觀并有效傳播的“萬(wàn)能藥”，習(xí)慣藏身于“黑箱子”里的算法，同樣需要法律和行政命令的規(guī)制。從國(guó)際視角看，人工智能支持下的推薦算法在全球范圍內(nèi)都有廣泛的應(yīng)用，這些算法及使用它們的公司也都遇到了一些相似的道德和法律困境。比如，推薦算法會(huì)不會(huì)過(guò)分搜集和使用用戶的數(shù)據(jù)，侵犯?jìng)€(gè)人的隱私？又如，過(guò)于依賴推薦算法是否會(huì)造成不良社會(huì)影響，如何消除？此外，國(guó)外還特別關(guān)注人工智能算法是否會(huì)導(dǎo)致行業(yè)規(guī)則被破壞——自動(dòng)駕駛帶來(lái)車禍，誰(shuí)承擔(dān)責(zé)任；機(jī)器人寫出了假新聞，誰(shuí)來(lái)負(fù)責(zé)？

　　對(duì)此，西方國(guó)家與亞洲的日本、新加坡等國(guó)嘗試在法律上設(shè)定“規(guī)制”：一是從隱私權(quán)出發(fā)設(shè)定法律規(guī)范推薦算法，二是對(duì)某些重點(diǎn)行業(yè)（如傳媒、汽車、金融等）進(jìn)行立法或政策管制，以消除不良社會(huì)影響。這些相關(guān)的法律、立法議案、行政命令堪稱“他山之石”，可以為我國(guó)的推薦算法規(guī)制提供鏡鑒。

　　用什么樣的方式收集數(shù)據(jù)可能會(huì)侵犯?jìng)€(gè)人隱私？

　　在保護(hù)隱私權(quán)方面做得比較好的歐盟“數(shù)據(jù)隱私法案”，規(guī)定歐盟國(guó)家公民將有權(quán)要求“審查某項(xiàng)特定服務(wù)中如何做出特定算法決策”。法案要求算法公司詳細(xì)、明確說(shuō)明他們?nèi)绾问褂盟惴ㄊ占捅Ｗo(hù)用戶數(shù)據(jù)，并且在收集數(shù)據(jù)前必須征得個(gè)人同意。歐盟極端重視數(shù)據(jù)隱私，在此之前就已經(jīng)出臺(tái)了“通用數(shù)據(jù)保護(hù)條例”（GDPR），而“數(shù)據(jù)隱私法案”在條例的基礎(chǔ)上繼續(xù)展開，它賦予個(gè)人以權(quán)利，去確認(rèn)一個(gè)組織是否正在處理自己的數(shù)據(jù)，或是哪種類型的數(shù)據(jù)。此外，個(gè)人還有調(diào)整相關(guān)數(shù)據(jù)的保留期限、向數(shù)據(jù)保護(hù)機(jī)構(gòu)投訴的權(quán)利。歐盟設(shè)置了嚴(yán)苛的懲罰機(jī)制，如果一家公司不合規(guī)，那么罰款可以高達(dá)2000萬(wàn)歐元（約合2400萬(wàn)美元），或者是該組織在全球收入的4％。③

　　對(duì)于用戶面部數(shù)據(jù)的采集，愛(ài)爾蘭、德國(guó)以及美國(guó)伊利諾伊州《生物信息隱私法案》（BIPA）要求：采集前需要明確提醒用戶并征得同意。著名互聯(lián)網(wǎng)公司Facebook因此遭到美、德、愛(ài)等國(guó)的調(diào)查，并被迫在歐洲地區(qū)關(guān)閉了人臉識(shí)別功能，刪除了針對(duì)歐洲用戶建立的人臉數(shù)據(jù)庫(kù)④。

　　歐盟之外，香港地區(qū)也出臺(tái)了“數(shù)字隱私法案”（DPO），但審查力度不如歐盟。此外新加坡有“個(gè)人資料保護(hù)法”（PDPA），日本有“個(gè)人信息保護(hù)法”⑤。

　　如何監(jiān)管“保密”的推薦算法？

　　現(xiàn)在大多數(shù)的推薦算法原理都是秘密，這樣的“算法黑箱子”潛藏一系列問(wèn)題：究竟有多少工程師懂算法，能夠保證其穩(wěn)定運(yùn)行？不公開的算法會(huì)不會(huì)秘密設(shè)置了某些違反道德、法律的規(guī)則，如推薦招聘信息的算法涉及性別歧視？不公開的算法一旦出了問(wèn)題，相關(guān)責(zé)任人在政府調(diào)查之前修改、銷毀了問(wèn)題算法怎么辦？

　　作為一種建議，中國(guó)計(jì)算機(jī)協(xié)會(huì)在2017年出版了七項(xiàng)算法透明度和問(wèn)責(zé)制的原則⑥：

　　意識(shí)：所有者、設(shè)計(jì)師、構(gòu)建者、用戶和其他分析系統(tǒng)的涉眾應(yīng)該意識(shí)到他們對(duì)算法的設(shè)計(jì)、實(shí)現(xiàn)和使用可能存在的偏見(jiàn)，意識(shí)到偏見(jiàn)可能對(duì)個(gè)人和社會(huì)造成的潛在危害。

　　獲得和糾正：監(jiān)管機(jī)構(gòu)應(yīng)鼓勵(lì)一種機(jī)制，當(dāng)個(gè)人和團(tuán)體因算法決定的決策而受到不利影響時(shí)，允許他們（對(duì)算法）進(jìn)行質(zhì)疑和糾正。

　　問(wèn)責(zé)：機(jī)構(gòu)應(yīng)該對(duì)他們使用的算法做出的決策負(fù)責(zé)，即使不可能詳細(xì)解釋算法是如何產(chǎn)生結(jié)果的。

　　解釋：鼓勵(lì)使用算法決策的系統(tǒng)和機(jī)構(gòu)，對(duì)算法的過(guò)程和其作出的具體決定給予解釋。這在公共政策環(huán)境中尤為重要。

　　數(shù)據(jù)來(lái)源：對(duì)訓(xùn)練數(shù)據(jù)收集方式的描述應(yīng)該由算法的建造者維護(hù)，同時(shí)還要探索人為或算法本身在數(shù)據(jù)收集過(guò)程中可能產(chǎn)生的偏差。公眾對(duì)數(shù)據(jù)的審查為修正偏差提供了最大的機(jī)會(huì)，但是，考慮到隱私、保護(hù)商業(yè)秘密以及對(duì)公眾過(guò)于開放分析過(guò)程可能導(dǎo)致對(duì)系統(tǒng)的惡意攻擊，需要限制個(gè)人訪問(wèn)，只允許合格的、得到授權(quán)的人接觸數(shù)據(jù)和算法。

　　可審核性：模型、算法、數(shù)據(jù)和決策應(yīng)該被記錄，以便在有危害的情況下對(duì)它們進(jìn)行審計(jì)。

　　驗(yàn)證和測(cè)試：機(jī)構(gòu)應(yīng)該使用嚴(yán)格的方法來(lái)驗(yàn)證他們的模型，并記錄這些方法和結(jié)果。特別是，他們應(yīng)該定期進(jìn)行測(cè)試，以評(píng)估和確定該模型是否會(huì)產(chǎn)生歧視性的危害，鼓勵(lì)機(jī)構(gòu)將此類測(cè)試的結(jié)果公之于眾。

　　西方國(guó)家主要通過(guò)行業(yè)立法來(lái)監(jiān)管算法本身。歐盟證券和市場(chǎng)管理局（ESMA）就制定了金融管理標(biāo)準(zhǔn)：在金融交易領(lǐng)域，高頻算法交易員有義務(wù)存儲(chǔ)記錄和交易算法至少5年⑦。“算法交易”是指一些公司通過(guò)推薦算法自動(dòng)確定訂單的各個(gè)參數(shù)，例如是否啟動(dòng)訂單的順序、時(shí)間、價(jià)格或數(shù)量等，并在有限的人為干預(yù)或無(wú)人干預(yù)的情況下，對(duì)訂單、報(bào)價(jià)和執(zhí)行過(guò)程進(jìn)行調(diào)整和優(yōu)化。ESMA的金融管理標(biāo)準(zhǔn)規(guī)定，使用這類算法輔助操作的公司需要：1.報(bào)告公司資質(zhì)，證明其有足夠的員工和工程師來(lái)理解、操作和控制算法；2.算法備案，以防不正當(dāng)競(jìng)爭(zhēng)和出現(xiàn)系統(tǒng)錯(cuò)誤時(shí)進(jìn)行回溯檢查；3.使用算法的公司要向監(jiān)管部門報(bào)備，并接受交易全流程的持續(xù)監(jiān)控。

　　此外，英國(guó)上議院也對(duì)數(shù)字經(jīng)濟(jì)法案的修正案進(jìn)行了辯論，該法案將給予有關(guān)部門執(zhí)行和發(fā)布算法評(píng)估的權(quán)力。與數(shù)字保護(hù)法案不同，數(shù)字經(jīng)濟(jì)法案并不是要明確地反對(duì)某一種算法設(shè)計(jì)⑧，而原有的數(shù)字保護(hù)法案授權(quán)英國(guó)資訊委員會(huì)辦公室可采取強(qiáng)制措施保護(hù)數(shù)據(jù)安全。