91網站在線觀看視頻_欧美最猛性开放2Ovideos_av在线免费国产_精品久久久亚洲一区_日韩国产变态无码大秀精品_视频爽爽免费二区_亚洲第一级av无码毛片_亚洲日本高清综合_国产三级网站免费看_特黄特色一级特色大片app

當(dāng)前位置:看商機 > 行業(yè)資訊 > 今日熱點 > 推薦算法規(guī)制的他山之石

推薦算法規(guī)制的他山之石

發(fā)布時間:2020-08-14 16:30:06 點擊次數(shù):109

摘要:用推薦算法進行新聞分發(fā)不是保持新聞?wù)鎸崱⒖陀^并有效傳播的“萬能藥”,習(xí)慣藏身于“黑箱子”里的算法,同樣需要法律和行政命令的規(guī)制。

關(guān)鍵詞:

作者簡介:

  摘要:用推薦算法進行新聞分發(fā)不是保持新聞?wù)鎸?、客觀并有效傳播的“萬能藥”,習(xí)慣藏身于“黑箱子”里的算法,同樣需要法律和行政命令的規(guī)制。西方國家嘗試在法律上設(shè)定“規(guī)制”:一是從隱私權(quán)出發(fā)設(shè)定法律規(guī)范推薦算法;二是對某些重點行業(yè)進行立法或政策管制。其方法可以為我國提供鏡鑒。

  關(guān)鍵詞:推薦算法 “黑箱子” 法律規(guī)制 隱私權(quán)

  基于用戶興趣的“算法推薦”是網(wǎng)絡(luò)新聞的主要分發(fā)方式,其代表有今日頭條、一點資訊等。今日頭條宣稱自己的“運轉(zhuǎn)核心是一套由代碼搭建而成的算法”,此算法在商業(yè)上獲得成功,為它帶來了1.4億活躍用戶。與此同時,推薦算法也引來不少質(zhì)疑,如:算法歧視、算法短視會導(dǎo)致媒體公共性內(nèi)容的缺失,加深用戶偏見、形成信息繭房;“編輯缺位”致使低俗消息更加泛濫,甚至挑戰(zhàn)道德底線,既不利于用戶獲得知識,又難以做到價值引領(lǐng)①;推薦算法獲取信息的方式可能侵犯個人隱私②。

  這些問題都與推薦算法的設(shè)計和使用息息相關(guān)。事實說明,使用推薦算法進行新聞分發(fā)不是保持新聞?wù)鎸崱⒖陀^并有效傳播的“萬能藥”,習(xí)慣藏身于“黑箱子”里的算法,同樣需要法律和行政命令的規(guī)制。從國際視角看,人工智能支持下的推薦算法在全球范圍內(nèi)都有廣泛的應(yīng)用,這些算法及使用它們的公司也都遇到了一些相似的道德和法律困境。比如,推薦算法會不會過分搜集和使用用戶的數(shù)據(jù),侵犯個人的隱私?又如,過于依賴推薦算法是否會造成不良社會影響,如何消除?此外,國外還特別關(guān)注人工智能算法是否會導(dǎo)致行業(yè)規(guī)則被破壞——自動駕駛帶來車禍,誰承擔(dān)責(zé)任;機器人寫出了假新聞,誰來負責(zé)?

  對此,西方國家與亞洲的日本、新加坡等國嘗試在法律上設(shè)定“規(guī)制”:一是從隱私權(quán)出發(fā)設(shè)定法律規(guī)范推薦算法,二是對某些重點行業(yè)(如傳媒、汽車、金融等)進行立法或政策管制,以消除不良社會影響。這些相關(guān)的法律、立法議案、行政命令堪稱“他山之石”,可以為我國的推薦算法規(guī)制提供鏡鑒。

  用什么樣的方式收集數(shù)據(jù)可能會侵犯個人隱私?

  在保護隱私權(quán)方面做得比較好的歐盟“數(shù)據(jù)隱私法案”,規(guī)定歐盟國家公民將有權(quán)要求“審查某項特定服務(wù)中如何做出特定算法決策”。法案要求算法公司詳細、明確說明他們?nèi)绾问褂盟惴ㄊ占捅Wo用戶數(shù)據(jù),并且在收集數(shù)據(jù)前必須征得個人同意。歐盟極端重視數(shù)據(jù)隱私,在此之前就已經(jīng)出臺了“通用數(shù)據(jù)保護條例”(GDPR),而“數(shù)據(jù)隱私法案”在條例的基礎(chǔ)上繼續(xù)展開,它賦予個人以權(quán)利,去確認一個組織是否正在處理自己的數(shù)據(jù),或是哪種類型的數(shù)據(jù)。此外,個人還有調(diào)整相關(guān)數(shù)據(jù)的保留期限、向數(shù)據(jù)保護機構(gòu)投訴的權(quán)利。歐盟設(shè)置了嚴苛的懲罰機制,如果一家公司不合規(guī),那么罰款可以高達2000萬歐元(約合2400萬美元),或者是該組織在全球收入的4%。③

  對于用戶面部數(shù)據(jù)的采集,愛爾蘭、德國以及美國伊利諾伊州《生物信息隱私法案》(BIPA)要求:采集前需要明確提醒用戶并征得同意。著名互聯(lián)網(wǎng)公司Facebook因此遭到美、德、愛等國的調(diào)查,并被迫在歐洲地區(qū)關(guān)閉了人臉識別功能,刪除了針對歐洲用戶建立的人臉數(shù)據(jù)庫④。

  歐盟之外,香港地區(qū)也出臺了“數(shù)字隱私法案”(DPO),但審查力度不如歐盟。此外新加坡有“個人資料保護法”(PDPA),日本有“個人信息保護法”⑤。

  如何監(jiān)管“保密”的推薦算法?

  現(xiàn)在大多數(shù)的推薦算法原理都是秘密,這樣的“算法黑箱子”潛藏一系列問題:究竟有多少工程師懂算法,能夠保證其穩(wěn)定運行?不公開的算法會不會秘密設(shè)置了某些違反道德、法律的規(guī)則,如推薦招聘信息的算法涉及性別歧視?不公開的算法一旦出了問題,相關(guān)責(zé)任人在政府調(diào)查之前修改、銷毀了問題算法怎么辦?

  作為一種建議,中國計算機協(xié)會在2017年出版了七項算法透明度和問責(zé)制的原則⑥:

  意識:所有者、設(shè)計師、構(gòu)建者、用戶和其他分析系統(tǒng)的涉眾應(yīng)該意識到他們對算法的設(shè)計、實現(xiàn)和使用可能存在的偏見,意識到偏見可能對個人和社會造成的潛在危害。

  獲得和糾正:監(jiān)管機構(gòu)應(yīng)鼓勵一種機制,當(dāng)個人和團體因算法決定的決策而受到不利影響時,允許他們(對算法)進行質(zhì)疑和糾正。

  問責(zé):機構(gòu)應(yīng)該對他們使用的算法做出的決策負責(zé),即使不可能詳細解釋算法是如何產(chǎn)生結(jié)果的。

  解釋:鼓勵使用算法決策的系統(tǒng)和機構(gòu),對算法的過程和其作出的具體決定給予解釋。這在公共政策環(huán)境中尤為重要。

  數(shù)據(jù)來源:對訓(xùn)練數(shù)據(jù)收集方式的描述應(yīng)該由算法的建造者維護,同時還要探索人為或算法本身在數(shù)據(jù)收集過程中可能產(chǎn)生的偏差。公眾對數(shù)據(jù)的審查為修正偏差提供了最大的機會,但是,考慮到隱私、保護商業(yè)秘密以及對公眾過于開放分析過程可能導(dǎo)致對系統(tǒng)的惡意攻擊,需要限制個人訪問,只允許合格的、得到授權(quán)的人接觸數(shù)據(jù)和算法。

  可審核性:模型、算法、數(shù)據(jù)和決策應(yīng)該被記錄,以便在有危害的情況下對它們進行審計。

  驗證和測試:機構(gòu)應(yīng)該使用嚴格的方法來驗證他們的模型,并記錄這些方法和結(jié)果。特別是,他們應(yīng)該定期進行測試,以評估和確定該模型是否會產(chǎn)生歧視性的危害,鼓勵機構(gòu)將此類測試的結(jié)果公之于眾。

  西方國家主要通過行業(yè)立法來監(jiān)管算法本身。歐盟證券和市場管理局(ESMA)就制定了金融管理標準:在金融交易領(lǐng)域,高頻算法交易員有義務(wù)存儲記錄和交易算法至少5年⑦?!八惴ń灰住笔侵敢恍┕就ㄟ^推薦算法自動確定訂單的各個參數(shù),例如是否啟動訂單的順序、時間、價格或數(shù)量等,并在有限的人為干預(yù)或無人干預(yù)的情況下,對訂單、報價和執(zhí)行過程進行調(diào)整和優(yōu)化。ESMA的金融管理標準規(guī)定,使用這類算法輔助操作的公司需要:1.報告公司資質(zhì),證明其有足夠的員工和工程師來理解、操作和控制算法;2.算法備案,以防不正當(dāng)競爭和出現(xiàn)系統(tǒng)錯誤時進行回溯檢查;3.使用算法的公司要向監(jiān)管部門報備,并接受交易全流程的持續(xù)監(jiān)控。

  此外,英國上議院也對數(shù)字經(jīng)濟法案的修正案進行了辯論,該法案將給予有關(guān)部門執(zhí)行和發(fā)布算法評估的權(quán)力。與數(shù)字保護法案不同,數(shù)字經(jīng)濟法案并不是要明確地反對某一種算法設(shè)計⑧,而原有的數(shù)字保護法案授權(quán)英國資訊委員會辦公室可采取強制措施保護數(shù)據(jù)安全。