中新經(jīng)緯7月26日電 題：主動提升算法透明度有利于平臺企業(yè)可持續(xù)發(fā)展

作者 張俊妮 北京大學(xué)國家發(fā)展研究院長聘副教授

導(dǎo)語：主動提升算法透明度對平臺企業(yè)履行社會責任至為關(guān)鍵，也有利于平臺企業(yè)的經(jīng)濟效益和可持續(xù)發(fā)展。平臺企業(yè)需著眼于算法輸入和輸出的透明，尤其是仔細選擇并主動公示與利益相關(guān)者核心訴求相關(guān)的優(yōu)化目標。

(資料圖片)

2021年3月召開的中央財經(jīng)委員會第九次會議指出，近年來我國平臺經(jīng)濟快速發(fā)展，在經(jīng)濟社會發(fā)展全局中的地位和作用日益突顯。要著眼長遠、兼顧當前，補齊短板、強化弱項，營造創(chuàng)新環(huán)境，解決突出矛盾和問題，推動平臺經(jīng)濟規(guī)范健康持續(xù)發(fā)展。

時代呼吁平臺企業(yè)更積極地履行社會責任。平臺企業(yè)使用算法連接眾多的利益相關(guān)者(如外賣平臺上的消費者、餐飲企業(yè)、騎手)，其履行社會責任的核心在于使用負責任的算法平衡和兼顧各利益相關(guān)者的利益。只有使用負責任的算法，平臺企業(yè)才能獲得利益相關(guān)者的認同和支持，從而獲得可持續(xù)發(fā)展的動力。

提升算法透明度是實現(xiàn)負責任算法的第一步和關(guān)鍵一步。多個國家進行了相關(guān)的制度探索。例如，2021年5月，美國議會提出《算法正義與互聯(lián)網(wǎng)平臺透明度法案》(正在立法過程中)，規(guī)定互聯(lián)網(wǎng)平臺需披露算法處理信息的方式方法以及信息的來源，發(fā)布透明度報告，使用戶能夠了解平臺如何對內(nèi)容進行審核以及如何使用算法推薦內(nèi)容。2021年11月，英國內(nèi)閣辦公廳中央數(shù)字和數(shù)據(jù)辦公室發(fā)布算法透明度標準。第一層信息要求提供算法工具的簡短非技術(shù)性描述，概述該工具是什么以及使用該工具的原因；第二層信息要求提供更詳細的技術(shù)信息，例如有關(guān)工具工作方式和工具使用數(shù)據(jù)的具體細節(jié)；2022年3月我國《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式生效，要求算法推薦服務(wù)者對算法進行備案，以適當方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運行機制等。

目前我國關(guān)于算法透明度的法律法規(guī)尚不存在統(tǒng)一的執(zhí)行標準，算法公示內(nèi)容的詳略程度主要由平臺企業(yè)自行決定。然而，遵守法律法規(guī)僅僅是企業(yè)履行社會責任的最基本要求，有長遠發(fā)展考量的平臺企業(yè)不應(yīng)坐等媒體披露或政府監(jiān)管算法存在的問題，宜主動在更高水平上實現(xiàn)算法透明。

算法透明的一種思路是將算法代碼透明化，但這種做法往往無法付諸實際。第一，這涉及平臺企業(yè)的核心商業(yè)機密；第二，當前常用的算法基于深度學(xué)習等復(fù)雜模型，即使全部看了代碼也無法了解算法的實際效果；第三，算法的實際效果在很大程度上依賴于用來訓(xùn)練算法的數(shù)據(jù)，但數(shù)據(jù)沒有體現(xiàn)在代碼中。

另一種思路著眼于算法輸入和輸出的透明，是更加實際的做法。首先需要闡明的就是算法的優(yōu)化目標，它是平臺企業(yè)如何權(quán)衡自己與各利益相關(guān)者利益的關(guān)鍵所在。這一點非常重要，我們將通過關(guān)于YouTube的實際案例進行詳細說明。

2005至2011年，YouTube的算法向用戶推薦視頻時的優(yōu)化目標是瀏覽量或點擊量。這導(dǎo)致點擊誘餌(如誤導(dǎo)性標題)的激增，用戶體驗直線下降。2012年，YouTube將推薦系統(tǒng)調(diào)整為優(yōu)化觀看每段視頻的時間和花費在平臺上的總時間，以增加廣告收入。然而，花費的時間不一定等于花費的高質(zhì)量時間。2016年，YouTube開始優(yōu)先考慮通過調(diào)查衡量的用戶滿意度，以及用戶點擊分享、喜歡和不喜歡等按鈕這樣的直接回應(yīng)指標。2017年YouTube對推薦系統(tǒng)實施了更多更改，以阻止宣傳包含煽動性宗教或種族優(yōu)越論內(nèi)容的視頻。

然而，YouTube前計算機程序員紀堯姆·查斯洛(Guillaume Chaslot)認為，這些改變大多是表面上的，并沒有從根本上改變算法中形成的一些令人不安的偏見。他編寫了一個計算機程序進行調(diào)查。該程序模擬了一些沒有任何觀看歷史記錄的用戶的行為，每位用戶首先通過文字搜索找到一些視頻，從中選擇一個“種子”視頻，然后按照推薦的視頻鏈跟蹤沿途的數(shù)據(jù)。查斯洛利用該程序探索了在美國、法國、英國和德國選舉、全球變暖和大規(guī)模槍擊事件期間YouTube推薦內(nèi)容中的偏見。研究表明，YouTube系統(tǒng)地放大了分裂、聳人聽聞和陰謀論的視頻。2018年初，媒體報導(dǎo)了查斯洛的調(diào)查結(jié)果。作為回應(yīng)，YouTube宣布將為視頻標注新的信息標簽，以努力打擊陰謀論和鼓吹宣傳。

2019年初，YouTube推出了30多項更改，旨在積極減少推薦邊緣內(nèi)容以及可能以有害方式誤導(dǎo)用戶的內(nèi)容，例如宣傳治療一種嚴重疾病的虛假奇跡、聲稱地球是平的、或者對9·11之類的歷史事件公然做出虛假聲明的視頻。這種變化依賴于機器學(xué)習和真人的結(jié)合。YouTube與人類評估人員和專家合作，幫助培訓(xùn)生成推薦內(nèi)容的機器學(xué)習系統(tǒng)。這些評估人員接受使用公共指南的培訓(xùn)，并提供有關(guān)視頻質(zhì)量的關(guān)鍵輸入。2019年底，YouTube宣布在美國，通過未訂閱的推薦觀看邊緣或誤導(dǎo)內(nèi)容的平均時間減少了70%。2021年，YouTube將推薦中的邊緣或誤導(dǎo)內(nèi)容的消費量大大降低到1%以下。YouTube通過官方博客持續(xù)公布對推薦系統(tǒng)的更改及其背后的邏輯。

在構(gòu)建更負責任算法期間，YouTube在2018至2021年四年間廣告收入年增長超過30%，在2021年獲得了288億美元廣告收入，比2020年增長46%。YouTube付費訂閱服務(wù)(YouTube Music和YouTube Premium)的用戶在2020年達到3千萬，在2021年達到5千萬。

在YouTube的案例中，用戶的核心訴求并不是依據(jù)瞬間的本能反應(yīng)或自我沉溺去觀看聳人聽聞的視頻，而是獲取真實可靠有內(nèi)涵的內(nèi)容。當YouTube不著眼于通過讓用戶沉溺來獲取更多收入，反而收入大幅上升。由此可見，平臺企業(yè)仔細選擇并主動公示與利益相關(guān)者核心訴求相關(guān)的優(yōu)化目標，以及采取與其相適應(yīng)的措施，不僅能大幅度改善算法的社會效益，也有助于平臺的經(jīng)濟效益和可持續(xù)發(fā)展。例如，在一個外賣平臺上，消費者的核心訴求可能是獲得健康安全、美味營養(yǎng)的食物，騎手的核心訴求可能是在安全到達的前提下獲得應(yīng)有收入，餐飲企業(yè)的核心訴求可能是通過提升菜品味道和質(zhì)量獲得更多收入(而不是為爭取排名靠前而疲于做滿減、折扣等活動)，平臺算法的優(yōu)化目標應(yīng)該兼顧這些核心訴求，而不是著眼于平臺自身的分成。一旦確定了合適的優(yōu)化目標，查斯洛使用的模擬方法以及其他評估方法可用于平臺企業(yè)自查或第三方獨立評估，以及時發(fā)現(xiàn)與目標不符合的算法問題。

在提升算法透明度方面，平臺企業(yè)還可以對算法訓(xùn)練、評估及選擇中用到的數(shù)據(jù)、算法使用的技術(shù)、算法的運行效果等等進行說明。值得一提的是，2018年《哈佛商業(yè)評論》上的一篇文章指出，相對于低透明度而言，中等透明度顯著增加了信任，過高透明度反而完全侵蝕了信任。用戶不會信任黑箱算法，但他們不需要極高的透明度，不需要過度了解黑箱算法的細節(jié)。這意味著，平臺企業(yè)無需著力于披露源代碼或幫助用戶閱讀海量數(shù)據(jù)(603138)集，而應(yīng)該努力提供關(guān)于驅(qū)動算法決策因素的基本洞察。

總而言之，通過主動提升算法透明度并進行持續(xù)改進，平臺企業(yè)能獲取其連接的眾多利益相關(guān)者的滿意和信任，在提升社會效益的同時實現(xiàn)自身的經(jīng)濟效益和可持續(xù)發(fā)展。(中新經(jīng)緯APP)

本文由中新經(jīng)緯研究院選編，因選編產(chǎn)生的作品中新經(jīng)緯版權(quán)所有，未經(jīng)書面授權(quán)，任何單位及個人不得轉(zhuǎn)載、摘編或以其它方式使用。選編內(nèi)容涉及的觀點僅代表原作者，不代表中新經(jīng)緯觀點。

責任編輯：宋亞芬