中新經緯3月24日電 (薛宇飛)近日，由中國人民大學高瓴人工智能學院、智能社會治理跨學科交叉平臺和基于大數據文科綜合訓練國家級虛擬仿真實驗教學中心聯合主辦的算法公平性與內容生態建設研討會在線上舉行，來自清華大學、中國人民大學、中國科學技術大學、對外經貿大學、北京郵電大學、北京科技大學、微軟亞洲研究院的十幾位專家、學者，就推薦算法的公平性等多個熱點問題展開討論。研討會上，中國人民大學高瓴人工智能學院發布了《算法公平性與內容生態建設》報告(下稱報告)。

剖析與總結算法不公平性的原因

研討會上，中國人民大學高瓴人工智能學院博士后朱倩男分享了報告的主要內容。報告將推薦系統看作用戶、數據和模型三者間的循環交互過程，推薦流程可以分為用戶到數據、數據到模型、模型到用戶三個階段。用戶到數據階段，是指從移動端、網頁等各途徑收集用戶行為數據，對數據進行清洗與篩選；數據到推薦模型階段，是將篩選或清洗后的行為數據輸入到模型中以挖掘用戶偏好，同時向用戶返回個性化推薦結果；在模型到用戶階段，用戶根據反饋結果進行點擊或瀏覽，形成新的交互行為用作下一次迭代。

為了加深大眾對推薦系統的了解，朱倩男列舉了日常生活中經常使用到的推薦產品及應用場景。比如，今日頭條的資訊推薦系統就是典型的新聞應用場景，它利用資訊內容、用戶特征以及環境特征三個維度擬合用戶對推薦內容的滿意程度，同時，今日頭條的資訊推薦系統還考慮基于內容安全的鑒定模型向用戶推薦比較安全和可靠的資訊。

報告從公平性關注角度，即信息需求方和信息供給方列舉了幾個不公平的例子。比如，對于信息需求方來講，常見的不公平現象包括但不限于偏好放大、曝光偏見和大數據殺熟等。比如，在電商場景下，“偏好放大”是指用戶搜索一個物品后，接下來一段時間的推薦很可能都與該物品相關，即使是用戶已經購買過該物品。而曝光偏見是指未曝光或者很少曝光的物品，由于缺乏用戶行為數據，更加得不到曝光機會，限制了用戶接觸到更多感興趣商品的機會，這對用戶來講是不公平的。對于信息供給方來說，常見不公平現象包括但不限于位置偏見和流行性偏見等。位置偏見是指位置靠前的物品比位置靠后的物品更容易被用戶注意到。流行性偏見指比較流行的物品更容易推薦給用戶，而不流行的物品有較少的機會被推薦給用戶。

朱倩男稱，要從推薦系統原理出發，關注推薦系統循環回路中的數據、推薦模型和用戶三個要素，分析產生不公平現象的潛在原因。

首先，在數據層面，樣本數量的有限性和可偽造性，會影響推薦算法的準確性和公正性。由于商業競爭和對用戶數據隱私的保護，與用戶相關的全量樣本數據的獲取不具備可行性；人為偽造的點贊量、轉發量等數據，會對算法規則產生“欺騙”；用戶往往受選擇偏見、曝光偏見、從眾心理以及物品流行度的影響，可能會產生有偏的反饋數據，而有偏的數據自然會產生有偏的推薦結果。

其次，在推薦模型層面，算法的核心是從輸入的數據中挖掘用戶偏好，以預測符合用戶偏好的推薦結果，但有偏的輸入會形成有偏的輸出，并在推薦循環中進一步加深，產生不公平問題。此外，在算法目標或核心設計層面，更多的是追求風險最小化，比較看重的是整體準確率或者收益，也就是說，推薦系統更在意擬合多數群體的需求，而少數群體的反饋往往會被忽略掉。長此以往，推薦算法會喪失對這部分少量用戶的代表性，形成歸納偏差。朱倩男稱，如果推薦算法只追求準確性，而很少考慮到公平性的因素，這樣的推薦算法就會用有偏的結果來擬合并且強化用戶已有的偏見或者喜好，從而減少用戶對其他新鮮信息的接觸機會，產生不公平問題。

最后，在人的層面。算法是人為設計的，設計者可能將自身固有的偏見嵌入到算法中，算法在反映偏見的同時也會放大這種歧視。其次，對用戶來講，用戶行為可能會受到從眾心理以及流行度等因素影響，并不能形成反映用戶真實興趣的數據，而推薦系統在有偏數據上進行建模，就可能產生有偏的推薦結果。

通過以上分析，報告對推薦算法可能產生的偏見問題進行總結。在用戶到數據階段，可能會有位置偏見、曝光偏見、選擇偏見以及從眾偏見等不公平問題。在數據到模型階段，可能會產生屬性偏差、歸納偏差和探索偏差等不公平問題。在模型到用戶階段，推薦結果可能會存在流行度偏見和對某些群體的不公平等。

朱倩男總結道，算法的公平性是社會治理的重要原則，也是堅持算法向善和可持續發展的核心要素。保證算法決策的客觀、公平、合理是加速人工智能落地的必要條件。因此，研究算法的公平性具有重大的理論意義和應用價值。

綜合考量算法公平性問題

報告認為，現階段，推薦系統公平性的研究已成為推薦領域新的突破點，學術界和產業界正著力推動和研究公平機器學習的理論、技術和應用發展。

特別地，對工業界來講，算法的不公平性會影響用戶的黏性和長期存留，實現公平性對企業來說也是至關重要的。面對推薦算法可能帶來的不公平問題，TikTok的推薦算法兼顧了需求方(短視頻觀看者)和供給方(短視頻發布者)的公平，使得普通用戶發布的內容也有可能受到明星般的關注，同時也能使有小眾或細分需求的用戶能看到自己感興趣的內容。該算法被麻省理工學院在MIT technology review中被評為2021年度十大突破技術之一。

報告還從公平性的定義及適用范圍、數據、算法相關主體、法律法規和社會監管等層面綜合考量，給出克服算法公平性問題的一些建議。

一是建議界定清晰的公平性定義、對象及適用范圍。報告借助社會科學領域比較典型的起點公平，過程公平和結果公平，從數據、算法、推薦結果三個層面界定公平性范圍。首先，保證數據的公平性是避免算法不公平問題的基礎，因此，建議考慮在數據層面定義公平性來獲取無偏的數據。其次，保證無偏的建模過程是解決公平性問題的重要抓手。為了追求高準確率，推薦結果可能會極大滿足多數群體的需求，而忽視少數群體，因此，建議在算法建模層面定義公平性，設計以公平性為導向的算法。最后，保證對不同個體、群體、機構等對象無偏的推薦結果，報告建議考慮推薦結果的多樣化，作為解決公平性問題的主要途徑之一。

二是建議在數據、算法以及算法相關主體層面，規避產生不公平問題的潛在原因，以實現公平的推薦。首先，在數據層面，建議平衡好數據獲取時的探索和利用環節，因為推薦場景中攜帶偏見的數據往往來源于數據獲取過程，數據的獲取策略可能對某一類數據具有偏好，而對其他數據采樣比較少。因此，針對該問題，建議利用已有數據的同時，采用機器學習算法合理探索未知類型的數據，避免信息獲取的單一性。其次，在算法層面，開展以公平性為導向的算法設計模型，傳統人工智能算法在設計歸納偏置時，大多是關注預測的高精度，忽略了公平性，因此應以公平性為導向設計面向不同任務和場景的歸納偏置，盡可能將反歧視目標貫穿于算法設計中。最后，建立算法及其相關主體公平性原則。建立和完善算法透明、算法可解釋以及算法問責機制，在算法落地過程中明確哪些環節有人參與，參與的是哪一部分，對算法可能造成的影響，需要在特定范圍內以及特定單位公開，以避免因人為因素帶來的不公平問題。此外，算法研究人員還需遵守一些基本倫理準則，堅持算法向善以及對社會有益，也要注重對用戶隱私數據的保護。

三是建議建立通用的公平性評測指標和平臺。建立算法公平性評測指標，建議從兩方面入手，一方面是考慮推薦結果的多樣化，因為多樣化是解決公平性問題的有效途徑。另一個方面是考慮推薦對象的公平性。推薦算法的公平性可以從以用戶為中心，擴展到以群體為中心，在歸納偏置中關注不同群體的準確性差異，以不同的對象來建立評測指標。其次，建立算法公平性評測的公開數據集和通用平臺，形成統一標準的公平性評估。同時，建議用公平性評估結果引導算法設計者對算法進行改進和修正。

四是建議在法律法規以及社會監管層面，對公平性問題進行規避和應對。首先，要建立算法相關利益主體的責任機制和法律意識，明確算法的責任主體，對可能造成社會危害的事件進行追責，加強相關主體的道德和倫理素質的培養。其次，建立和完善算法相關制度，對算法進行監管，可以通過算法的性能標準、預測標準、設計標準等的設立，避免算法作惡。也可以建立由計算機、法學、經濟學及其他社會科學組成的第三方機構，從多角度、多方面鑒定算法技術可能帶來的不公平影響，對相關主體的責任范圍進行界定，幫助企業和單位完善算法的設計和落地。

報告認為，目前，對算法的公平性研究還處于起步階段，并沒有形成統一的公平性理論體系，對公平性的研究任重道遠。(中新經緯APP)