中新經(jīng)緯3月24日電 (王玉玲)近日，由中國人民大學(xué)高瓴人工智能學(xué)院、智能社會(huì)治理跨學(xué)科交叉平臺(tái)和基于大數(shù)據(jù)文科綜合訓(xùn)練國家級(jí)虛擬仿真實(shí)驗(yàn)教學(xué)中心聯(lián)合主辦的算法公平性與內(nèi)容生態(tài)建設(shè)研討會(huì)在線上舉行。中國科學(xué)技術(shù)大學(xué)教授王翔表示，算法公平性是多方需求，對(duì)于某一類敏感人群，或者敏感信息，如果算法推薦產(chǎn)生了一些不公平結(jié)果，我們需要對(duì)結(jié)果進(jìn)行糾偏或者去除混淆。

“關(guān)鍵在于如何鑒定敏感信息，如果我們沒有明確敏感信息的對(duì)象，那么公平性這個(gè)東西是模棱兩可的，很難去衡量。”王翔指出，如果可以鑒定出敏感信息，那可以通過統(tǒng)計(jì)等方式，結(jié)合一些認(rèn)知交叉科學(xué)的方式去衡量敏感信息。

例如，對(duì)于顯式的敏感信息，如用戶畫像、商品屬性等，如果我們引入認(rèn)知圖譜，就會(huì)導(dǎo)致敏感信息爆炸式增長(zhǎng)。舉個(gè)例子。比如說你去應(yīng)聘一個(gè)崗位，如果一味強(qiáng)調(diào)公平性，可能會(huì)導(dǎo)致招過來的人不符合崗位需求。所以，我們需要從顯式信息里鑒定出應(yīng)該真正關(guān)注哪些信息。

其次，還有隱式敏感信息，如潛在特征和潛在組合。在我們的推薦場(chǎng)景里，模型很可能不按照人的運(yùn)行邏輯走，因?yàn)樗鼤?huì)捕捉到一些隱式的信息或者特征。這些特征就是一個(gè)隱空間里面的向量，如何從中鑒定出來，這是我們達(dá)成公平性的前提條件。我認(rèn)為有兩種找出隱式敏感信息的方式。

第一，人機(jī)混合智能。算法是天然的人機(jī)混合決策的場(chǎng)景，涉及到推薦算法平臺(tái)、人以及商品等多方交互，還有監(jiān)管部門的加入等。人在其中是非常關(guān)鍵的，需要跟推薦系統(tǒng)產(chǎn)生交互，跟商品產(chǎn)生交互。“我們需要監(jiān)管人員或者決策者對(duì)算法進(jìn)行監(jiān)管，定義哪些信息是我們需要關(guān)注的敏感信息，或者說從敏感信息中挖掘出來一些潛在的特征或?qū)傩越M合，定義其為敏感信息。”王翔說道。

第二，可信人工智能。從推薦結(jié)果入手，觀察算法到底違背了哪種公平性衡量標(biāo)準(zhǔn)，不妨讓模型白盒化，捕捉和理解推薦模型的決策邏輯，到底應(yīng)用和側(cè)重哪些敏感信息，導(dǎo)致了哪些結(jié)果。當(dāng)推薦模型白盒化，透明化，就會(huì)更明確哪些場(chǎng)景或者面對(duì)哪些人群，算法會(huì)產(chǎn)生不公平，這樣就可以去調(diào)節(jié)各項(xiàng)參數(shù)，使它變得公平和精確。(中新經(jīng)緯APP)