鳳凰網(wǎng)科技《AI哨所》北京時間4月17日消息，埃隆·馬斯克(Elon Musk)等上千人聯(lián)名呼吁暫停高級人工智能(AI)模型的開發(fā)六個月，以規(guī)避AI帶來的安全風(fēng)險。但是在專家看來，根本不用這么做。

圖1：AI訓(xùn)練需要人的指導(dǎo)

馬斯克、蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克(Steve Wozniak)等知名人士警告稱，像OpenAI旗下GPT-4這樣的大型語言模型的崛起，正在為一個機器人做出所有決定的新時代敞開大門(人類沒有終結(jié)的話)。

(相關(guān)資料圖)

現(xiàn)在，這個話題已經(jīng)轉(zhuǎn)向了負責(zé)任的AI概念上。由于馬斯克等領(lǐng)袖呼吁暫時停止開發(fā)新的AI模型，那我們就來弄清楚如何確保這些系統(tǒng)在所有情況下都能公平和合乎倫理地行事。

公開的秘密

鳳凰網(wǎng)科技《AI哨所》了解到，開發(fā)負責(zé)任AI的秘密根本不是秘密。這是業(yè)內(nèi)多年前就知道的事情。如果你想完全確定你的AI是否按照你想要的方式行事，你就需要有人參與其中。

“我們需要讓人類參與AI訓(xùn)練，甚至提前編碼，讓機器在遇到道德困境時知道應(yīng)該如何行動?！备鐐惐葋喆髮W(xué)商學(xué)院教授奧德·內(nèi)澤爾(Oded Netzer)表示。

通過確保AI從一開始就按照人類想要的行為進行編碼，并定期檢查以確保它仍然按照預(yù)期行事，它的行為會在很大程度上被接受為標(biāo)準(zhǔn)做法。你可以防止這些系統(tǒng)制造虛假信息，歧視某些用戶， 或以其他方式表現(xiàn)不佳。

這是好消息。壞消息是，人們現(xiàn)在突然對負責(zé)任的AI產(chǎn)生興趣，恰逢科技公司正在大力裁員之際。微軟、谷歌和Meta等大型科技公司為了節(jié)省成本，裁減了他們的AI倫理學(xué)家。

圖2：科技公司正在裁減AI倫理學(xué)家

專家們指出，從短期來看，裁員對他們的業(yè)務(wù)來說可能是正確的舉動，但是對于AI技術(shù)的未來來說，這些裁員可能發(fā)生在最糟糕的時刻。

“你最不想讓人們離開的地方就是AI領(lǐng)域，”內(nèi)澤爾表示，“我預(yù)計這可能是短期內(nèi)的人員低點，他們最終會在這些團隊中重新招聘的?！?/strong>

人類干預(yù)是關(guān)鍵

AI倫理學(xué)家不會坐在房間里討論柏拉圖，思考作為人類意味著什么。許多負責(zé)任的AI都致力于理解AI對人們?nèi)粘Ｉ畹挠绊?。你可以把AI倫理學(xué)家想象成房間里負責(zé)任的父母。

從根本上說，讓AI倫理學(xué)家參與開發(fā)過程，是為了放慢將新產(chǎn)品推向市場的速度，因為你可以這么做。每家公司的做法都不同，但這些倫理學(xué)家通常會檢查AI模型的偏見或不準(zhǔn)確性，并詢問有關(guān)該系統(tǒng)的社會或政治影響的問題。例如，如果他們認為AI可能會產(chǎn)生有偏見的結(jié)果或傷害一群人，他們可以要求產(chǎn)品團隊推遲發(fā)布。

對于金融或醫(yī)療保健等受到嚴(yán)格監(jiān)管的行業(yè)來說，這尤其重要。在這些行業(yè)，如果有人知道如何提出正確(或錯誤)的問題，未經(jīng)檢查的算法可能會泄露敏感數(shù)據(jù)。

倫理學(xué)家甚至不必是一個在大學(xué)里長時間研究哲學(xué)的人。通常來說，這些人都是各自領(lǐng)域的專家，從律師(和其他法律專業(yè)人士)到與邊緣群體打交道的經(jīng)驗豐富的人。

湯森路透法律技術(shù)部門首席產(chǎn)品官克里蒂·夏爾馬(Kriti Sharma)表示：“我真的相信AI是未來，但現(xiàn)實是，我們的數(shù)字生活應(yīng)該由像我這樣的極客獨自打造。它需要的是擁有許多不同背景、了解背景和社會的人的組合?！?/p>

她補充說，在訓(xùn)練AI時讓專家隨叫隨到，可以為模型提供更好的指導(dǎo)，并為其接收的數(shù)據(jù)提供背景信息。有了額外的背景信息，它有助于減少偏見并指導(dǎo)結(jié)果。

總而言之，創(chuàng)造負責(zé)任的AI的方法已經(jīng)存在，沒有必要暫停開發(fā)六個月時間，只需讓人類參與進去。鳳凰網(wǎng)科技《AI哨所》對此將持續(xù)關(guān)注。(作者/簫雨)