經(jīng)濟(jì)觀察網(wǎng) 記者 任曉寧 美東時(shí)間5月30日，美國(guó)非營(yíng)利組織人工智能安全中心（CAIS）在其官網(wǎng)發(fā)布一封聯(lián)名公開(kāi)信，稱AI堪比“大流行病和核戰(zhàn)爭(zhēng)”，有可能給人類帶來(lái)滅絕風(fēng)險(xiǎn)。

公開(kāi)信只有一句話：“減輕人工智能帶來(lái)的滅絕風(fēng)險(xiǎn)，應(yīng)該與大流行病和核戰(zhàn)爭(zhēng)等其他社會(huì)規(guī)模的風(fēng)險(xiǎn)級(jí)別一樣，成為一個(gè)全球性的優(yōu)先事項(xiàng)。”

目前已有超過(guò)370位AI大佬簽署了上述聯(lián)名公開(kāi)信，包括OpenAI首席執(zhí)行官Sam Altman、谷歌DeepMind首席執(zhí)行官Demis Hassabis和Anthropic首席執(zhí)行官Dario Amode三大AI公司掌門人等。

(資料圖片)

圖靈獎(jiǎng)獲得者、被譽(yù)為人工智能“教父”的Geoffrey Hinton和Yoshua Bengio也簽署了這封公開(kāi)信。

簽署名單里也有中國(guó)學(xué)者的身影，包括中國(guó)工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院院長(zhǎng)張亞勤，中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理研究中心主任曾毅，清華大學(xué)副教授詹仙園。

名單主要以全球知名大學(xué)教授為主，其次是人工智能科學(xué)家，此外還有政界人士，比如愛(ài)沙尼亞共和國(guó)前總統(tǒng)Kersti Kaljulaid。

這個(gè)名單人數(shù)還在持續(xù)增加中。經(jīng)濟(jì)觀察網(wǎng)記者在CAIS官網(wǎng)看到，人工智能科學(xué)家或名人（高管、教授、領(lǐng)導(dǎo)）都可提交簽署聲明，并收到確認(rèn)郵件。

人工智能安全中心（CAIS）是一家位于美國(guó)舊金山的非營(yíng)利組織。其官網(wǎng)稱，他們相信，只要能夠安全地開(kāi)發(fā)和使用人工智能 (AI)，就有可能使世界受益匪淺。然而，與人工智能取得的巨大進(jìn)步相比，人工智能安全方面的許多基礎(chǔ)問(wèn)題尚待解決。他們的使命是通過(guò)開(kāi)展安全研究、建立人工智能安全研究領(lǐng)域和倡導(dǎo)安全標(biāo)準(zhǔn)來(lái)降低與人工智能相關(guān)的社會(huì)規(guī)模風(fēng)險(xiǎn)。

今年3月，國(guó)外上千位知名人士也簽署過(guò)公開(kāi)信，警示AI風(fēng)險(xiǎn)。3月29日，特斯拉創(chuàng)始人埃隆·馬斯克、圖靈獎(jiǎng)獲得者Yoshua Bengio等人在非營(yíng)利組織“生命未來(lái)研究所(Future of Life Institute)”網(wǎng)站上發(fā)布聯(lián)名公告，呼吁暫停開(kāi)發(fā)比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月，稱其“對(duì)社會(huì)和人類構(gòu)成潛在風(fēng)險(xiǎn)”。

目前，OpenAI已經(jīng)暫停開(kāi)發(fā)GPT-5。

Yoshua Bengio提到簽署原因時(shí)說(shuō)，這封公開(kāi)信可以提醒學(xué)界和工業(yè)界：我們必須花時(shí)間更好地了解這些系統(tǒng)，并在國(guó)家和國(guó)際層面制定必要的框架，來(lái)增加對(duì)公眾的保護(hù)。即使簽署這封公開(kāi)信造成的影響可能沒(méi)有那么大，但是起碼會(huì)掀起一場(chǎng)全社會(huì)的討論。

在國(guó)外，由于ChatGPT應(yīng)用更廣泛，暴露的風(fēng)險(xiǎn)也逐漸增加。3月28日，據(jù)比利時(shí)媒體LaLibre報(bào)道，比利時(shí)30歲男子在與聊天機(jī)器人ELIZA密集交流數(shù)周后自殺身亡，ELIZA是由EleutherAI開(kāi)發(fā)的開(kāi)源人工智能語(yǔ)言模型。

5月22日，美國(guó)一張五角大樓附近地區(qū)發(fā)生爆炸的圖片在社交媒體上瘋傳。這張?zhí)摷僬掌膹V泛流傳，甚至導(dǎo)致標(biāo)普500指數(shù)短線下跌約0.3%至盤中低點(diǎn)，由漲轉(zhuǎn)跌。隨后美國(guó)國(guó)防部發(fā)言人證實(shí)，這是一張由AI生成的虛假圖片，這張圖具有明顯的AI生成特征，比如路燈有些歪，圍欄長(zhǎng)在了人行道上等。

AI翻唱歌曲成為一種潮流后，控制全球音樂(lè)市場(chǎng)近三分之一份額的環(huán)球音樂(lè)，已經(jīng)發(fā)函要求蘋果、Spotify等流媒體平臺(tái)封禁侵犯公司旋律、歌詞版權(quán)的AI作品。