自ChatGPT正式發(fā)布以來，AI大模型變成了全球科技界追逐的對象，Google、Meta爭先布局，京東的ChatJD、百度的文心一言相繼發(fā)布，一時(shí)間“元宇宙”“Web3.0”成了過去式，資本與市場都在等待AI大模型更多的可能性。

但3月29日，美國生命未來研究所發(fā)布的一封公開信，似乎有意要給這陣“AI熱”降降溫。該信呼吁全球所有機(jī)構(gòu)暫停訓(xùn)練比GPT-4更強(qiáng)大的AI至少六個月，如果不能實(shí)施政府應(yīng)該介入并發(fā)布禁止令。

馬斯克等上千人聯(lián)名呼吁

(資料圖片)

官網(wǎng)顯示，生命未來研究所成立于2015年，是一家非營利組織，致力于降低技術(shù)給人類帶來的風(fēng)險(xiǎn)，尤其是人工智能領(lǐng)域。

截至發(fā)稿，該信聯(lián)名人數(shù)達(dá)1123人，其中有不少商界、政界、學(xué)界的知名人士，包括特斯拉CEO馬斯克、蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克、圖靈獎得主約書亞·本吉奧、《人類簡史》作者尤瓦爾·赫拉利。

參與簽名的部分人士

上述公開信指出，對地球的生命而言，先進(jìn)的人工智能可能意味著一場深刻的變革，應(yīng)該投入可觀的資源和關(guān)注來進(jìn)行規(guī)劃和管理，然而近幾個月人工智能實(shí)驗(yàn)室正在開發(fā)越來越強(qiáng)大的數(shù)字思維，競爭逐漸失序，但管理和規(guī)劃仍然缺位，包括創(chuàng)造者在內(nèi)，沒有人可以理解、預(yù)測或控制它們。

此前OpenAI發(fā)布的聲明也指出，“在未來某個階段，有必要在訓(xùn)練新系統(tǒng)之前進(jìn)行獨(dú)立審查，同時(shí)對新模型計(jì)算能力的增長速度也加以限制。”

除了暫停訓(xùn)練之外，該公開信也呼吁，AI實(shí)驗(yàn)室和獨(dú)立學(xué)者應(yīng)針對高級AI的設(shè)計(jì)和開發(fā)共同制定實(shí)施一套共享安全協(xié)議，確保AI的安全性。

與此同時(shí)，AI開發(fā)人員必須與決策者合作，大力推進(jìn)強(qiáng)有力的AI治理系統(tǒng)的發(fā)展，包括：針對AI的新型監(jiān)管機(jī)構(gòu)；對高級AI系統(tǒng)的監(jiān)督追蹤和大型算力池；幫助區(qū)分真實(shí)數(shù)據(jù)與AI生成的數(shù)據(jù)、并且追蹤模型泄漏的溯源和水印系統(tǒng)等。

不過信的末尾仍然提及，人類可以和AI共創(chuàng)繁榮未來，只不過要做好準(zhǔn)備：“讓我們享受AI的‘長夏’，而不是毫無準(zhǔn)備地進(jìn)入‘秋天’。”

面對靈魂拷問，ChatGPT怎么看

對于公開信的建議，銀柿財(cái)經(jīng)提問ChatGPT（GPT-3.5）是否同意，ChatGPT在生成的回答中并沒有明確提及同意與否，而是照常表明“作為一個AI語言模型，我不具備表達(dá)個人觀點(diǎn)或信仰的能力”。但它表示對于AI的研究與開發(fā)人員而言，需要優(yōu)先考慮AI系統(tǒng)帶來的責(zé)任和道德問題，包括此類系統(tǒng)的潛在風(fēng)險(xiǎn)和好處。

ChatGPT認(rèn)為，“暫停開發(fā)比GPT-4更強(qiáng)大的人工智能系統(tǒng)可能是一個合理的舉措，以便思考和討論與繼續(xù)開發(fā)此類系統(tǒng)相關(guān)的潛在風(fēng)險(xiǎn)和倫理考慮。這可以為研究人員提供一個機(jī)會，考慮如何減輕潛在風(fēng)險(xiǎn)，并確保此類系統(tǒng)的開發(fā)和部署符合人類價(jià)值觀和優(yōu)先事項(xiàng)。”

ChatGPT建議，站在AI的研究與開發(fā)人員的角度，暫停研發(fā)和訓(xùn)練是合理的。

此外，公開信中提及，如今的AI系統(tǒng)在常規(guī)工作中具備了與人類競爭的能力，并對可能出現(xiàn)的風(fēng)險(xiǎn)進(jìn)行提問。銀柿財(cái)經(jīng)嘗試將部分問題轉(zhuǎn)述給ChatGPT，得到如下回答以及建議：

銀柿財(cái)經(jīng)：是否應(yīng)該讓機(jī)器用宣傳和謊言充斥信息渠道？

ChatGPT：不，讓機(jī)器用宣傳和虛假充斥信息渠道對人類來說是不可取的。雖然機(jī)器和人工智能可以成為信息處理和傳播的強(qiáng)大工具，但它們的好壞取決于它們所用的數(shù)據(jù)和算法。如果他們被用來傳播虛假信息或宣傳，它會對個人、社會和公共機(jī)構(gòu)產(chǎn)生嚴(yán)重的負(fù)面后果。

重要的是優(yōu)先考慮負(fù)責(zé)任和合乎道德的技術(shù)使用，并確保人類保持對信息渠道的控制，以防止虛假或誤導(dǎo)性信息的傳播。這可以通過事實(shí)核查、算法和數(shù)據(jù)來源的透明度以及促進(jìn)個人的媒體素養(yǎng)和批判性思維技能等措施來實(shí)現(xiàn)。最終，確保信息渠道的準(zhǔn)確性和完整性的責(zé)任在于人類，而不是機(jī)器。

銀柿財(cái)經(jīng)：是否應(yīng)該把所有的工作都自動化，包括那些有成就感的工作？

ChatGPT：雖然自動化可以帶來許多好處，如提高生產(chǎn)力和效率，但不建議將所有工作自動化，包括令人滿意的工作。重要的是要在自動化的好處和工人的需求之間取得平衡，并確保工人不會在技術(shù)進(jìn)步的過程中落在后面。

一個更平衡的方法不是以完全自動化為目標(biāo)，而是使用自動化來增強(qiáng)人的能力并創(chuàng)造新的就業(yè)機(jī)會。這可以包括投資教育和培訓(xùn)計(jì)劃，讓工人具備適應(yīng)不斷變化的就業(yè)市場所需的技能，促進(jìn)創(chuàng)業(yè)和創(chuàng)新，培養(yǎng)終身學(xué)習(xí)和持續(xù)職業(yè)發(fā)展的文化。

從現(xiàn)有回答來看，對于AI技術(shù)，ChatGPT的回答仍以兼顧風(fēng)險(xiǎn)與監(jiān)管為主，至于在迭代之后，“態(tài)度”是否會改變，仍是難以預(yù)測的未知數(shù)。