來源 | 零壹財經 作者 | Chenglin Pua

(資料圖)

ChatGPT備受寵愛，但它也正在到處惹麻煩，比如不準確甚至誤導性的回答、對數據安全的挑戰、對教育的沖擊等等。

它帶來一個新時代，因為它推倒了很多東西，尤其是我們正賴以正常運行的秩序。重建規則的過程，也是麻煩不斷的過程。

誤導性的知識

經濟學家保羅?克魯格曼表示ChatGPT的出現將會影響知識工作者。例如問答網站 Stack Overflow 2022 年 12 月禁止使用ChatGPT來生成問題的答案，理由是 ChatGPT 的回答在事實上模棱兩可。頂級科學期刊《Nature》給出ChatGPT的評價，Fluent but not factual，即通暢但未必正確。

ChatGPT基于龐大的數據集訓練，進而做出回答。但沒人能保證這些數據100%準確，客觀，不帶有偏見。

對于知識工作者，知識的準確性非常重要。ChatGPT能夠“一本正經的胡說八道”，容易讓人們相信ChatGPT給出的答案是正確的。然而事實未必如此，可能ChatGPT 80%是正確，20%是錯誤的。對中有錯，錯中有對最難讓人理清楚了。ChatGPT可能會誤導很多人，讓人們相信一個不完全正確的結論。

ChatGPT生成對話文本的能力引發了人們對其創建假新聞或其他誤導性內容的可能性的擔憂。這有可能會造成嚴重后果，例如損害聲譽、甚至煽動暴力。

作為一種語言模型，ChatGPT 具有生成類似于人類對話的文本的能力；但是還沒有相同的能力來理解它生成的文字的上下文語境。這意味著 ChatGPT 有一定的概率會生成具有攻擊性或誹謗性的內容。

在網上，已經有著許多人得到了ChatGPT種族歧視的回答。例如，當ChatGPT被要求編寫一些代碼以根據某人的性別和種族評估某人是否會成為一名優秀的科學家時，ChatGPT只建議白人男性。

ChatGPT之所以出現“種族主義者”問題，劍橋大學人工智能研究員 Kanta Dihal 表示，究其原因是ChatGPT根據從公開來源（包括網站和社交媒體）獲取的數千億個單詞進行訓練的。這些文本反映了人類作者的偏見，而ChatGPT學會了復制。這個機器人沒有基本信念。

Kanta Dihal表示，雖然理論上可以過濾掉偏執的內容，但這將是非常昂貴和困難的。人們需要事先過濾所有這些數據并確保它不包含明確的種族主義內容，這是一項艱巨的任務，這使得訓練該模型的成本大大增加。況且類似的偏見可以采取微妙的形式，很難從訓練人工智能的數據中剔除。

多年來一直有關于人工智能種族主義的警告，但成果卻是寥寥無幾。最大的科技公司之一，谷歌嘗試解決，但進展不大。谷歌最終在 2020 年解雇了 Timnit Gebru，他是一名專門幫助公司解決人工智能種族主義問題的工程師。

法律上的挑戰

法律往往對于新的事物缺乏治理能力，它需要時間進行調整。AIGC行業的迅速崛起勢必會給各國法律帶來一定的挑戰。

ChatGPT依托海量數據(603138)庫信息存在，其中包括大量的互聯網用戶自行輸入的信息，因此當用戶輸入個人數據或商業秘密等信息時，ChatGPT可能將其納入自身的語料庫而產生泄露的風險。雖然ChatGPT承諾刪除所有個人身份信息，但未說明刪除方式。在其不能對信息與數據來源進行事實核查的情況下，這類信息仍然具有泄露風險。

ChatGPT能夠與其用戶共享來自其訓練數據集的個人數據。此功能意味著ChatGPT可能違反了世界上大多數國家/機構的數據保護法。

ChatGPT是個文字AIGC，實際上還有有圖片、影音AIGC等。AIGC就是利用已有的數據集進行訓練，基于這些數據生成更多的內容。網絡上有人試驗，隨機生成一個肖像，發現有一定比例生成的肖像酷似名人。

AIGC基于此前的數據集訓練，生成酷似名人的肖像再正常不過，但這就產生了一個問題，即這些生成的肖像會不會侵犯了該名人的肖像權呢？畢竟AIGC是用其肖像進行訓練，再生成類似的圖片。這就陷入了一個灰色的邊緣地帶。

近期Netflix利用AIGC生成了動畫。在未來，AIGC應用在影音、圖片等領域的比例也會越來越高，產生肖像權沖突的幾率就越來越高。

ChatGPT基于大量文本數據進行訓練，包括書籍、文章和其他書面材料。如果此訓練數據包含受版權保護的作品，那么 ChatGPT 的輸出可能會侵犯這些作品的版權。ChatGPT在生成文本時，如果使用并非公開的開源代碼、使用開源代碼商用未辦理許可證或者未按照許可證的要求實施的，可能會導致侵權。

對于一些受著作權保護的文本、視頻、代碼等，如果沒有經過權利主體的授權，直接獲取復制到自己的數據庫中，并在此基礎上修改、拼湊，極可能侵害他人的著作權。

再者，利用ChatGPT生成的內容能否成為相關人士的著作權，這些都有待法律進一步完善以及詮釋。

對教育的沖擊

2023年1月，美國北密歇根大學的哲學教授Antony Aumann在為自己任教的一門世界宗教課程評分時，看到了一篇非常好的論文，仔細一查發現是ChatGPT生成的。該論文以簡潔的段落、恰當的舉例和嚴謹的論據，探討了罩袍禁令的道德意義。

Antony Aumann教授也為此感到震驚，之后更是采取措施，讓所有學生必須在監控下且在限制上網的瀏覽器中，撰寫論文初稿。在隨后的草稿中如有改動，學生必須解釋每個改動的理由。Antony Aumann教授表示他雖然提防ChatGPT的影響，但他考慮將ChatGPT融入課程中，例如讓學生評估ChatGPT的回答。

在全美范圍內，許多大學教授都在對課堂進行大規模的調整應對ChatGPT對教學活動造成的巨大沖擊。很多教授重新設計課程，更多地采用口試、小組合作和手寫文章作為評估方式，而不是簡單利用電腦撰寫文章/論文。

如今在學校里，老師們需要仔細辨別學生是否利用了ChatGPT寫作業。在紐約和西雅圖的公立學校系統，學校的網絡和設備上已經全面禁止了ChatGPT，但“道高一尺魔高一丈”，只要學生有心仍然有辦法使用ChatGPT。

隨著時間推移，使用ChatGPT的人勢必也越來越多。如今的學生懂得利用網絡技術查找資料，但未來如果發展成利用ChatGPT來完成作業，是否會導致學生的思考、動手能力下降呢？顯然是會的。

搜索引擎的使用，我們需要逐個閱讀原文，整理過濾成自己的思想。但ChatGPT直接幫助我們整理過濾，少了中間最重要的思考步驟，可能會導致學生平均能力的下降。

教育界正在開展ChatGPT反擊戰，但教育界不可能抵制ChatGPT，而是要考慮如何在AIGC時代創造新的教育模式。