【TechWeb】2月22日消息，在B站，有up主分享了自己用ChatGPT耗時僅僅半個小時寫成的本科論文，順利通過國內某查重網站檢查，查重率不到9%。但是卻也發現，ChatGPT所寫論文中“言之鑿鑿”列舉出的參考文獻居然大多都是“編造”的、根本不存在的文獻。

根據國外Study.com網站在今年1月向1000名18歲以上學生發起的調查顯示，48%的學生用ChatGPT完成小測驗，53%的學生用ChatGPT寫論文。

【資料圖】

ChatGPT在撰寫格式論文、通過專業考試等領域的驚艷表現，讓學生們歡呼雀躍的同時，也讓高校、研究機構等率先擔憂和警惕起來，“反ChatGPT”在學術圈率先成為一股新趨勢。

近日，香港大學向師生發出內部郵件，表明禁止在港大所有課堂、作業和評估中使用ChatGPT或其他AI工具。如教師懷疑學生使用ChatGPT或其他AI工具，可要求學生就其作業進行討論、進行額外口試及考試等措施。

上周，《暨南學報(哲學社會科學版)》、《天津師范大學學報(基礎教育版)》發布聲明，提出暫不接受任何大型語言模型工具(例如：ChatGPT)單獨或聯合署名的文章。

在美國和歐洲，更多高校和學術期刊等對ChatGPT的封殺通知出得更早一些。

但是，單純提出“封殺ChatGPT”就能杜絕論文抄襲和剽竊了嗎？

此前大熱的“AI換臉”應用曾催生出一批“反AI換臉”的鑒別工具。現在，鑒別是否ChatGPT生成的論文，是否有可行的方法呢？

聚焦在針對合成音視頻的鑒別技術研發的瑞萊智慧（RealAI），其副總裁唐家渝向TechWeb表示，目前鑒別ChatGPT生成物的難點在于，機器與人類撰寫的文本差異性特征較少，機器合成文本的結果無論從結構和語義角度都能較好地遵循人類書寫的規則，同時一個真人說話的方式也可能是多變的、結構有誤的，因此很難單純從文本本身就鑒別出是否由ChatGPT生成。目前，RealAI針對合成文本的鑒別能力已在建設中，近期會有demo推出。

數字水印用來“反ChatGPT”是一廂情愿

在“反ChatGPT”的技術流中，數字水印技術一度被熱炒。但是數字水印真能用來反ChatGPT嗎？

數字水印是一種可以用于保護文本、圖像、音頻和視頻等數字內容不受未經授權的復制和分發的技術。數字水印可以將一些隱蔽的標識信息嵌入到數字內容中，這些標識信息通常不會對數字內容本身造成影響，但可以幫助鑒別數字內容的真實來源和版權信息。

人們對用數字水印反ChatGPT有兩種想象。

一種是，對ChatGPT生成的內容打上數字水印，以標明這些內容是ChatGPT所寫，實現反ChatGPT。但這需要ChatGPT等AI內容生成公司的配合，也就是他們愿意這么做。

ChatGPT的開發商Open AI此前曾表示在考慮通過對AI系統生成的內容加水印的方法來輔助辨別文本是否出自AI。不過截止目前并沒有看到Open AI采取該項行動。

就算AI內容生成企業愿意在生成的內容中加入數字水印，但在相關行業專家看來，數字水印只是一個技術手段，不能解決所有的抄襲問題。有些人可能會使用各種方法來刪除數字水印，或者通過改變一些單詞或句子的順序來規避數字水印的檢測。

AI生成內容通常是基于大量的訓練數據和模型參數生成的。用數字水印反ChatGPT的另一種想象是，把內容打上數字水印標明版權身份，避免被ChatGPT等AI模型用于訓練，從而防止被模仿和抄襲。

但是這種想法多少有點一廂情愿。數字水印并不能完全保證內容不會被用于訓練模型。一些不法分子可能會使用各種技術手段來嘗試刪除數字水印，或者通過對文章進行修改來繞過數字水印的檢測。此外，一些不道德的人也可能會無視數字水印，盜用版權內容作為訓練數據。

“反ChatGPT”這些“神器”或可一用

目前用于檢測文章是否由AI生成的工具全球有幾款，包括：

OpenAI GPT-3 Playground：由OpenAI開發的一個在線應用程序，用于測試和探索人工智能語言模型GPT-3的功能。在這個應用程序中，可以輸入一些文本，并由GPT-3模型自動生成下一句話或者完整的文章。這個應用程序也可以用來測試一篇文章是否是由GPT-3等語言模型生成的。

Grover：由Allen Institute for Artificial Intelligence開發的一個用于檢測虛假新聞和偽造的文章的工具。Grover可以分析一篇文章的語言風格和結構，并嘗試區分由人類和人工智能生成的文章。這個工具還可以識別一些常見的偽造手段和技巧。

AI21 Writer’s Studio：AI21 Labs開發的一個在線寫作工具，可以為用戶提供自動建議和編輯服務，幫助他們寫出更加流暢和準確的文章。這個工具也可以用于檢測一篇文章是否是由人工智能生成的。

Botometer：由Indiana University和University of Southern California聯合開發的一個Twitter機器人檢測工具。Botometer可以分析一個Twitter賬號的活動和行為，判斷其是否是由一個真實的用戶或者一個自動化機器人管理的。

上述這些工具都可以用于檢測一篇文章或論文是否由人工智能生成的，但是需要注意的是，它們都不是百分之百準確的。

因此，在評估一篇文章或論文是否AI所寫時，最好結合多種方法和技巧，進行綜合分析和判斷。

以ChatGPT為例，唐家渝向TechWeb提到，“辯別“ChatGPT”生成物一是利用好查重機制和技術，防止ChatGPT通過改寫、總結等方式生成學術文章；二是從內容本身來說，ChatGPT目前還不能完全保證學術文章的邏輯嚴謹、主題一致，可以從語義層面加以辨別。”

另外，從B站up主分享的ChatGPT寫出的本科論文的情況來看，檢查文章的來源和背景，如果這篇論文來自一個未知或者不可信的來源，就需要更加謹慎地對它進行評估了。

關于ChatGPT可能引發的論文抄襲現象，前新東方在線 COO潘欣則認為“這種擔憂基本不需要。”“沒有 ChatGPT 的時候就沒有抄論文、抄作業的了嗎？可以信一點就行了，能用技術導致出現的問題，一定可以靠技術+行政手段解決掉。”

在學生黨看來，用ChatGPT寫論文，里面數據，論據甚至引用的文獻都是瞎編的，建議讓ChatGPT做些輔助工作就好，比如給論文大綱或大致方向的建議等。

也有學生認為需要自律，“反ChatGPT軟件陸續上線，算法只會越來越完善，就算現在蒙混過關過關，但被查出來只是時間問題。”