近期，小愛(ài)同學(xué)通過(guò)檢索搜索引擎信息生成的答案，抓取了猜想的答案，引發(fā)了眾多關(guān)注。人工智能有意無(wú)意地胡編亂造，被業(yè)界稱(chēng)之為的 AI 幻覺(jué)。作為營(yíng)銷(xiāo)策劃人，該如何應(yīng)對(duì)這種狀況？

在這個(gè)爆料常常被翻轉(zhuǎn)的年代，辟謠已經(jīng)將怪不怪，但是小米價(jià)格事件的翻轉(zhuǎn)還是引發(fā)眾多關(guān)注。近日，一張關(guān)于小米汽車(chē)車(chē)型價(jià)格的截圖在網(wǎng)上流傳，流出圖顯示，小米車(chē)型售價(jià) 14.99 萬(wàn)元起，最高續(xù)航達(dá)到 800 公里。不過(guò)沒(méi)多久，小米公關(guān)負(fù)責(zé)人就在微博發(fā)文辟謠。原來(lái)這是小愛(ài)同學(xué)通過(guò)檢索搜索引擎信息生成的答案，實(shí)際上，此信息是 2022 年 5 月自媒體報(bào)道的猜想信息，有人提問(wèn)小愛(ài)時(shí)，小愛(ài)同學(xué)抓取了這個(gè)猜想的信息而已。

小愛(ài)同學(xué)作為小米旗下的人工智能助手，其給的答案引發(fā)關(guān)注也不意外。確實(shí)，小愛(ài)同學(xué)辨別不了信息的真假，是無(wú)意為之。不過(guò)，這個(gè)事件讓小僧想到了人工智能有意為之的胡編亂造現(xiàn)象，這就是被業(yè)界稱(chēng)之為的 AI 幻覺(jué)。

(相關(guān)資料圖)

AI 也會(huì)幻覺(jué)？人工智能時(shí)代引發(fā)生產(chǎn)力解放的狂歡，但在這背后，過(guò)度依賴(lài)人工智能的危機(jī)似乎已經(jīng)顯現(xiàn)！

一、什么是 AI 幻覺(jué)？

你有沒(méi)有遇到過(guò) AI 工具一本正經(jīng)胡說(shuō)八道的情況？

在人工智能領(lǐng)域，AI" 幻覺(jué) "（hallucinations）通常被定義為 " 生成的內(nèi)容與提供的源內(nèi)容無(wú)意義或不可信 "。也就是當(dāng)模型出現(xiàn) " 幻覺(jué) " 時(shí)，其輸出的內(nèi)容、數(shù)據(jù)可能存在一定的欺騙性，而其所使用的訓(xùn)練數(shù)據(jù)并不能證明輸出結(jié)果的合理性。

簡(jiǎn)單來(lái)說(shuō)就是，AI 有時(shí)候會(huì)生成一些子虛烏有的人或者事，并且保持一貫的自信，這些虛假的信息具有很強(qiáng)的誤導(dǎo)性和欺騙性。

就連 OpenAI 的首席執(zhí)行官也在 Twitter 上公開(kāi)表示，"ChatGPT 確實(shí)知道很多東西，但危險(xiǎn)的是，它在相當(dāng)大的一部分時(shí)間里是自信而錯(cuò)誤的。"

不過(guò)，幻覺(jué)這個(gè)詞總給人一種 AI 具有生命力和思考能力的暗示，正因?yàn)槿绱?，隨著這一現(xiàn)象被越來(lái)越多的人關(guān)注，這個(gè)標(biāo)簽的爭(zhēng)議也越來(lái)越大。小僧以為，AI" 幻覺(jué) " 事實(shí)上是一種信息的虛構(gòu)，這種信息的虛構(gòu)是基于 AI 模型造成的，而不是 AI 的主觀思考能力或創(chuàng)造能力。

不管稱(chēng)呼如何，人工智能這種自我欺騙胡編亂造的現(xiàn)象已經(jīng)不是個(gè)例，在 AIGC 浪潮之下，AI 工具張口就來(lái)似乎成為了新時(shí)代的新常態(tài)。

二、AI 張口就來(lái)的病

AI 這種出現(xiàn)錯(cuò)誤或者偏差，導(dǎo)致生成不準(zhǔn)確、錯(cuò)誤甚至荒誕結(jié)果的現(xiàn)象，可能發(fā)生在多個(gè)層面上，如文本的胡編亂造、事實(shí)的錯(cuò)誤捏造、無(wú)用代碼的生成，甚至給你一個(gè)編造的參考文獻(xiàn)等等。

《華盛頓郵報(bào)》就報(bào)道了一位法律教授發(fā)現(xiàn) ChatGPT 將他列入了一份對(duì)某人進(jìn)行過(guò)性騷擾的法律學(xué)者名單。還有報(bào)道稱(chēng) ChatGPT 捏造一位澳大利亞市長(zhǎng)被判定犯有賄賂罪并被判處監(jiān)禁！是不是很可怕？隨著 AIGC 的興起，如果這種 AI 幻覺(jué)不得到有效解決，我們可能被各種捏造的信息裹挾。

三、AI 為什么會(huì)產(chǎn)生這種幻覺(jué)？

正如小僧上文所述，理解大型語(yǔ)言模型（LLMs）的本質(zhì)可以幫我們找到答案。大型語(yǔ)言模型的設(shè)計(jì)，是基于語(yǔ)言的 " 統(tǒng)計(jì)概率 "，這意味著 AI 完全沒(méi)有 " 現(xiàn)實(shí)世界的經(jīng)驗(yàn) "，無(wú)法有基于事實(shí)真假的判斷。所以 AI 不知道什么是正確的，什么是不正確的，只能保持與提示詞在統(tǒng)計(jì)學(xué)上的一致性。

OpenAI 的研究人員在報(bào)告中寫(xiě)道：" 即使是最先進(jìn)的人工智能模型也很容易產(chǎn)生謊言，它們?cè)诓淮_定的時(shí)刻往往表現(xiàn)出捏造事實(shí)的傾向。而這些幻覺(jué)在需要多步驟推理的領(lǐng)域尤其嚴(yán)重，因?yàn)橐粋€(gè)邏輯錯(cuò)誤就足以破壞一個(gè)更大的解決方案。"

不過(guò)，從另一個(gè)角度來(lái)看，這種幻覺(jué)恰恰又是 AI 創(chuàng)造力的表現(xiàn)。因?yàn)檎沁@種創(chuàng)造性回應(yīng)的能力使 AI 成為產(chǎn)生新想法或解開(kāi)思考瓶頸的強(qiáng)大工具，你將其用于腦暴思考、激發(fā)靈感時(shí)會(huì)很有用，但當(dāng)用作事實(shí)參考時(shí)就需要謹(jǐn)慎了。

作為營(yíng)銷(xiāo)人員，在使用這類(lèi)工具時(shí)，還是要保持謹(jǐn)慎樂(lè)觀的態(tài)度。因?yàn)槲覀儚氖碌拇罅抗ぷ魇莿?chuàng)造性或者說(shuō)是創(chuàng)意性的，AI 幻覺(jué)可以帶來(lái)更多靈感和啟發(fā)，但是還有很多工作是基于客觀事實(shí)的，這就需要進(jìn)行交叉核實(shí)或驗(yàn)證，而不是完全聽(tīng)之任之。

由此可見(jiàn)，對(duì)于 AI 工具，在效率層面確實(shí)是解放了生產(chǎn)力，但在內(nèi)容真實(shí)性層面，我們?cè)谑褂脮r(shí)，還是需要有基本的識(shí)別能力和判斷能力。說(shuō)到底，工具永遠(yuǎn)是為人所用，而不是完全替代人，是不是感覺(jué)到自己的職業(yè)穩(wěn)了？

以上希望能給你啟發(fā)。

專(zhuān)欄作家

小僧鯤鯤，微信公眾號(hào)：營(yíng)銷(xiāo)禪修院，人人都是產(chǎn)品經(jīng)理專(zhuān)欄作家。讓營(yíng)銷(xiāo)沒(méi)有難渡的劫，分享營(yíng)銷(xiāo)知識(shí)、策劃干貨和文案技巧。

本文原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可，禁止轉(zhuǎn)載。

題圖來(lái)自 unsplash，基于 CC0 協(xié)議。