“半藏森林克隆人”剛出現(xiàn)不久，就被暫時下線了。

據(jù)揚(yáng)子晚報(bào)報(bào)道，6月5日，有網(wǎng)友發(fā)現(xiàn)北京紅棉小冰科技有限公司（下稱“小冰公司”）推出的虛擬人類娛樂平臺X Eva APP中，上線不久的網(wǎng)紅“半藏森林”等AI克隆人疑似被下架。

(資料圖)

小冰公司對外回應(yīng)稱，“半藏森林”克隆人目前還在內(nèi)測，內(nèi)測名額已滿，所以先下線了。目前在進(jìn)行調(diào)整，其他虛擬人暫時也還不可見。

此前，“半藏森林克隆人一年收入可高達(dá)72萬”的話題曾引發(fā)網(wǎng)友關(guān)注。據(jù)財(cái)經(jīng)網(wǎng)報(bào)道，“目前不付費(fèi)可以互動，付費(fèi)可以看朋友圈、打視頻電話。兩種付費(fèi)模式月費(fèi)分別是6元/30元、年費(fèi)72元/360元”，以半藏森林為例，如果有1萬個情感模式付費(fèi)用戶，相當(dāng)于半藏森林克隆人一年收入72萬元；如果有1萬個超級模式付費(fèi)用戶，一年則可實(shí)現(xiàn)收入360萬元。

半藏森林克隆人的出現(xiàn)及其變現(xiàn)模式也引發(fā)了網(wǎng)友們的探討。“虛擬人技術(shù)未來前景廣闊，但市面上的AI技術(shù)成熟度不高，導(dǎo)致虛擬人物智商普遍不高，應(yīng)用場景有限，大大限制了自身發(fā)展。要判斷小冰克隆人商業(yè)模式是否可行，目前還為時過早。”6月5日，深度科技研究院院長張孝榮告訴時代周報(bào)記者。

此外，也有部分網(wǎng)友對該平臺和AI克隆人是否會侵犯用戶隱私，帶來安全隱患等問題感到擔(dān)心。

為了解相關(guān)情況，6月6日，時代周報(bào)記者向小冰公司發(fā)送采訪提綱，截至發(fā)稿未獲回復(fù)。

網(wǎng)紅吸金新手段？

網(wǎng)紅明星利用AI克隆人形象賺錢，這種變現(xiàn)方式著實(shí)超出了不少人的想象。

據(jù)北京商報(bào)報(bào)道，AI半藏森林上線的信息出現(xiàn)在該APP首頁發(fā)現(xiàn)欄目，和半藏森林克隆人互動時，對方可通過語音、文字形式回復(fù)。聊天界面上方設(shè)有增值服務(wù)入口，點(diǎn)擊立即解鎖，可體驗(yàn)更多互動形式。

而半藏森林AI克隆人有兩種付費(fèi)模式，情感模式需支付6元/月或72元/年，用戶能享受克隆人語音消息回應(yīng)、同步克隆人朋友圈；超級模式支需付30元/月或360元/年，克隆人會為用戶提供撰寫文案等服務(wù)，還能進(jìn)行視頻通話。在此前的體驗(yàn)階段，超級模式暫未上線。

（圖源：半藏森林新浪微博）

半藏森林AI克隆人的出現(xiàn)，與小冰公司推出的“克隆人計(jì)劃”有關(guān)。

“小冰公司的‘克隆人計(jì)劃’最短只需個人采集三分鐘數(shù)據(jù)，即可為明星紅人、專家學(xué)者或普通人創(chuàng)造源于本人性格、技能、聲音、外貌的AI克隆人，并提供專有平臺，以便于本人將認(rèn)證克隆人有償或無償提供給自己的受眾。”AI小冰微信公眾號在今年6月1日發(fā)布的文章中稱，克隆人基于小冰框架大模型、神經(jīng)網(wǎng)絡(luò)渲染及超級自然語音技術(shù)，可實(shí)時情感交互及提供AIGC能力，甚至有自己的朋友圈，如同人類在平行世界的第二人生。

事實(shí)上，半藏森林并非第一個擁有自己AI形象的網(wǎng)紅。Caryn Marjorie是一位23歲的美國網(wǎng)紅，擁有超180萬的Snapchat粉絲，她用OpenAI的技術(shù)創(chuàng)建了一個人工智能版本的自己CarynAI，每分鐘收費(fèi)1美元。而CarynAI曾在一周的測試期內(nèi)收入約7.2萬美元，折合人民幣近50萬元。

AI將為網(wǎng)紅提供一種新的“吸金”方式。據(jù)北京商報(bào)報(bào)道，半藏森林與小冰公司是分成模式，本人拿大頭。時代周報(bào)記者注意到，目前，半藏森林在新浪微博擁有262.7萬個粉絲，若按每人每月充值6元開通情感模式計(jì)算，則可帶來收入1576.2萬元/月。

（圖源：半藏森林新浪微博）

CarynAI、半藏森林AI克隆人的出現(xiàn)，背后是人工智能技術(shù)的不斷革新。

CarynAI由Caryn Marjorie與Forever Voice公司合作推出，利用OpenAI開發(fā)的GPT-4 API技術(shù)，復(fù)制了Caryn Marjorie的聲音、舉止和個性。

而推出了半藏森林AI克隆人的X Eva App底層使用的技術(shù)包括小冰XLLM語言模型、聲音及神經(jīng)網(wǎng)絡(luò)渲染技術(shù)等，共計(jì)約1000余個有機(jī)組合的模型。

AI克隆人安全嗎？

在AI克隆人等類似產(chǎn)品出現(xiàn)前，由美國科技公司OpenAI推出的人工智能聊天機(jī)器人程序ChatGPT引爆網(wǎng)絡(luò)，在互聯(lián)網(wǎng)行業(yè)掀起巨大熱潮。

如今，半藏森林AI克隆人能否如ChatGPT般火爆？

張孝榮認(rèn)為半藏森林AI克隆人要達(dá)到ChatGPT的火爆程度存在一定難度。

“‘GPT克隆人計(jì)劃’并非基于GPT大模型，而是基于小冰框架模型，兩者技術(shù)路線不同，訓(xùn)練數(shù)據(jù)不同，背后所需要的算力和算法也不一樣，因此生成的AI機(jī)器人體驗(yàn)必然會有差異。”6月5日，張孝榮向時代周報(bào)記者表示。

而AI克隆人的出現(xiàn)，也讓部分網(wǎng)友不禁對其安全性產(chǎn)生擔(dān)憂。近年來，隨著人工智能技術(shù)的發(fā)展，AI熱潮席卷多個領(lǐng)域，AI詐騙也已出現(xiàn)引發(fā)社會關(guān)注。

福建福州某科技公司法人代表郭先生接到了由AI換臉技術(shù)合成的“好友”的微信視頻電話后向?qū)Ψ睫D(zhuǎn)賬，被騙430萬元；安徽安慶的何先生在接到一個9秒的“熟人”視頻電話后向?qū)Ψ睫D(zhuǎn)賬，結(jié)果被騙，所幸警方抓獲了3名涉詐嫌疑人，追回了他被騙的132萬元。

AI克隆人是否會產(chǎn)生此類安全風(fēng)險？在AI小冰微信公眾號發(fā)布的文章中，小冰團(tuán)隊(duì)表示，為避免克隆人帶來安全隱患或被濫用，團(tuán)隊(duì)采用了最高的安全標(biāo)準(zhǔn)。

在訓(xùn)練數(shù)據(jù)方面，僅使用本人小樣本數(shù)據(jù)，并在訓(xùn)練后清除，從而避免過多采集本人數(shù)據(jù)及濫用；在技術(shù)運(yùn)用方面，使用經(jīng)小冰團(tuán)隊(duì)長期驗(yàn)證的技術(shù)，例如安全的混合模型，而非單純的大模型，從而確保技術(shù)邊界已知；在使用場景方面，嚴(yán)格限制克隆人在特定產(chǎn)品（X Eva APP）中，而非將技術(shù)接口API開放，從而避免克隆人被不當(dāng)使用；在本人對克隆人的控制方面，提供便利以使本人可隨時中止其克隆人。

“此外，全部C端或B端用戶均須提交本人權(quán)屬證明方可實(shí)施，以避免數(shù)據(jù)的侵權(quán)或不當(dāng)使用。”AI小冰微信公眾號發(fā)布的文章中稱。

“‘（AI）克隆人’屬于新生事物，其技術(shù)核心還是依靠目前的生成式人工智能技術(shù)。關(guān)于‘克隆人’產(chǎn)品的未來發(fā)展，關(guān)鍵在于需要符合監(jiān)管方向。”6月5日，北京市京師律師事務(wù)所合伙人、主任律師盧鼎亮向時代周報(bào)記者表示。

今年4月11日，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》。盧鼎亮認(rèn)為，從征求意見稿來看，網(wǎng)信辦對生成式人工智能服務(wù)行業(yè)的健康發(fā)展持鼓勵支持態(tài)度，同時鼓勵優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。

“如果《生成式人工智能服務(wù)管理辦法（征求意見稿）》生效，AI克隆人的產(chǎn)品或服務(wù)必然會持續(xù)發(fā)展。”盧鼎亮表示，在發(fā)展的過程中，還需要符合監(jiān)管思路，克隆人服務(wù)提供商、用戶等主體在使用訓(xùn)練數(shù)據(jù)、使用產(chǎn)品、保護(hù)數(shù)據(jù)安全和隱私、防止法律風(fēng)險和重大道德以及輿論風(fēng)險、防止不正當(dāng)競爭等方面都需要注意合規(guī)風(fēng)險。