“AI制造”充斥互聯(lián)網(wǎng)，連“真人小姐姐”也可以批量生成。隨著生成式人工智能的爆發(fā)，一個(gè)可怕的現(xiàn)象出現(xiàn)：AI正在污染整個(gè)互聯(lián)網(wǎng)。

知乎成為生成無(wú)腦答案的重災(zāi)區(qū)，這些內(nèi)容描述簡(jiǎn)短、概括性十足，細(xì)看邏輯混亂、錯(cuò)誤百出。打開(kāi)今日頭條，用ChatGPT生成的虛假新聞，內(nèi)容聳人聽(tīng)聞，足夠博人眼球。

AI加持下，虛假、無(wú)意義、同質(zhì)化的內(nèi)容呈指數(shù)級(jí)增長(zhǎng)，獲得大量曝光。萊斯大學(xué)和斯坦福大學(xué)的科學(xué)家研究發(fā)現(xiàn)，這些低質(zhì)、同質(zhì)化、未經(jīng)證實(shí)的“AI語(yǔ)言”如果不加以甄別，進(jìn)一步被抓取作為訓(xùn)練AI的語(yǔ)料，AI大模型將會(huì)走向崩潰。

(資料圖片)

AIGC“垃圾”泛濫內(nèi)容平臺(tái)成重災(zāi)區(qū)

生成式AI越來(lái)越低成本化，伴生而來(lái)的是AI生成信息的“垃圾網(wǎng)站”。

外媒NewsGuard 發(fā)布相關(guān)數(shù)據(jù)報(bào)告稱(chēng),目前已經(jīng)追蹤到了大約277個(gè)且還在不斷增加的“垃圾網(wǎng)站”，這些網(wǎng)站生產(chǎn)了大量標(biāo)題誘餌以?xún)?yōu)化廣告收入。

類(lèi)似的情況也發(fā)生在國(guó)內(nèi)，表現(xiàn)形式是AI生成的低質(zhì)內(nèi)容。

“中文互聯(lián)網(wǎng)高質(zhì)量的問(wèn)答社區(qū)和創(chuàng)作者聚集的原創(chuàng)內(nèi)容平臺(tái)”知乎，如今成了AI無(wú)腦答案的重災(zāi)區(qū)，不少答主的內(nèi)容呈現(xiàn)明顯的“GPT風(fēng)”，機(jī)器翻譯的文字感、混亂的邏輯撲面而來(lái)，有時(shí)還會(huì)出現(xiàn)事實(shí)錯(cuò)誤，特別是在金融、醫(yī)學(xué)等專(zhuān)業(yè)領(lǐng)域，沒(méi)有經(jīng)驗(yàn)的人群很容易被誤導(dǎo)。

知乎上的“片兒湯話”答案

有知乎用戶使用AI每隔一兩分鐘就可以輸出一條幾百字的回答。盡管已經(jīng)被禁言，但其產(chǎn)生的錯(cuò)誤信息依然遺留在互聯(lián)網(wǎng)中。如果你足夠細(xì)心，你會(huì)發(fā)現(xiàn)，自帶AI問(wèn)答功能的搜索引擎Bing在中文世界經(jīng)常會(huì)引用知乎的內(nèi)容。一些生成后就從未過(guò)人工核查的錯(cuò)誤答案 被Bing AI抓取，造成低質(zhì)的中文信息蔓延。

AI對(duì)互聯(lián)網(wǎng)內(nèi)容的侵蝕不僅限于文字。在小紅書(shū)、淘寶、抖音上，越來(lái)越多的“AI真人美女”的圖片和視頻被批量生產(chǎn)，還有大批“AI攝影”類(lèi)賬號(hào)的出現(xiàn)。

“AI美女”造就新一代網(wǎng)紅臉?????

AI魔法棒一揮，制作成本低、效率高的“AI美女”一時(shí)間成為電商眼中的香餑餑，AI模特、AI主播頻頻出現(xiàn)。“她們”足夠吸睛，但也千篇一律，“網(wǎng)紅臉”的隊(duì)伍里又增加一類(lèi)AI面孔。

如果只是用AIGC制造美圖供人評(píng)鑒、學(xué)習(xí)倒也還好，但AI生圖工具產(chǎn)生的內(nèi)容開(kāi)始侵犯直接與人們生活相關(guān)的領(lǐng)域。

淘寶上，有商家直接用AI生成圖來(lái)取代商品實(shí)物圖，一張由Midjourney生成的卡通少女圖，被商家打上“綠色襯衫”的標(biāo)簽，售價(jià)218元。與之風(fēng)格相似甚至完全相同的AI生成圖，在網(wǎng)上隨手就可以找到。利用Midjourney的墊圖功能，任何人都可以自己生成無(wú)數(shù)仿照?qǐng)D，與賣(mài)家秀相差甚遠(yuǎn)的買(mǎi)家秀將再添槽點(diǎn)。

淘寶商家用AIGC網(wǎng)圖（右）描述商品

在中文互聯(lián)網(wǎng)，AI大有無(wú)孔不入之勢(shì)，專(zhuān)門(mén)教人如何用“AI寫(xiě)文賺錢(qián)”的課程層出不窮，賣(mài)課人號(hào)稱(chēng)“一套教學(xué)視頻跟萬(wàn)能模板，直接套用”。AI話題營(yíng)造出的失業(yè)焦慮中，該類(lèi)課程受到追捧，曾有人通過(guò)賣(mài)課月入百萬(wàn)。

如今，學(xué)會(huì)了使用AI工具的人，將AI生成的內(nèi)容上傳到知乎、今日頭條或者小紅書(shū)上，吸引了流量，但也制造了不少低質(zhì)量、同質(zhì)化甚至信息虛假的內(nèi)容垃圾。

那么，這種AIGC內(nèi)容“垃圾”會(huì)產(chǎn)生危害嗎？

靠AI識(shí)別真假 技術(shù)還不行

泛濫的AIGC內(nèi)容加速污染互聯(lián)網(wǎng)環(huán)境，除了影響人類(lèi)獲取有效信息的效率外，產(chǎn)出它們的工具“大語(yǔ)言模型”也會(huì)走向崩潰的邊緣。

萊斯大學(xué)和斯坦福大學(xué)的科學(xué)家研究證明，將人工智能生成的內(nèi)容輸入人工智能模型，會(huì)導(dǎo)致輸出質(zhì)量下跌。

研究人員將這一現(xiàn)象解釋為“模型自噬障礙”（MAD），即如果AI 只學(xué)習(xí)其他 AI 生成的內(nèi)容，在經(jīng)過(guò)幾代訓(xùn)練后，AI 將輸出無(wú)意義的垃圾信息，最終走向“模型崩潰”這一結(jié)果。 研究人員表示，對(duì)于大語(yǔ)言模型而言，“數(shù)據(jù)清潔”十分重要。

“世界正在奔向一個(gè)未來(lái)：生成式AI的爆發(fā)，導(dǎo)致了互聯(lián)網(wǎng)上的合成數(shù)據(jù)很快就會(huì)超過(guò)真實(shí)數(shù)據(jù)?！卑凑昭芯空叩恼f(shuō)法，區(qū)分合成數(shù)據(jù)與真實(shí)數(shù)據(jù)，無(wú)論對(duì)人類(lèi)本身還是大模型發(fā)展都變得勢(shì)在必行。

最近，中國(guó)首個(gè)AIGC監(jiān)管文件《生成式人工智能服務(wù)管理暫行辦法》落地，該《辦法》明確指出AIGC服務(wù)提供者要“增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性和多樣性”。

生成式人工智能服務(wù)者有義務(wù)保證數(shù)據(jù)質(zhì)量

在《辦法》的指導(dǎo)下，國(guó)內(nèi)的內(nèi)容平臺(tái)也推出針對(duì)AI生成內(nèi)容的管理措施，知乎、抖音、小紅書(shū)等平臺(tái)均已發(fā)布有關(guān)AIGC內(nèi)容的規(guī)定。

《抖音關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議》稱(chēng)，針對(duì)人工智能生成的視頻、圖片和衍生的虛擬人直播，發(fā)布者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，幫助其他用戶區(qū)分虛擬與現(xiàn)實(shí)，特別是易混淆場(chǎng)景。該《倡議》提到，平臺(tái)提供統(tǒng)一的人工智能生成內(nèi)容標(biāo)識(shí)能力，幫助創(chuàng)作者打標(biāo)，方便用戶區(qū)分。同時(shí)，平臺(tái)提供用戶反饋渠道，方便用戶反饋違規(guī)的生成內(nèi)容。

知乎也發(fā)布了《關(guān)于應(yīng)用AIGC 能力進(jìn)行輔助創(chuàng)作的社區(qū)公告》，公告顯示，如果創(chuàng)作者發(fā)布AIGC生成的內(nèi)容時(shí)，沒(méi)有主動(dòng)使用“包含AI輔助創(chuàng)作”的標(biāo)簽進(jìn)行聲明，平臺(tái)會(huì)添加相關(guān)標(biāo)識(shí)并限流，同時(shí)鼓勵(lì)知友對(duì)利用AIGC技術(shù)，擾亂社區(qū)秩序的內(nèi)容和賬號(hào)進(jìn)行舉報(bào)，舉報(bào)類(lèi)型里新增了“AI生成內(nèi)容”的選項(xiàng)。

規(guī)則出現(xiàn)了，但在實(shí)操中出現(xiàn)了Bug。

知乎用戶反饋原創(chuàng)內(nèi)容被誤判為AI生成

知乎創(chuàng)作者們對(duì)平臺(tái)“打標(biāo)簽”（審核）的能力表示質(zhì)疑。有用戶反饋，自己原創(chuàng)的內(nèi)容被當(dāng)成了AI創(chuàng)作打了AI標(biāo)記，甚至有人因此被禁言。

這種“誤判”現(xiàn)象背后又隱藏了一個(gè)細(xì)思極恐的問(wèn)題。假如平臺(tái)采用機(jī)器來(lái)識(shí)別AI，機(jī)器對(duì)同類(lèi)的“寬容度”或許會(huì)很高，讓計(jì)算機(jī)還無(wú)法精準(zhǔn)識(shí)別出AI犯的錯(cuò)誤。

最近，OpenAI推出的AI文本識(shí)別工具 AI-Text-Classifier就因準(zhǔn)確率太低而被官方下架。DetectGPT、GPTZero 等 AI 生成檢測(cè)工具的失誤率也都高得驚人。

隨著AIGC技術(shù)不斷迭代升級(jí)，AI生成內(nèi)容將越來(lái)越具備迷惑性，想通過(guò)AI識(shí)別工具遏制AI內(nèi)容垃圾的滋生，從技術(shù)成果上看成功率還不高。

看來(lái)，在充滿人工智能的未來(lái)，“人工”有多強(qiáng)大，“智能”才有多強(qiáng)大。在AIGC的巨大沖擊下，如何不被內(nèi)容垃圾裹挾、實(shí)現(xiàn)人工與智能的良性共進(jìn)將成為AI下一階段發(fā)展的重要挑戰(zhàn)。

關(guān)鍵詞：