.

荊楚網(wǎng)（湖北日?qǐng)?bào)網(wǎng)）主編輿情分析師 盧霜

9月26日，“三只羊”直播帶貨涉嫌虛假宣傳事件終于有了結(jié)果，三只羊被罰款沒(méi)收違法所得6894.91萬(wàn)元，并暫停經(jīng)營(yíng)限期整改。同時(shí)，此前流傳甚廣的涉“三只羊”盧某某的音視頻，被合肥市警方證實(shí)不實(shí)，相關(guān)內(nèi)容其實(shí)是利用AI工具偽造的。

此事中，相關(guān)造假音視頻給事件熱度推波助瀾，凸顯了AI新技術(shù)的發(fā)展應(yīng)用給當(dāng)前的網(wǎng)絡(luò)輿論生態(tài)帶來(lái)的新挑戰(zhàn)。

在很多人后知后覺(jué)之前，AI已經(jīng)融入了我們的生活。AI批量生產(chǎn)的圖文在各大平臺(tái)被大量瀏覽和轉(zhuǎn)發(fā)，年輕人與AI談戀愛(ài)，政務(wù)和商業(yè)服務(wù)咨詢(xún)客服引入AI進(jìn)行解答，企業(yè)招聘用AI來(lái)對(duì)面試者進(jìn)行初篩……同時(shí)，AI在家居生活、交通、醫(yī)療、教育方面的應(yīng)用也在逐步深入。但更值得關(guān)注的是，AI可能會(huì)影響我們的思想認(rèn)知。分析發(fā)現(xiàn)，AI對(duì)輿論生態(tài)的塑造和影響可能包括多方面：

其一，生成內(nèi)容可能誤導(dǎo)認(rèn)知。決定AI內(nèi)容生成的語(yǔ)料庫(kù)，也就是信息來(lái)源囊括全網(wǎng)平臺(tái)，全網(wǎng)平臺(tái)包括了權(quán)威信源，也包括了部分未經(jīng)證實(shí)的自媒體信息，因而AI聚合生成的內(nèi)容可能出現(xiàn)虛假謬誤信息，乃至價(jià)值導(dǎo)向有偏的內(nèi)容。日前，媒體曝光兒童電話(huà)手表否認(rèn)南京大屠殺存在、稱(chēng)中國(guó)人最不誠(chéng)實(shí)等事件，這些內(nèi)容實(shí)則源自AI的回答。參考消息報(bào)道稱(chēng)，ChatGPT的計(jì)算在8%的情況下是錯(cuò)誤的，它采取的按步驟解決問(wèn)題的方法在42%的情況下是錯(cuò)誤的。此外，智能推薦算法的普及應(yīng)用，可能加劇群體的信息繭房效應(yīng)，強(qiáng)化刻板印象和偏見(jiàn)。中國(guó)社會(huì)科學(xué)院發(fā)布的《青少年藍(lán)皮書(shū)：中國(guó)未成年人互聯(lián)網(wǎng)運(yùn)用報(bào)告（2024）》指出，AI技術(shù)逐漸被廣泛應(yīng)用，潛移默化地影響未成年人的認(rèn)知。

其二，助力虛假信息生成傳播。AI技術(shù)低成本批量生成細(xì)節(jié)內(nèi)容豐富、語(yǔ)言表述規(guī)范的文本，增加了內(nèi)容專(zhuān)業(yè)性和可信度，助力虛假不實(shí)的圖片和音視頻生成，增加信息的真實(shí)感，給網(wǎng)絡(luò)造謠和謠言傳播提供了技術(shù)支持。如日前湖南省互聯(lián)網(wǎng)舉報(bào)中心通報(bào)，網(wǎng)民楊某運(yùn)用AI技術(shù)將河水與楊梅果樹(shù)圖片拼接在一起，造成大雨漲水淹沒(méi)果樹(shù)的假象。逼真的畫(huà)面導(dǎo)致部分群眾信以為真，經(jīng)網(wǎng)民廣泛傳播后引發(fā)恐慌情緒。

來(lái)源：網(wǎng)信懷化

其三，灌水黑產(chǎn)防治難度增加。AI技術(shù)還對(duì)原有的灌水黑產(chǎn)有加持作用。在AI技術(shù)還沒(méi)出現(xiàn)前，因跟評(píng)內(nèi)容雷同或與主題貼近度很低，網(wǎng)絡(luò)“水軍”較容易被識(shí)別，但AI技術(shù)能低成本生成個(gè)性化、相關(guān)性高的內(nèi)容，為黑產(chǎn)公司“養(yǎng)號(hào)”打造虛假大V賬號(hào)、個(gè)性化跟評(píng)轉(zhuǎn)贊提供了便利，讓制造、操控?zé)崴训男袨楦与[蔽、更具迷惑性，也增加了平臺(tái)和有關(guān)部門(mén)監(jiān)管的難度。近日，河南省新鄉(xiāng)市公安局端掉了涉案金額達(dá)5000萬(wàn)元的特大“網(wǎng)絡(luò)水軍”犯罪團(tuán)伙，其中花5萬(wàn)元“宣傳費(fèi)”就能登上熱搜榜的現(xiàn)象背后，就有AI技術(shù)的加持。央視新聞也報(bào)道，發(fā)布“西安突發(fā)爆炸”虛假新聞的賬號(hào)所屬機(jī)構(gòu)，利用AI軟件批量造假，最高峰一天能生成4000至7000篇假新聞。

其四，內(nèi)容應(yīng)用影響信任度。AI生成的文本、視頻和圖片，因?yàn)閮?nèi)容系自動(dòng)生成，沒(méi)有花費(fèi)過(guò)多精力，而天然被認(rèn)為不夠真誠(chéng)，因?yàn)樾旁椿祀s，難以獲取輿論信任，因?yàn)閮?nèi)容大而全，顯得沒(méi)有針對(duì)性。因而，AI技術(shù)的應(yīng)用要充分考慮使用對(duì)象的角色定位和具體場(chǎng)景。類(lèi)似問(wèn)題實(shí)際上早已初現(xiàn)端倪。2024年年初，有博主反映成都愛(ài)益行公益服務(wù)中心某捐贈(zèng)項(xiàng)目的鏈接中有三張照片都是AI合成，對(duì)此，涉事慈善機(jī)構(gòu)“愛(ài)益行”聲稱(chēng)此舉是為了保護(hù)受助人的隱私。但媒體評(píng)論認(rèn)為，使用AI合成照片進(jìn)行網(wǎng)絡(luò)募捐，影響了公益慈善活動(dòng)的公信力。無(wú)獨(dú)有偶，據(jù)環(huán)球時(shí)報(bào)報(bào)道，新加坡財(cái)政部使用了AI生成的照片配文，向民眾介紹住在組屋的不同家庭如何從本年度財(cái)政預(yù)算中獲益。盡管圖片已標(biāo)明“由AI生成”，部分網(wǎng)民仍質(zhì)疑為何財(cái)政部不使用真人照片，甚至有人認(rèn)為這些圖片“看起來(lái)像詐騙廣告”。

來(lái)源：極目新聞

對(duì)此，要限定AI生成內(nèi)容的使用范圍和場(chǎng)景，尤其在一些視真實(shí)性為生命的領(lǐng)域，如新聞報(bào)道、紀(jì)錄片、學(xué)術(shù)論文等，要慎用AI生成的文字、視頻和圖片。同時(shí)，在一些關(guān)涉權(quán)威性和信任度的場(chǎng)景，也要慎重，以免引發(fā)不必要的爭(zhēng)議，乃至影響自身公信力。此外，還應(yīng)加大源頭監(jiān)管和治理，應(yīng)明確標(biāo)識(shí)AI生成痕跡，加大技術(shù)和辟謠時(shí)效，加強(qiáng)公眾AI素養(yǎng)教育。

與此同時(shí)，近日，大量低質(zhì)量、AI生成的內(nèi)容讓互聯(lián)網(wǎng)充斥垃圾信息的現(xiàn)象引發(fā)關(guān)注，AI生成的內(nèi)容不僅涉及文字、圖片、視頻、音樂(lè)、電子書(shū)、論文，甚至搜索引擎也被AI生成的內(nèi)容所污染。一些缺乏對(duì)原創(chuàng)內(nèi)容嚴(yán)格把關(guān)的平臺(tái)，后續(xù)可能因?yàn)楸籄I污染而導(dǎo)致民眾降低對(duì)其信任度，而那些連接虛擬空間和現(xiàn)實(shí)世界的工作會(huì)顯得更加稀缺和重要，諸如新聞的采訪報(bào)道、紀(jì)錄片創(chuàng)作等。當(dāng)然，這也側(cè)面啟示新聞機(jī)構(gòu)在新聞報(bào)道和發(fā)布工作中要持續(xù)重視對(duì)內(nèi)容真實(shí)性審核的環(huán)節(jié)。

專(zhuān)題 東湖觀輿