.

荊楚網（湖北日報網）主編輿情分析師 盧霜

9月26日，“三只羊”直播帶貨涉嫌虛假宣傳事件終于有了結果，三只羊被罰款沒收違法所得6894.91萬元，并暫停經營限期整改。同時，此前流傳甚廣的涉“三只羊”盧某某的音視頻，被合肥市警方證實不實，相關內容其實是利用AI工具偽造的。

此事中，相關造假音視頻給事件熱度推波助瀾，凸顯了AI新技術的發(fā)展應用給當前的網絡輿論生態(tài)帶來的新挑戰(zhàn)。

在很多人后知后覺之前，AI已經融入了我們的生活。AI批量生產的圖文在各大平臺被大量瀏覽和轉發(fā)，年輕人與AI談戀愛，政務和商業(yè)服務咨詢客服引入AI進行解答，企業(yè)招聘用AI來對面試者進行初篩……同時，AI在家居生活、交通、醫(yī)療、教育方面的應用也在逐步深入。但更值得關注的是，AI可能會影響我們的思想認知。分析發(fā)現，AI對輿論生態(tài)的塑造和影響可能包括多方面：

其一，生成內容可能誤導認知。決定AI內容生成的語料庫，也就是信息來源囊括全網平臺，全網平臺包括了權威信源，也包括了部分未經證實的自媒體信息，因而AI聚合生成的內容可能出現虛假謬誤信息，乃至價值導向有偏的內容。日前，媒體曝光兒童電話手表否認南京大屠殺存在、稱中國人最不誠實等事件，這些內容實則源自AI的回答。參考消息報道稱，ChatGPT的計算在8%的情況下是錯誤的，它采取的按步驟解決問題的方法在42%的情況下是錯誤的。此外，智能推薦算法的普及應用，可能加劇群體的信息繭房效應，強化刻板印象和偏見。中國社會科學院發(fā)布的《青少年藍皮書：中國未成年人互聯網運用報告（2024）》指出，AI技術逐漸被廣泛應用，潛移默化地影響未成年人的認知。

其二，助力虛假信息生成傳播。AI技術低成本批量生成細節(jié)內容豐富、語言表述規(guī)范的文本，增加了內容專業(yè)性和可信度，助力虛假不實的圖片和音視頻生成，增加信息的真實感，給網絡造謠和謠言傳播提供了技術支持。如日前湖南省互聯網舉報中心通報，網民楊某運用AI技術將河水與楊梅果樹圖片拼接在一起，造成大雨漲水淹沒果樹的假象。逼真的畫面導致部分群眾信以為真，經網民廣泛傳播后引發(fā)恐慌情緒。

來源：網信懷化

其三，灌水黑產防治難度增加。AI技術還對原有的灌水黑產有加持作用。在AI技術還沒出現前，因跟評內容雷同或與主題貼近度很低，網絡“水軍”較容易被識別，但AI技術能低成本生成個性化、相關性高的內容，為黑產公司“養(yǎng)號”打造虛假大V賬號、個性化跟評轉贊提供了便利，讓制造、操控熱搜的行為更加隱蔽、更具迷惑性，也增加了平臺和有關部門監(jiān)管的難度。近日，河南省新鄉(xiāng)市公安局端掉了涉案金額達5000萬元的特大“網絡水軍”犯罪團伙，其中花5萬元“宣傳費”就能登上熱搜榜的現象背后，就有AI技術的加持。央視新聞也報道，發(fā)布“西安突發(fā)爆炸”虛假新聞的賬號所屬機構，利用AI軟件批量造假，最高峰一天能生成4000至7000篇假新聞。

其四，內容應用影響信任度。AI生成的文本、視頻和圖片，因為內容系自動生成，沒有花費過多精力，而天然被認為不夠真誠，因為信源混雜，難以獲取輿論信任，因為內容大而全，顯得沒有針對性。因而，AI技術的應用要充分考慮使用對象的角色定位和具體場景。類似問題實際上早已初現端倪。2024年年初，有博主反映成都愛益行公益服務中心某捐贈項目的鏈接中有三張照片都是AI合成，對此，涉事慈善機構“愛益行”聲稱此舉是為了保護受助人的隱私。但媒體評論認為，使用AI合成照片進行網絡募捐，影響了公益慈善活動的公信力。無獨有偶，據環(huán)球時報報道，新加坡財政部使用了AI生成的照片配文，向民眾介紹住在組屋的不同家庭如何從本年度財政預算中獲益。盡管圖片已標明“由AI生成”，部分網民仍質疑為何財政部不使用真人照片，甚至有人認為這些圖片“看起來像詐騙廣告”。

來源：極目新聞

對此，要限定AI生成內容的使用范圍和場景，尤其在一些視真實性為生命的領域，如新聞報道、紀錄片、學術論文等，要慎用AI生成的文字、視頻和圖片。同時，在一些關涉權威性和信任度的場景，也要慎重，以免引發(fā)不必要的爭議，乃至影響自身公信力。此外，還應加大源頭監(jiān)管和治理，應明確標識AI生成痕跡，加大技術和辟謠時效，加強公眾AI素養(yǎng)教育。

與此同時，近日，大量低質量、AI生成的內容讓互聯網充斥垃圾信息的現象引發(fā)關注，AI生成的內容不僅涉及文字、圖片、視頻、音樂、電子書、論文，甚至搜索引擎也被AI生成的內容所污染。一些缺乏對原創(chuàng)內容嚴格把關的平臺，后續(xù)可能因為被AI污染而導致民眾降低對其信任度，而那些連接虛擬空間和現實世界的工作會顯得更加稀缺和重要，諸如新聞的采訪報道、紀錄片創(chuàng)作等。當然，這也側面啟示新聞機構在新聞報道和發(fā)布工作中要持續(xù)重視對內容真實性審核的環(huán)節(jié)。

專題 東湖觀輿