本文轉自【上海網路辟謠】；
最近，有粉絲向上海辟謠平台舉報，稱圈群中有人傳播「上海退休教授靠陽台核電池供電」假訊息，希望公開辟謠。上海辟謠平台調查發現，相關訊息大機率是造謠者用AI技術編寫、制圖並剪輯視訊。在傳播者中，除了受誤導的網民，還有一些別有用心的傳謠者，他們透過續寫、點評等方式擴大謠言負面效應。
互聯網上，「上海退休教授靠陽台核電池供電」的謠言主要有兩個版本，一個是圈群傳播的一張文字螢幕擷取，另一個短視訊平台上的各種視訊。根據文字螢幕擷取內容，該事件的起源是一條42秒的短視訊。
然而，在文字螢幕擷取提到的短視訊平台上，記者沒有找到「老教授介紹核發電」的短視訊，但同主題的短視訊有不少，主要分成兩類：一類看似「真人出鏡」，但稍加檢視就可發現，其實是用AI生成的圖片剪輯而成，有的短視訊上還帶有「疑似使用了AI生成技術，請謹慎甄別」的提示。
短視訊平台的「真人演繹」，是AI生成的
短視訊平台AI生成的視訊中，很多細節都暴露出它們是假的
另一類看似是「陽台核發電原理分析」，但視訊素材要麽是AI生成的圖片，要麽是與核工業、科研相關的圖片，沒有一個鏡頭真正記錄了「老教授家的核發電機」。
而且，這兩類短視訊所配的文字與圈群傳播的文字螢幕擷取基本一致，只不過有一部份采用了AI配音，聽起來好像是人聲播報或介紹。
也就是說，文字螢幕擷取與短視訊構成了「雞生蛋」「蛋生雞」的關系—— 文字螢幕擷取稱討論內容來自短視訊，短視訊的內容又參照了文字螢幕擷取，但兩個版本中都沒有真人真物 。
謠言更多的漏洞可以從文字螢幕擷取中找到。例如，文字螢幕擷取稱「中核集團」對該事件釋出了聲明、「國家電網官微」也發出了警告。可是，查遍中核集團、國家電網的各個官方釋出渠道，都找不到任何與該事件相關的資訊。
再如，文字螢幕擷取稱「平安產險推出‘核能家財險’」。但經查詢比對，平安家財險並沒有類似的保險內容；涉及核能的保險產品僅與核工業生產相關，與家庭財產無關。
以上核查結果顯示，這條「上海退休教授靠陽台核電池供電」的資訊看似圖文並茂、細節充分，卻沒有一張圖片、一個細節經得起推敲核查。再從行文風格看，大機率是造謠者利用AI大模型生成。
然而，就是這樣一條幾乎「一眼假」的資訊，卻引發了更多自媒體的狂歡。
在社交平台和短視訊平台，出現了大量以此為基礎的「二創」作品，不同自媒體進行了五花八門的點評。而且，部份自媒體明知信源有假，特意在短視訊上打上「內容來源於網路」的標簽，似乎就此撇清責任。
部份蹭熱點的自媒體聲明「內容來源於網路」，欲蓋彌彰
可是，基於壓根就不存在的事件進行點評傳播，真的就沒有責任嗎？
翻看這類自媒體此前的作品，不難洞察他們的真實意圖——只要是熱點話題，就能見到他們的身影，有的還自封「**觀察員」。根本目的無非是緊抓熱點話題，以此作為噱頭，瘋狂地蹭熱度，從而博取大眾眼球。
更要提高警惕的是，部份自媒體在進行「二創」時，除了誇大虛假內容，還增加了具有挑撥性的語句和內容，試圖以此撩撥網民情緒。他們不再滿足於追求帳號的熱度與流量，還暗藏了不可告人的企圖。
所以，並不存在的「上海退休教授靠陽台核電池供電」一事，不僅提醒網民在AI時代要擦亮眼睛，不被所謂的細節和圖片所迷惑；也是給平台敲響警鐘：既要管控原生謠言，更要對基於謠言的「二創」內容強化管理。
【記者手記】
在資訊傳播的領域中，一直流傳著這麽一句話，「造謠張張嘴，辟謠跑斷腿」。到了當下 AI 時代，這樣的現象愈發凸顯，造謠變得前所未有的「簡單」——如今，很多大模型功能強大得超乎想象，只要使用者提出要求，它們在不到一分鐘的極短時間內，就能洋洋灑灑地生成一篇長達數千字且 「細節滿滿」 的謠言文章。更為甚者，這些大模型還能依據指令，進一步生成與之對應的逼真圖片乃至動態視訊，以假亂真的程度足以迷惑眾多不明真相的群眾。
與之形成鮮明對比的是，辟謠的難度呈幾何倍數增長——除了假訊息太多外，還會發現大模型在辟謠時很不給力。當人們試圖借助大模型進行求證辟謠時，會發現大模型在學習過程中，獲取的資訊包含了那些惡意編造的謠言。由於大模型本身並不具備判斷資訊真假的能力，所以無法像人類一樣憑借經驗和理性去甄別是非真偽，給出的結論要麽似是而非，要麽自相矛盾。最終，辟謠工作還得依靠人工逐一進行核查，耗費大量時間和人力成本。
面對如此嚴峻的困境，必須從問題源頭入手，采取強有力的措施加以解決。
首先，對造謠者必須予以嚴查嚴懲。要讓這些惡意擾亂資訊秩序、造成不良社會影響的人付出沈重的代價，透過法律的威懾力來遏制他們的造謠沖動。
其次，平台肩負著不可推卸的責任。相關平台需要加大稽核力度，構建更為嚴密的稽核機制，對於各類謠言以及謠言衍生出的 「二創」 內容，一律禁止釋出，並及時下架已存在的相關資訊，從而切斷謠言傳播的渠道。
再者，大模型的開發者要積極行動起來。透過先進的技術手段，比如設定嚴格的使用許可權、智慧辨識異常操作等方式，制止那些別有用心者利用大模型進行造假行為，從技術根源上減少謠言產生的可能性。
總而言之，在AI蓬勃發展的時代，要想做好辟謠工作，不能再靠事後核查的單一手段。必須往前一步，從懲治造謠者、督促平台作為、推動技術防控等多個維度協同發力，從源頭減少謠言。如此才能在復雜的資訊環境中，有效遏制謠言的滋生與傳播，還大眾一個真實、清朗的資訊空間。
