自然災害頻傳，中國面臨新挑戰——AI偽造視頻

隨著中國應對週末登陸的颱風「紅霞」的影響，官員們將痛苦地意識到，他們可能還會面臨一項額外的挑戰：利用人工智能（Artificial Intelligence, AI；人工智慧）製作的危險誤導性影片。

過去幾個月，強風暴和洪水災害頻發，導致社交媒體平台上充斥著大量虛假視頻——其中包括漂浮在洪水中的屍體圖片、對實際未受影響地區發生嚴重洪災的虛假描述，以及對應急響應工作進行明顯虛假描述的視頻。

在當前局勢緊張且危險，涉及大規模疏散和複雜救援行動的情況下，當局希望避免引發恐慌。然而，他們擔心中國投入數十億美元研發的AI技術，正提供簡單易用的工具，可能被用來欺騙大眾。

浙江省公安廳網安總隊網路公共安全支隊副支隊長黃志華告訴中國官方媒體：「不少博主把災情當成漲粉工具，知道驚悚、誇張內容，更容易拿到按讚播放，故意造假博眼球」

在中共中央黨校機關報《學習時報》發表的一篇文章中，陳兵教授指出：「造謠的技術門檻顯著降低，內容生成者無需掌握複雜技術，僅通過AI工具捕捉熱點話題，便可快速生成涵蓋文本、圖像、音頻、視頻等多形態的虛假內容，甚至『一句話指令』就能產出以假亂真的信息，直接推動謠言批量化、規模化生產。」

華東政法大學高富平教授告訴BBC，發布此類虛假內容的動機多種多樣，從「為了博取眼球而不考慮後果」的人，到「為了個人利益而製造流量」的人，再到「故意製造恐慌或社會動盪」的人。

「話雖如此，我還是要強調，檢測技術仍然落後於生成技術。我們一直處於一場貓捉老鼠的遊戲。因此，我們不應該認為僅僅依靠技術就能一鍵識別AI生成的內容。」他警告說。

在這種背景下，許教授認為中國需要建構「可信賴的資訊基礎設施」。這可能包括官方的預警系統和新聞機構可以存取的災害資訊介面。

7月23日，中國國家互聯網信息辦公室（國家網信辦）宣佈在全國範圍內打擊與洪水和其他災害相關的虛假網路內容，並指示地方分支機構重點查處捏造資料、惡意編輯、擺拍場景、歪曲歷史事件以及冒充官員等行為。此外，該辦公室也呼籲社群媒體平台加強發佈內容的審核。

他補充說：「AI產生的虛假內容造成的危害最終取決於人們如何使用這項技術，而不是技術本身」，並指出現有的法律足以應對這種情況。

然而，其他人對此並不那麼樂觀。陳教授指出：「AI技術的發展速度遠遠超過法律框架的完善速度。隨著新的法律問題不斷湧現，AI產生的虛假資訊仍然是一個巨大的挑戰。」

同時在上海和華盛頓執業的律師龐昭聲（Peter Pang）表示，世界各地的律師都發現，涉及此類問題的案件數量呈現爆炸性成長。

「影片製作者可能會說『你撞了人，那是你的問題，不是我幹的。』但讓我們仔細想想。是你製造了恐慌，人們才會做出反應。如果你製造了恐慌，你就必須為由此產生的後果承擔責任。」