จีนพบความท้าทายใหม่ หลังวิดีโอปลอมจาก AI แพร่กระจายท่ามกลางภัยพิบัติทางธรรมชาติ

ในขณะที่จีนกำลังรับมือกับผลกระทบจากพายุไต้ฝุ่นโนอึลที่พัดขึ้นฝั่งเมื่อสุดสัปดาห์ที่ผ่านมา เจ้าหน้าที่ต่างตระหนักอย่างเจ็บปวดว่า พวกเขาอาจต้องเผชิญกับความท้าทายเพิ่มเติมอีกประการหนึ่งจากคลิปวิดีโอที่สร้างด้วยปัญญาประดิษฐ์ หรือเอไอ (AI) ซึ่งให้ข้อมูลผิดพลาดอย่างอันตราย

พายุรุนแรงและเหตุการณ์น้ำท่วมในช่วงไม่กี่เดือนที่ผ่านมา ทำให้เกิดคลิปวิดีโอปลอมจำนวนมากแพร่กระจายอยู่บนแพลตฟอร์มโซเชียลมีเดีย รวมถึงภาพศพลอยอยู่ในน้ำท่วม ภาพที่ฉายให้เห็นถึงสภาพน้ำท่วมรุนแรงในพื้นที่ที่ไม่ได้ได้รับผลกระทบจริง และรายละเอียดความพยายามรับมือในเหตุฉุกเฉินปลอม ๆ

ในบางพื้นที่ มีวิดีโอให้ข้อมูลเท็จว่ามีไฟฟ้าดับ ทำให้ประชาชนแห่กันไปซื้อเสบียงมากักตุนด้วยความตื่นตระหนก

วิดีโออื่น ๆ ก็อาศัยเหตุการณ์ที่เกิดขึ้นจริงมาสร้างเรื่องราว

เหตุการณ์น้ำท่วมในเมืองเหิงโจว มณฑลกวางซี เมื่อต้นเดือน ก.ค. ที่ผ่านมาทำให้งูหลายร้อยตัวหลุดออกจากฟาร์มเพาะเลี้ยง แต่ในโลกออนไลน์กลับมีการเผยแพร่ภาพปลอมที่อ้างว่าจระเข้ถูกปล่อยลงสู่แม่น้ำด้วย

ในสถานการณ์ที่ตึงเครียดและอันตรายอยู่แล้ว ทั้งยังเกี่ยวข้องกับการต้องอพยพผู้คนครั้งใหญ่และต้องมีปฏิบัติการกู้ภัยที่สลับซับซ้อน ทางการต้องการหลีกเลี่ยงความตื่นตระหนก ทว่า ตอนนี้พวกเขากังวลว่าเทคโนโลยีเอไอซึ่งจีนทุ่มเงินหลายพันล้านดอลลาร์ไปนั้น จะกลายเป็นเครื่องมือที่สามารถนำมาใช้หลอกลวงประชาชนได้โดยทั้งใช้งานง่ายและเข้าถึงได้อย่างกว้างขวาง

"คอนเทนต์ครีเอเตอร์หลายคนพยายามใช้ข่าวภัยพิบัติมาเรียกยอดผู้ติดตาม โดยรู้ว่าคอนเทนต์ที่สร้างความตื่นเต้นหรือเกินจริงจะได้รับยอดไลก์ (ถูกใจ) และยอดวิว (รับชม) มากขึ้น พวกเขาจงใจสร้างข้อมูลเท็จเพื่อดึงดูดความสนใจของผู้คน" หวง จื้อฮวา รองหัวหน้าฝ่ายความปลอดภัยสาธารณะออนไลน์ของกรมตำรวจเจ้อเจียง กล่าวกับสื่อของรัฐบาลจีน

ในช่วงไม่กี่สัปดาห์ที่ผ่านมา มีการจับกุมคอนเทนต์ครีเอเตอร์หลายรายจากเหตุสร้างเนื้อหาวิดีโอปลอมและลงโทษด้วยวิธีการต่าง ๆ ตั้งแต่การควบคุมตัวเพื่อรอการดำเนินคดีอาญาไปจนถึงการปรับเงิน

แต่ผู้เชี่ยวชาญเตือนว่า วิกฤตข้อมูลเท็จที่ไม่เคยเกิดขึ้นมาก่อนอาจกำลังก่อตัวขึ้น

ในบทความที่ตีพิมพ์ในหนังสือพิมพ์ของโรงเรียนของคณะกรรมการกลางพรรคคอมมิวนิสต์จีน ศาสตราจารย์เฉิน ปิน กล่าวว่า "ปัญญาประดิษฐ์ได้ลดอุปสรรคทางเทคนิคในการสร้างข้อมูลเท็จลงอย่างมาก ปัจเจกชนไม่จำเป็นต้องมีทักษะทางเทคนิคที่ซับซ้อนอีกต่อไป เพียงแค่สั่งการเอไอ พวกเขาก็สามารถสร้างข้อความ รูปภาพ เสียง และวิดีโอที่ดูสมจริงได้อย่างรวดเร็ว... แม้จะดูสมจริงอย่างยิ่ง แต่เนื้อหาเหล่านี้ล้วนถูกสร้างขึ้นมา และสามารถผลิตได้ครั้งละจำนวนมาก"

ศาสตราจารย์เกา ฟู่ผิง จากมหาวิทยาลัยรัฐศาสตร์และกฎหมายแห่งจีนตะวันออก (East China University of Political Science and Law) กล่าวกับบีบีซีว่า แรงจูงใจในการเผยแพร่เนื้อหาเท็จดังกล่าวมีหลากหลาย ตั้งแต่ผู้ที่ทำไป "เพื่อสร้างความสนุกขบขันโดยไม่ได้คิดถึงผลที่ตามมา" ไปจนถึงผู้ที่ต้องการ "สร้างยอดผู้เข้าชมเพื่อผลประโยชน์ส่วนตัว" หรือผู้ที่ต้องการ "ก่อให