Generative AI กับภัยคุกคามจากการแพร่กระจายข้อมูลเท็จที่แม่นยำและอันตรายกว่าเดิม
ในปัจจุบันเราทราบดีว่า Generative AI (ปัญญาประดิษฐ์ที่สามารถสร้างเนื้อหาใหม่ได้) กำลังกลายเป็นเครื่องมือสำคัญที่เร่งการแพร่กระจายของข้อมูลเท็จบนโลกอินเทอร์เน็ต ไม่ว่าจะเป็นในรูปแบบของ Deepfakes (สื่อสังเคราะห์ที่ปลอมแปลงใบหน้าหรือเสียงให้ดูสมจริง) บทความข่าวปลอม หรือการใช้บอท แต่สิ่งที่น่ากังวลยิ่งกว่าปริมาณ คือความสามารถของ AI ในการสร้างข้อมูลที่ "แนบเนียน" และ "เจาะจงกลุ่มเป้าหมาย" ได้อย่างมีประสิทธิภาพจนสามารถโน้มน้าวความคิดของผู้คนได้อย่างลึกซึ้ง
จากความผิดพลาดในอดีต สู่ความแม่นยำระดับบุคคล
หากย้อนกลับไปในการแทรกแซงการเลือกตั้งสหรัฐฯ ปี 2016 โดย Internet Research Agency ของรัสเซีย การดำเนินงานในขณะนั้นใช้มนุษย์เป็นผู้ขับเคลื่อน ซึ่งมักประสบปัญหาเรื่องความไม่เข้าใจในบริบททางวัฒนธรรมหรือทักษะภาษาอังกฤษที่ไม่เชี่ยวชาญ ทำให้การสื่อสารกับกลุ่มเป้าหมายไม่ลื่นไหลเท่าที่ควร
ทว่าในยุคของ Generative AI อุปสรรคเหล่านี้ถูกกำจัดออกไป ผู้ไม่หวังดีสามารถใช้ AI วิเคราะห์ข้อมูลส่วนบุคคลและพฤติกรรมของกลุ่มเป้าหมาย เพื่อสร้างเนื้อหาที่ดูน่าเชื่อถือและสอดคล้องกับความเชื่อหรือค่านิยมของคนกลุ่มนั้นๆ ได้อย่างแม่นยำ Kate Starbird จาก University of Washington ระบุว่า AI ช่วยลดต้นทุนในการสร้างเนื้อหาที่ปรับแต่งให้เข้ากับผู้ฟังเฉพาะกลุ่ม โดยผู้สร้างสามารถเปลี่ยนบทความเดียวให้กลายเป็น 12 รูปแบบที่ตอบโจทย์ 12 กลุ่มเป้าหมายที่แตกต่างกันได้ภายในเวลาเพียงไม่กี่นาที
กลไกการทำงานของข้อมูลเท็จยุคใหม่
กระบวนการสร้างข้อมูลบิดเบือนในปัจจุบันอาศัยการเก็บข้อมูลมหาศาลจากโซเชียลมีเดียเพื่อสร้างโปรไฟล์ของผู้คน เมื่อ AI เรียนรู้พฤติกรรมและจุดอ่อนของกลุ่มเป้าหมายแล้ว มันจะสามารถผลิตเนื้อหาที่ปั่นหัวผู้คนได้อย่างซับซ้อน ซึ่ง Renee Diresta จาก Stanford Internet Observatory ชี้ให้เห็นว่าเราจะเห็นความแม่นยำและความเกี่ยวข้องของเนื้อหาที่เพิ่มสูงขึ้นอย่างน่าตกใจ
Hany Farid ศาสตราจารย์จาก UC Berkeley เสริมว่าการโจมตีอาจไม่ได้หยุดอยู่แค่ระดับกลุ่ม แต่สามารถเจาะจงไปที่ "รายบุคคล" ได้ เช่น การป้อนข้อมูลทวีตของบุคคลหนึ่งให้ AI วิเคราะห์ เพื่อให้ AI ร่างข้อความที่สามารถดึงดูดและโน้มน้าวใจคนๆ นั้นได้โดยอัตโนมัติ
| หัวข้อเปรียบเทียบ | การดำเนินงานโดยมนุษย์ (แบบเดิม) | การดำเนินงานโดย Generative AI |
|---|---|---|
| ความเร็วในการผลิต | ช้า ต้องใช้เวลาเขียนและเรียบเรียง | รวดเร็วมาก ผลิตได้ปริมาณมหาศาลในเวลาสั้น |
| ความแนบเนียนทางวัฒนธรรม | ต่ำ มักมีข้อผิดพลาดด้านภาษาและบริบท | สูง สามารถปรับโทนให้เข้ากับกลุ่มเป้าหมายได้ |
| การเจาะจงเป้าหมาย | เน้นกลุ่มกว้างๆ (Broad Targeting) | เจาะจงรายบุคคล (Hyper-Personalization) |
| ต้นทุนการผลิต | สูง เนื่องจากต้องใช้แรงงานคนจำนวนมาก | ต่ำ ลดกำแพงด้านการเงินในการสร้างคอนเทนต์ |
เมื่อ AI สร้าง และ AI แนะนำ: วงจรที่อันตราย
สิ่งที่น่ากังวลที่สุดคือการทำงานร่วมกันระหว่าง AI สองประเภท ในอดีตอัลกอริทึมของแพลตฟอร์มอย่าง Facebook เคยถูกวิจารณ์ว่าช่วยแพร่กระจายทฤษฎีสมคบคิดและทำให้ผู้คนมีความคิดสุดโต่ง แต่ในการเลือกตั้งปี 2024 เราอาจเผชิญกับสถานการณ์ที่ AI ตัวหนึ่งสร้างข้อมูลเท็จ และ AI อีกตัว (อัลกอริทึมแนะนำเนื้อหา) เป็นผู้ส่งข้อมูลนั้นมาให้เรา
แม้ว่าแคมเปญข้อมูลเท็จส่วนใหญ่จะล้มเหลว แต่ Hany Farid เตือนว่าผู้ไม่หวังดีไม่จำเป็นต้องชนะทุกครั้ง ขอเพียงแค่มีบางแคมเปญที่ประสบความสำเร็จ (เช่น กรณี QAnon) ก็เพียงพอที่จะสร้างความเสียหายอย่างรุนแรงต่อสังคมได้แล้ว
ข้อเท็จจริงสำคัญ
- การลดต้นทุน: AI ทำให้การสร้างเนื้อหาบิดเบือนที่ปรับแต่งเฉพาะบุคคลทำได้ง่ายและราคาถูกลง
- ความแม่นยำสูง: ข้อมูลเท็จยุคใหม่จะมีความเกี่ยวข้องกับความเชื่อและค่านิยมของผู้รับสารมากขึ้น
- วงจร AI: เกิดการทำงานร่วมกันระหว่าง AI ผู้สร้างเนื้อหา และ AI ผู้คัดกรองเนื้อหา (Recommendation Algorithm)
- ความเสี่ยงรายบุคคล: ความสามารถในการวิเคราะห์ข้อมูลส่วนบุคคลทำให้เกิดการโน้มน้าวใจระดับรายคน
แนวทางการรับมือและทางออก
การแก้ไขปัญหานี้เป็นเรื่องยาก แต่ Renee Diresta แนะนำว่าผู้ใช้งานต้องตระหนักถึงภัยคุกคามและระมัดระวังมากขึ้น เช่น การตรวจสอบวันที่สร้างเว็บไซต์หรือโปรไฟล์โซเชียลมีเดียว่าเพิ่งถูกสร้างขึ้นมาใหม่หรือไม่ ขณะที่ Hany Farid มองว่าต้องกดดันบริษัทผู้พัฒนา AI ให้สร้างระบบป้องกันที่เข้มงวด
ปัจจุบันรัฐบาลสหรัฐฯ ได้ทำข้อตกลงกับบริษัทเทคโนโลยีรายใหญ่ เช่น OpenAI, Google, Amazon, Microsoft และ Meta เพื่อสร้างแนวทางความปลอดภัย (Guardrails) เช่น การทดสอบระบบจากภายนอก และการทำ Watermarking (การฝังลายน้ำดิจิทัลเพื่อระบุว่าเนื้อหานี้สร้างโดย AI) อย่างไรก็ตาม ความเร็วในการพัฒนาเทคโนโลยีมักนำหน้ากฎระเบียบเสมอ และประวัติศาสตร์ของซิลิคอนวัลเลย์มักแสดงให้เห็นว่าบริษัทต่างๆ มักปล่อยผลิตภัณฑ์ออกมาก่อน แล้วจึงตามมาแก้ไขปัญหาหลังจากเกิดความเสียหายแล้ว
คำถามที่พบบ่อย
Generative AI ทำให้ข้อมูลเท็จอันตรายขึ้นอย่างไร?
AI ไม่เพียงแต่เพิ่มปริมาณข้อมูลเท็จ แต่ยังเพิ่ม "คุณภาพ" ในการหลอกลวง โดยสามารถปรับแต่งเนื้อหาให้เข้ากับความเชื่อและค่านิยมของกลุ่มเป้าหมายเฉพาะได้อย่างแนบเนียน ทำให้ผู้คนหลงเชื่อได้ง่ายขึ้น
เราจะสังเกตได้อย่างไรว่าเนื้อหาใดเป็นข้อมูลเท็จจาก AI?
เบื้องต้นควรตรวจสอบแหล่งที่มา เช่น ดูว่าบัญชีผู้ใช้หรือเว็บไซต์นั้นเพิ่งถูกสร้างขึ้นมาใหม่หรือไม่ และควรระมัดระวังเนื้อหาที่กระตุ้นอารมณ์หรือสอดคล้องกับความเชื่อส่วนตัวของเราอย่างผิดปกติ
การทำ Watermarking ช่วยป้องกันข้อมูลเท็จได้จริงหรือไม่?
การฝังลายน้ำช่วยให้สามารถระบุได้ว่าเนื้อหานั้นสร้างโดย AI แต่ไม่ใช่ทางออกที่สมบูรณ์ เพราะผู้ไม่หวังดีอาจหาวิธีลบลายน้ำออก หรือใช้เครื่องมือ AI จากแหล่งอื่นที่ไม่มีระบบความปลอดภัยนี้
ทำไมการโจมตีแบบเจาะจงรายบุคคลถึงน่ากลัว?
เพราะ AI สามารถวิเคราะห์ข้อมูลส่วนตัวจากโซเชียลมีเดียเพื่อหาจุดอ่อนหรือสิ่งที่ผู้รับสารสนใจ แล้วสร้างข้อความที่ออกแบบมาเพื่อโน้มน้าวใจคนๆ นั้นโดยเฉพาะ ซึ่งมีประสิทธิภาพสูงกว่าการส่งข้อความแบบหว่านแห
บริษัท AI มีมาตรการป้องกันเรื่องนี้อย่างไรบ้าง?
บริษัทรายใหญ่เริ่มมีการสร้าง Guardrails หรือแนวทางความปลอดภัย การทดสอบระบบโดยผู้เชี่ยวชาญภายนอก และการร่วมมือกับรัฐบาลเพื่อกำหนดมาตรฐานความปลอดภัยในการใช้งาน AI
