เยอรมนีใช้ AI กวาดล้างคอนเทนต์ผู้ใหญ่บนโซเชียลมีเดีย สร้างความกังวลเรื่องการเซ็นเซอร์
จินตนาการถึงการกลับจากทริปท่องเที่ยวแล้วพบจดหมายจากตำรวจรออยู่ที่บ้าน โดยระบุว่าคุณถูกตั้งข้อหาเผยแพร่สื่อลามกอนาจารทางอินเทอร์เน็ตอย่างผิดกฎหมาย นี่คือเรื่องจริงที่เกิดขึ้นกับ Tim และ Julian Blesh คู่รักที่ทำโปรเจกต์คอนเทนต์ผู้ใหญ่เป็นงานอดิเรก ซึ่งพวกเขาพบว่าตนเองตกเป็นเป้าหมายของการกวาดล้างครั้งใหญ่ในเยอรมนี
เหตุการณ์นี้ไม่ใช่กรณีเดี่ยว แต่มีผู้สร้างคอนเทนต์และนางแบบนับร้อยรายในเยอรมนีที่ได้รับจดหมายแจ้งข้อหาในลักษณะเดียวกัน โดยจุดเริ่มต้นมาจากการที่เจ้าหน้าที่ตรวจพบเนื้อหาสำหรับผู้ใหญ่บนบัญชี Twitter (X) ที่ไม่มีระบบป้องกันไม่ให้เด็กและเยาวชนเข้าถึง ซึ่งอาจนำไปสู่โทษปรับจำนวนหลายพันยูโร
KIVI: อาวุธลับ AI ของรัฐบาลเยอรมัน
เบื้องหลังการกวาดล้างที่รวดเร็วและกว้างขวางนี้คือ KIVI ซึ่งเป็นระบบปัญญาประดิษฐ์ (Artificial Intelligence หรือ AI) ที่ถูกพัฒนาขึ้นโดยหน่วยงานสื่อของรัฐ North Rhine-Westphalia ร่วมกับบริษัทเอกชนในเบอร์ลิน เพื่อใช้ตรวจจับสื่อลามกและเนื้อหาที่ผิดกฎหมายบนโลกออนไลน์
ระบบ KIVI ทำงานโดยการสแกนโพสต์สาธารณะและหน้าเว็บวันละหลายหมื่นหน้า ครอบคลุมแพลตฟอร์มยอดนิยมอย่าง Twitter, TikTok, YouTube, Telegram และ VK โดยใช้การจดจำใบหน้า/รูปภาพ (Image Recognition) ร่วมกับการตรวจจับคำสำคัญ (Keywords) ในภาษาเยอรมัน เพื่อคัดกรองเนื้อหาที่เข้าข่ายละเมิดกฎหมายก่อนส่งให้เจ้าหน้าที่ที่เป็นมนุษย์ตรวจสอบขั้นสุดท้าย
กฎหมายคุ้มครองเยาวชนและการบังคับใช้ที่เข้มงวด
ในเยอรมนี สื่อลามกไม่ใช่สิ่งผิดกฎหมาย แต่สิ่งที่ผิดคือ การปล่อยให้ผู้ที่มีอายุต่ำกว่า 18 ปีเข้าถึงเนื้อหาดังกล่าวได้ ตามกฎหมายของคณะกรรมการคุ้มครองเยาวชนในสื่อ (KJM) และหน่วยงานสื่อประจำรัฐทั้ง 14 แห่ง การเผยแพร่คอนเทนต์ผู้ใหญ่จะทำได้ก็ต่อเมื่ออยู่ในกลุ่มปิดที่มีระบบ Age Verification หรือการยืนยันอายุที่เข้มงวดเท่านั้น
ปัญหาสำคัญคือแพลตฟอร์มอย่าง Twitter ไม่ได้มีเครื่องมือยืนยันอายุที่ได้มาตรฐานตามที่รัฐบาลเยอรมันต้องการ ทำให้การโพสต์เนื้อหาผู้ใหญ่บนแพลตฟอร์มนี้กลายเป็นเรื่องผิดกฎหมายในทันที ส่งผลให้ผู้สร้างคอนเทนต์จำนวนมากต้องลบโพสต์นับพัน หรือแม้แต่เปลี่ยนสถานะบัญชีเป็นส่วนตัวเพื่อหลีกเลี่ยงการถูกดำเนินคดี
ผลกระทบต่อผู้สร้างสรรค์และเสรีภาพในการแสดงออก
การบังคับใช้กฎหมายที่รุนแรงส่งผลกระทบในวงกว้าง ไม่เพียงแต่ผู้ผลิตสื่อลามก แต่รวมถึงนักวิชาการด้านเพศศึกษาอย่าง Madita Oeming ที่ต้องลบโพสต์ให้ความรู้กว่า 2,000 ข้อความ และถูกบังคับให้จ้าง "เจ้าหน้าที่คุ้มครองเยาวชน" มาดูแลเนื้อหาโดยมีค่าใช้จ่ายรายเดือน
Paulita Pappel จาก Free Speech Coalition ระบุว่ามาตรการนี้ทำให้ผู้สร้างคอนเทนต์จำนวนมาก โดยเฉพาะกลุ่ม LGBTQI+ และ BIPOC ต้องย้ายถิ่นฐานไปยังประเทศอื่น เช่น ออสเตรีย สวิตเซอร์แลนด์ หรือไซปรัส เพื่อความปลอดภัยทางกฎหมาย ขณะที่นักสิทธิมนุษยชนจาก European Digital Rights (EDRi) แสดงความกังวลว่าการที่รัฐเข้ามาควบคุมสิ่งที่ประชาชนเห็นบนโลกออนไลน์อาจเป็นการละเมิดสิทธิขั้นพื้นฐานและนำไปสู่การเซ็นเซอร์
ข้อเท็จจริงสำคัญ
- KIVI คือ AI ที่สแกนเนื้อหาผิดกฎหมายได้ถึง 10,000 หน้าต่อวัน
- ข้อกำหนดทางกฎหมาย: คอนเทนต์ผู้ใหญ่ต้องมีระบบยืนยันอายุ (Age Verification) เพื่อป้องกันเด็กต่ำกว่า 18 ปี
- บทลงโทษ: ผู้ฝ่าฝืนอาจถูกจำคุกสูงสุด 1 ปี หรือถูกปรับ (โดยส่วนใหญ่จะถูกปรับประมาณ 300 ยูโร)
- แพลตฟอร์มเป้าหมาย: Twitter, YouTube, TikTok, Telegram และ VK
- ผลกระทบ: เกิดการย้ายถิ่นฐานของผู้สร้างคอนเทนต์ออกจากเยอรมนีไปยังประเทศเพื่อนบ้านในยุโรป
| หัวข้อ | รายละเอียด |
|---|---|
| หน้าที่ของ KIVI | ตรวจจับสื่อลามก, ความรุนแรง, และการปฏิเสธการฆ่าล้างเผ่าพันธุ์ |
| วิธีการตรวจจับ | ใช้ Keyword ภาษาเยอรมัน + การจดจำรูปภาพและข้อความ |
| จำนวนการตรวจพบ | พบการละเมิดเกือบ 5,000 กรณีตั้งแต่ปี 2021 (สื่อลามกเป็นอันดับหนึ่ง) |
| จุดอ่อนของแพลตฟอร์ม | Twitter ไม่มีระบบยืนยันอายุที่รัฐบาลเยอรมันยอมรับ |
คำถามที่พบบ่อย
การโพสต์สื่อลามกในเยอรมนีผิดกฎหมายหรือไม่?
ไม่ผิดกฎหมายในตัวมันเอง แต่จะผิดกฎหมายทันทีหากไม่มีระบบยืนยันอายุที่สามารถป้องกันไม่ให้เยาวชนอายุต่ำกว่า 18 ปีเข้าถึงเนื้อหานั้นได้
ระบบ KIVI ทำงานอย่างไรในการตรวจจับ?
KIVI ใช้ AI สแกนโพสต์สาธารณะบนโซเชียลมีเดียและเว็บไซต์ โดยค้นหาคำสำคัญและใช้เทคโนโลยีจดจำรูปภาพเพื่อระบุเนื้อหาที่เข้าข่ายละเมิดกฎหมาย ก่อนจะส่งให้เจ้าหน้าที่ตรวจสอบอีกครั้ง
ทำไมผู้สร้างคอนเทนต์บน Twitter ถึงถูกเพ่งเล็งเป็นพิเศษ?
เนื่องจาก Twitter ไม่มีเครื่องมือยืนยันอายุ (Age Verification) ที่เข้มงวดพอตามมาตรฐานของหน่วยงานสื่อในเยอรมนี ทำให้การเผยแพร่เนื้อหาผู้ใหญ่บนแพลตฟอร์มนี้ถือว่ามีความเสี่ยงทางกฎหมายสูง
บทลงโทษสำหรับผู้ที่เผยแพร่เนื้อหาโดยไม่มีการยืนยันอายุคืออะไร?
ตามกฎหมายอาจมีโทษจำคุกสูงสุด 1 ปี หรือโทษปรับ ซึ่งในทางปฏิบัติส่วนใหญ่จะจบลงที่การเสียค่าปรับประมาณ 300 ยูโร
มาตรการนี้ส่งผลกระทบต่อใครบ้าง?
ส่งผลกระทบต่อผู้สร้างคอนเทนต์ผู้ใหญ่ นางแบบ นักวิชาการด้านเพศศึกษา และโดยเฉพาะอย่างยิ่งกลุ่มผู้สร้างสรรค์งานในกลุ่ม LGBTQI+ และ BIPOC ที่ต้องเผชิญกับการเซ็นเซอร์หรือต้องย้ายที่พำนักเพื่อเลี่ยงคดี
