มีมที่เป็นอันตรายที่ AI ก็ไม่สามารถติดตามได้ ─ โฉมหน้าที่อันตรายของ 'แพลตฟอร์มรอบข้างเกม': ความจริงของเนื้อหาที่เป็นอันตรายที่ถูกมองข้ามในเว็บไซต์วิดีโอเกม

1. บทนำ――เงาที่ซ่อนอยู่ใน "สนามเด็กเล่น"

"ใครอยู่ข้างหลังชุดหูฟัง" ตลาดเกมที่เติบโตอย่างรวดเร็วในช่วงโควิด-19 ได้ขยายตัวเป็นชุมชนขนาดใหญ่ที่มีผู้เล่นมากกว่า 3 พันล้านคนทั่วโลก แต่ในมุมหนึ่งของชุมชนนี้ ท่ามกลางคลิปไฮไลท์และแชทยั่วยุ ความเชื่อเรื่องการยกย่องคนขาวและทฤษฎีสมคบคิดได้แทรกซึมอย่างเงียบๆ การวิจัยล่าสุดจากมหาวิทยาลัยแองเกลีย รัสกิน ได้ใช้ข้อมูลเพื่อส่องแสงให้เห็น "เงาที่มองไม่เห็น" นี้

2. ภาพรวมการวิจัยและการค้นพบหลัก

2-1 วัตถุประสงค์และวิธีการ

ทีมวิจัยได้สัมภาษณ์ผู้ดูแลระบบที่ทำงานบนแพลตฟอร์ม 7 แห่ง เช่น Discord, Twitch, Steam รวมถึงผู้รับผิดชอบด้านความปลอดภัยของบริษัทเทคโนโลยีและผู้เชี่ยวชาญด้านการต่อต้านการก่อการร้ายจำนวน 42 คน นอกจากนี้ยังได้วิเคราะห์ข้อความในช่องสาธารณะขนาด 3.2TB ด้วยการเรียนรู้ของเครื่องเพื่อให้เห็นภาพความถี่และเส้นทางการแพร่กระจายของการแสดงออกที่เป็นอันตราย

2-2 เนื้อหาขวาจัดมีมากที่สุด

เนื้อหาที่มีมากที่สุดคือเนื้อหาขวาจัด โดยมีการยกย่องคนขาว, นีโอนาซี, และการต่อต้านยิวคิดเป็น 58% ของโพสต์ทั้งหมด กลุ่มหัวรุนแรงอิสลามมีเพียง 9% แต่ "มีมที่ยกย่องการยิงในโรงเรียน" และเนื้อหา "ข้างเคียง" อื่นๆ มีอยู่ถึง 27% แสดงถึงการมีอยู่ที่สูงมหาวิทยาลัยแองเกลีย รัสกิน

2-3 โครงสร้างกรวย

กุญแจสำคัญในการสำรวจคือ "กรวย" ที่ดึงดูดเยาวชนที่สนใจใน SNS หลักผ่าน DM หรือลิงก์เชิญไปยังเซิร์ฟเวอร์กึ่งสาธารณะของ Discord ที่นั่น สตรีมเมอร์ "พี่ใหญ่" จะถ่ายทอดสด FPS พร้อมกับปล่อยมุกตลกที่มีการแบ่งแยกเชื้อชาติ ทำให้เกิดความรู้สึกใกล้ชิดและฝังความคิดสุดโต่ง

2-4 ขีดจำกัดของการดูแล

AI มุ่งเน้นที่การกรองคำและไม่เก่งในการอ่านบริบท "GG ez, <卍>" เช่น การแทนที่ด้วยอีโมจิหรือสแลงที่เข้ารหัสสามารถหลบเลี่ยงการตรวจจับได้ ทำให้ผู้ดูแลต้องจัดการด้วยตนเอง แต่ในแชทที่มีข้อความหลายหมื่นบรรทัดต่อชั่วโมง การใช้แรงงานคนไม่สามารถตามทันได้

3. ปฏิกิริยาของ SNS――ความขัดแย้งระหว่างการลุกเป็นไฟและความเห็นใจ

• Reddit: ลิงก์บทความจาก Guardian ถูกกระจายอย่างรวดเร็วในหลายชุมชนเช่น r/technology เสียงของผู้ปกครองเช่น "ลูกชายของฉันกำลัง VC กับผู้ใหญ่ที่ไม่รู้จักขณะเล่น CoD ทำให้ฉันขนลุก" ได้รับการจัดอันดับสูงRedditReddit

• ในช่องแสดงความคิดเห็นของ Guardian มีการแยกแยะระหว่าง "การสนทนาระหว่างพ่อแม่และลูกควรมาก่อนการควบคุมออนไลน์" และ "อย่าปีศาจวัฒนธรรมเกม" โดยมีจำนวนโพสต์มากกว่า 800 โพสต์The Guardian

• บัญชีทางการของหน่วยงานต่อต้านการก่อการร้ายบน X (Twitter เดิม) ได้อ้างอิงการวิจัยและเตือนว่า "ช่วงปิดเทอมฤดูร้อนต้องระวังเป็นพิเศษ" ลิงก์คู่มือสำหรับผู้ปกครองถูกรีโพสต์มากกว่า 10,000 ครั้งThe Guardian

4. กรณีศึกษา――"เหตุการณ์เฟลิกซ์" สะท้อนความจริง

เฟลิกซ์ วินเทอร์ นักเรียนมัธยมปลายจากเอดินบะระ ประเทศอังกฤษ (อายุ 18 ปี) ใช้เวลากว่า 1,000 ชั่วโมงบน Discord และหลงใหลในกลุ่มนีโอนาซี แผนการเลียนแบบถูกเปิดเผยและเขาได้รับโทษจำคุกในเดือนกรกฎาคมปีนี้ นักวิจัยชี้ว่า "เป็นเพียงยอดภูเขาน้ำแข็ง"The Guardian

5. ทำไมวัฒนธรรมเกมถึงตกเป็นเป้าหมาย

1. ความรู้สึกเป็นเพื่อนร่วมทีมทันที
   　การจับคู่ทำให้แม้จะเจอกันครั้งแรกก็กลายเป็น "เพื่อนร่วมทีม" ได้

2. ประสบการณ์ "ความกล้าหาญ" เสมือน
   　บอร์ดคะแนน FPS มักจะเชื่อมโยงกับความสามารถทางการทหาร

3. การอยู่ร่วมกันของการถ่ายทอดสดและการไม่เปิดเผยตัวตน
   　Twitch มีพลังการแพร่กระจายแบบโทรทัศน์ ในขณะที่ Discord มีความปิดเหมือนตรอกซอกซอย

6. ข้อเสนอและความท้าทายในอนาคต

• การเชื่อมต่อหลายแพลตฟอร์ม: แบ่งปันบัญชีดำของผู้ใช้ที่เป็นอันตรายและติดตาม "นกอพยพ" หลังจากถูกแบน

• การวิจัยและพัฒนา AI ด้านบริบท: ใช้โมเดลภาษาขนาดใหญ่เพื่อคาดการณ์เจตนาของการพูดในกระบวนการดูแลและตอบสนองต่อมีมที่เปลี่ยนแปลง

• การศึกษาพลเมืองดิจิทัล: นำ "การเล่นบทบาทการชักชวนออนไลน์" เข้าสู่บทเรียนในโรงเรียนประถมและมัธยมเพื่อสนับสนุนความรู้สึกของตัวเองในวัยรุ่น

• แดชบอร์ดสำหรับผู้ปกครอง: ไม่เพียงแค่เวลาที่เล่น แต่ยังแสดงให้เห็นถึงตัวชี้วัดความเสี่ยงของเซิร์ฟเวอร์ที่เข้าร่วม

7. บทส่งท้าย――เพื่อทวงคืน "สนามเด็กเล่น"

เกมเป็นสื่อที่เชื่อมโยงผู้คนและดึงความคิดสร้างสรรค์ออกมาอย่างแท้จริง เพื่อให้ผู้เล่นที่หลากหลายสามารถวิ่งเล่นในสนามเดียวกันได้อย่างปลอดภัย การสร้าง "เครือข่ายความปลอดภัยยุคใหม่" ที่ประกอบด้วยเทคโนโลยี ชุมชน และนโยบายเป็นสิ่งจำเป็นเร่งด่วน

Powered by Froala Editor