วิกิพีเดียจะต่อสู้กับ "AI Slop" อย่างไร — ความตกใจจาก "การลบอย่างรวดเร็ว": กฎใหม่เพื่อรักษาคุณภาพ

บทนำ: สารานุกรมจะเผชิญหน้ากับ "น้ำท่วม AI" อย่างไร

การเจริญเติบโตของ AI ที่สร้างขึ้นได้ทำให้เกิดความ "รวดเร็ว" ทั้งในด้านดีและไม่ดี ความสามารถในการผลิตข้อความจำนวนมากในเวลาอันสั้นเป็นดาบสองคมสำหรับโครงการร่วมมือเช่นสารานุกรม Wikipedia กำลังเผชิญกับคลื่นของเนื้อหาคุณภาพต่ำที่เรียกว่า "AI slop" ซึ่งเต็มไปด้วยข้อมูลที่ผิดและแหล่งที่มาที่แต่งขึ้น The Verge รายงานว่าชุมชนเริ่มทำงานเหมือน "ระบบภูมิคุ้มกัน" ตรวจจับและกำจัดสิ่งแปลกปลอมอย่างรวดเร็ว และเรียนรู้วิธีจัดการกับมัน — นั่นคือการเปรียบเทียบ 

เนื้อหาของกฎใหม่: G15 "หน้าที่สร้างโดย LLM โดยไม่มีการตรวจสอบด้วยมือ"

หลังจากการอภิปราย ได้มีการนำเสนอการขยายเกณฑ์ "การลบอย่างรวดเร็ว" โดยปกติการลบจะต้องผ่านการอภิปรายสาธารณะเป็นเวลา 7 วัน แต่หน้าที่ชัดเจนว่าเป็นการสร้างโดย AI และไม่มีการตรวจสอบด้วยมือจากผู้โพสต์ สามารถลบได้ทันทีตามดุลยพินิจของผู้ดูแล (ชื่อเกณฑ์คือ "G15") สัญญาณที่เป็นแนวทางมีสองอย่างหลัก ๆ ① ข้อความที่มีกลิ่นอายของ "การตอบสนองต่อคำสั่ง" เช่น "Here is your Wikipedia article…" "as a large language model…" ② การอ้างอิงที่แต่งขึ้น เช่น บทความที่ไม่มีอยู่จริง แหล่งที่มาไม่เกี่ยวข้อง DOI ที่ไม่สามารถแก้ไขได้ หรือ ISBN ที่ไม่ถูกต้อง Wikipedia404 Media

เกณฑ์ใหม่นี้มุ่งเป้าไปที่กรณีที่ "ชัดเจนพอที่จะลบได้ทันที" เท่านั้น การมีเพียงแค่สไตล์ที่ดูเหมือน AI ไม่เพียงพอ สิ่งสำคัญคือการจัดตำแหน่งให้เป็น "การละเมิดที่ชัดเจน" เช่น การแกล้ง การโฆษณา บทความที่แต่งขึ้น การคุกคาม เป็นต้น ซึ่งอยู่ในระดับเดียวกับการลบอย่างรวดเร็วแบบเดิม (เช่น G10 หรือ G11) 

รายการตรวจสอบ "ความเป็น AI": WikiProject AI Cleanup

ทางฝั่งชุมชนได้มีการจัดตั้ง "WikiProject AI Cleanup" เพื่อจัดทำ "แผนที่ทุ่นระเบิด" ของสำนวนและรูปแบบเฉพาะของ AI มีการแชร์สัญญาณหลายอย่าง เช่น การโฆษณาที่มากเกินไป สำนวนที่เรียบเรียงเกินไป การใช้ "moreover" มากเกินไป เครื่องหมายคำพูดที่บิดเบี้ยว (“ ”) หรือการใช้เครื่องหมายขีดกลางยาว (—) เกินไป อย่างไรก็ตาม สิ่งเหล่านี้เป็นเพียง "เส้นช่วย" เท่านั้น การตัดสินใจลบขึ้นอยู่กับ "ร่องรอยที่ชัดเจน" เช่น การนำเข้าคำสั่งหรือการอ้างอิงที่ผิดพลาดที่กล่าวถึงข้างต้น 

404 Media เป็นผู้รายงานคนแรก และแพร่กระจายไปยังสื่อทั่วโลก

404 Media เป็นผู้รายงานการเปลี่ยนแปลงนโยบายเป็นคนแรก จากนั้น PCWorld และ Heise ของเยอรมนีก็ได้ติดตาม ทำให้ประเด็นนี้เป็นที่มองเห็นในระดับโลก ประเด็นสำคัญคือ "ใน Wikipedia ที่ให้ความสำคัญกับวัฒนธรรมการอภิปราย ได้มีการกำหนดเงื่อนไขที่สามารถให้ความสำคัญกับ 'ความรวดเร็ว' ได้เป็นกรณีพิเศษ" 404 MediaPCWorldheise online

จุดยืนของมูลนิธิ: หยุด AI สรุป แต่ "AI ที่ช่วยมนุษย์" ยังคงดำเนินต่อไป

มูลนิธิวิกิมีเดียซึ่งเป็นผู้ดำเนินงานมีความเป็นอิสระจากการตัดสินใจของชุมชน ในเดือนมิถุนายน การทดลองแสดง AI สรุปในตอนต้นของบทความถูกหยุดเนื่องจากการต่อต้านจากชุมชน (ในอดีตมีเสียงเรียกร้องให้ "หยุด") แต่การนำ AI ที่ช่วยเหลือผู้แก้ไข เช่น การตรวจจับการก่อกวนและการสนับสนุนการแปล ยังคงดำเนินต่อไป Edit Check จะเตือนถึงการขาดการอ้างอิงและตรวจสอบความเป็นกลาง ในขณะที่ Paste Check ถูกออกแบบมาเพื่อตรวจสอบว่า "เป็นข้อความของคุณจริงหรือ?" เมื่อมีการวางข้อความจำนวนมาก 

อะไรจะเปลี่ยนไป: ความรวดเร็ว ภาระ และความน่าเชื่อถือ

• ความรวดเร็ว: AI slop ที่ชัดเจนสามารถจัดการได้ทันทีโดยไม่ต้องรอการอภิปราย หากสามารถกำจัด "บทความก่อกวน" ใหม่และ "การอ้างอิงที่แต่งขึ้น" ได้อย่างรวดเร็ว จะสามารถใช้เวลาในการแก้ไขงานอื่น ๆ ได้มากขึ้น 404 Media

• การลดภาระ: ลดภาระในการจัดการ "บทความ AI" ที่ไม่มีการตรวจสอบล่วงหน้า และสามารถจัดสรรทรัพยากรการตรวจสอบที่จำกัดใหม่ได้ 

• ความน่าเชื่อถือ: การอ้างอิงที่ผิดพลาดและเอกสารที่ไม่มีอยู่จริงทำให้รากฐานของสารานุกรมสั่นคลอน การกำหนดมาตรฐาน "ร่องรอยที่ชัดเจน" ที่สามารถระบุได้มีความสำคัญมาก PCWorld

แต่ไม่ใช่ "ยาครอบจักรวาล"

ชุมชนเองก็มีเสียงที่ระบุว่านี่เป็นเพียง "แผ่นปิดแผล" แม้ว่าบทความที่เริ่มต้นด้วย AI แต่ถ้ามีการตรวจสอบอย่างละเอียดโดยมนุษย์ก็สามารถมีคุณภาพสูงได้ และมนุษย์เองก็สามารถเขียนบทความที่ไม่ดีได้เช่นกัน ดังนั้น G15 จึงมุ่งเป้าไปที่ "ความผิดพลาดที่ชัดเจน" ในระยะกลางและระยะยาว การใช้เครื่องมือสนับสนุนเช่น Edit Check การสร้างความเห็นพ้องในหน้าบันทึก และการเสริมสร้างกระบวนการตรวจสอบแหล่งที่มาจึงเป็นสิ่งที่ขาดไม่ได้ PCWorld

ปฏิกิริยาจากโซเชียลมีเดีย: ส่วนใหญ่สนับสนุน แต่กังวลเรื่องการตัดสินผิดพลาดและการยับยั้ง

• X (เดิมคือ Twitter): โพสต์จาก The Verge และ Slashdot ถูกแพร่กระจาย ส่วนใหญ่มีบรรยากาศ "ทำได้ดี" แต่ก็มีคำถามว่า "นี่ไม่ใช่การปฏิเสธ AI ทั้งหมดหรือ?" X (formerly Twitter)

• Reddit: ใน r/technology และ r/wikipedia มีการสนับสนุนว่า "ทิศทางถูกต้อง" และ "ต้องการเพิ่มการบริจาค" แต่ก็มีการเตือนถึงการนำการอภิปรายที่เขียนโดย AI เข้ามาและการชี้ให้เห็นถึงความเสี่ยงในการตัดสินผิดพลาด Reddit

• Hacker News: ผู้อ่านที่ติดตามมานานกังวลเกี่ยวกับ "การอ้างอิงซ้ำของ AI slop (AI→Wiki→AI รุ่นถัดไป)" ยินดีต้อนรับการกำหนดมาตรฐานครั้งนี้ แต่ก็มีการอภิปรายเกี่ยวกับความสมดุลกับความเปิดกว้าง Hacker News

• Threads / Bluesky: มีเสียงที่ประเมินคุณค่าของความเป็นสาธารณะของ Wikipedia และแนะนำว่าแพลตฟอร์มอื่น ๆ ควรเอาเป็นแบบอย่าง ThreadsBluesky Social

จะป้องกันการตัดสินผิดพลาดได้อย่างไร?

"ความเป็น AI" เป็นเพียงหลักฐานแวดล้อมเท่านั้น ในคู่มือของ Wikipedia ได้ระบุไว้อย่างชัดเจนว่าเครื่องหมายคำพูดที่บิดเบี้ยวหรือการใช้ "moreover" มากเกินไปไม่สามารถเป็นเหตุผลในการลบได้เพียงอย่างเดียวและการตัดสินใจสุดท้ายขึ้นอยู่กับ "หลักฐานที่ชัดเจน" เช่น การนำเข้าคำสั่งหรือการอ้างอิงที่แต่งขึ้น นี่เป็นกลไกความปลอดภัยเพื่อหลีกเลี่ยงการยับยั้งผู้เขียนที่ถูกต้อง 

เหตุใดจึงยังต้องการ "การสร้างความเห็นพ้อง" ของมนุษย์

ความน่าเชื่อถือของสารานุกรมตั้งอยู่บนความสามารถในการตรวจสอบแหล่งที่มาและความโปร่งใสของประวัติการแก้ไข AI สามารถช่วยเสริมในจุดนี้ได้ แต่ไม่สามารถแทนที่ได้ การเปรียบเทียบ "ระบบภูมิคุ้มกัน" ของผู้ดูแลมูลนิธิแสดงให้เห็นว่าความเห็นพ้องของมนุษย์เป็นเสมือนแอนติบอดี การที่ผู้แก้ไขสามารถ "เอาชนะความเร็วในการเพิ่มข้อมูลที่ผิด" ได้ จำเป็นต้องเพิ่มความเร็วในการเรียนรู้ของชุมชน 

มุมมอง: เพราะเป็นแบบเปิด จึงต้องมีการกำหนดเส้นแบ่งให้ชัดเจน

G15 เป็น "การละเมิดความเร็วขั้นต่ำ" เพื่อรักษาความน่าเชื่อถือโดยไม่ทำลายความเปิดกว้าง ความสำคัญของการวางรางสำหรับการตอบสนองที่รวดเร็วเป็นกรณีพิเศษในวัฒนธรรมที่ให้ความสำคัญกับการอภิปรายไม่ใช่เรื่องเล็กน้อย ในอนาคต ความโปร่งใสของกระบวนการสร้างเช่น Paste Check และการเพิ่มความซับซ้อนในการตรวจจับการก่อกวนด้วย AI จะเป็นกุญแจสำคัญ Wikipedia จะไม่ปฏิเสธ AI แต่จะพัฒนาไปในทิศทางที่แยกแยะระหว่าง "AI ที่ช่วยมนุษย์" และ "AI ที่หลอกลวงมนุษย์"

Powered by Froala Editor