การเลือกปฏิบัติรูปแบบใหม่ในยุค AI: ดิจิทัลเอจิสม์คืออะไร

ดูเหมือนว่าจะคืนค่า ข้อความมีความสุภาพ หลีกเลี่ยงคำที่เป็นการเลือกปฏิบัติ และไม่มีเจตนาที่จะทำร้ายใครอย่างชัดเจน อย่างไรก็ตาม หากภายใน "ความรู้สึกดี" นั้นมีอคติที่สะสมมานานในสังคมซึมซับอยู่บาง ๆ ล่ะ?

การวิจัยที่เผยแพร่โดยทีมวิจัยจากสถาบันวิทยาศาสตร์และเทคโนโลยีเกาหลี (KAIST) ได้เปิดเผยปัญหานี้อย่างชัดเจน โดยมีเป้าหมายที่โมเดล AI ของ OpenAI, GPT-4o ทีมวิจัยได้ให้ AI อธิบายลักษณะและคุณสมบัติของบุคคลในช่วงอายุตั้งแต่ 10 ถึง 90 ปี โดยเพิ่มขึ้นทีละ 10 ปี และวิเคราะห์ภาพลักษณ์อายุที่ปรากฏในข้อความนั้น

สิ่งที่เห็นไม่ใช่การเลือกปฏิบัติอย่างชัดเจน ไม่ใช่คำที่ดูถูกผู้สูงอายุ แต่ AI มีแนวโน้มที่จะวาดภาพผู้สูงอายุด้วยคำที่เป็นบวก เช่น "ใจดี" "น่าเชื่อถือ" "มีน้ำใจ" และ "มีปัญญา"

ปัญหาอยู่ที่วิธีการยกย่องนั้น

ตามการวิจัย บุคคลที่มีอายุมากกว่า 60 ปีได้รับการประเมินสูงในด้าน "ความอบอุ่น" แต่ในด้าน "ความสามารถ" "ความเชี่ยวชาญ" "ประสิทธิภาพ" "ความเป็นตัวของตัวเอง" และ "การแสดงออก" มักจะแสดงออกมาอ่อนแอกว่าคนรุ่นใหม่ กล่าวคือ AI ไม่ได้ปฏิเสธผู้สูงอายุ แต่มีแนวโน้มที่จะวาดภาพพวกเขาเป็น "คนใจดีแต่ไม่ค่อยมีความสามารถ"

นี่เป็นประเด็นสำคัญในปัญหาอคติของ AI ในปัจจุบัน เพราะการเลือกปฏิบัติไม่ได้ปรากฏในรูปแบบของคำที่ก้าวร้าวเสมอไป อคติที่อยู่รอดในสังคมมานานมักจะปรากฏในรูปแบบของ "ความหวังดี" หรือ "คำชม"

ตัวอย่างเช่น การแสดงออกว่า "ผู้สูงอายุมีความสงบและดูแลดี" ฟังดูเป็นบวกในตอนแรก แต่ถ้ามันเชื่อมโยงกับภาพลักษณ์ว่า "อ่อนแอต่อสิ่งใหม่" "ความสามารถในการตัดสินใจลดลง" และ "เป็นฝ่ายที่ต้องได้รับการสนับสนุนมากกว่าที่จะเป็นผู้นำ" ก็มีการตรึงบทบาทตามอายุอยู่

หาก AI สร้างภาพลักษณ์เหล่านี้ซ้ำ ๆ ผู้ใช้จะได้รับมุมมองนั้นโดยไม่รู้ตัว แม้แต่ผู้สูงอายุที่สนทนากับ AI ก็อาจรู้สึกว่า "ตนเองไม่ใช่ฝ่ายที่ต้องการความท้าทายอีกต่อไป" หรือ "ไม่ใช่ผู้ที่สามารถใช้เทคโนโลยีดิจิทัลได้" คำพูดของ AI ไม่ได้เป็นเพียงข้อความ แต่สามารถมีอิทธิพลต่อการรับรู้ตนเองและการรับรู้ทางสังคมของมนุษย์ได้

วิธีการวิจัย──การถาม "คำถามที่เป็นกลาง" กับ AI

สิ่งที่น่าสนใจในงานวิจัยนี้คือ ทีมวิจัยไม่ได้ตั้งคำถามที่ชัดเจนเพื่อชักนำอคติ

โปรมต์ที่ใช้เป็นคำถามที่เป็นกลางที่ขอให้ AI อธิบายลักษณะของบุคคลในช่วงอายุที่กำหนด ได้แก่ 10, 20, 30, 40, 50, 60, 70, 80, 90 ปี ทีมวิจัยได้รวบรวมตัวอย่างข้อความจาก GPT-4o ทั้งหมด 900 ชิ้น

จากนั้นได้วิเคราะห์ข้อความตาม "โมเดลเนื้อหาอคติ" ที่ใช้ในจิตวิทยาสังคม โมเดลนี้จับการรับรู้ของผู้คนต่อกลุ่มสังคมในสองแกนหลัก หนึ่งคือ "ความอบอุ่น" ซึ่งเกี่ยวข้องกับความใจดี ความน่าเชื่อถือ ความมีน้ำใจ และความร่วมมือ อีกหนึ่งคือ "ความสามารถ" ซึ่งเกี่ยวข้องกับความสามารถ ความเชี่ยวชาญ ประสิทธิภาพ ความเป็นตัวของตัวเอง และการแสดงออก

เมื่อมองผ่านสองแกนนี้ โครงสร้างของอคติจะเห็นได้ละเอียดมากขึ้น บางกลุ่มอาจถูกมองว่า "เย็นชาแต่มีความสามารถ" หรือ "อบอุ่นแต่ไม่มีความสามารถ" สเตริโอไทป์ที่มักจะมุ่งไปที่ผู้สูงอายุใกล้เคียงกับอย่างหลัง คำที่เป็นบวกเช่น "ใจดี" "มีประสบการณ์" "สงบ" มักจะถูกแลกเปลี่ยนกับการประเมินที่ต่ำกว่าในด้าน "ความสามารถในการแข่งขัน" "ความสามารถในการดำเนินการ" และ "ความสามารถในการปรับตัวกับสิ่งใหม่"

แนวโน้มของ GPT-4o ที่แสดงในงานวิจัยนี้ก็สอดคล้องกับสิ่งนี้ ในคำอธิบายของผู้ที่มีอายุมากกว่า 60 ปี การแสดงออกเกี่ยวกับความอบอุ่นเด่นชัด ในขณะที่การแสดงออกเกี่ยวกับความสามารถและการแสดงออกทางตัวเองอ่อนลง โดยเฉพาะอย่างยิ่งในผู้ที่มีอายุมากกว่า 70 ปี มีแนวโน้มที่จะมีการบรรยายที่เป็นเนื้อเดียวกันมากขึ้น กล่าวคือ ยิ่งอายุมากขึ้นเท่าใด ก็ยิ่งมีแนวโน้มที่จะถูกสรุปว่าเป็น "ลักษณะของผู้สูงอายุ" มากกว่าความแตกต่างของบุคคล

เหตุผลที่ "อคติที่อ่อนโยน" เป็นอันตราย

ปัญหาที่งานวิจัยนี้แสดงให้เห็นคือ ไม่ใช่เรื่องที่ AI พูดถึงผู้สูงอายุในทางที่ไม่ดี แต่ AI วาดภาพผู้สูงอายุเป็น "คนดี" ซึ่งทำให้มันอันตราย

คนมักจะระวังการเลือกปฏิบัติที่ชัดเจน หากมีการแสดงออกที่ชัดเจนว่า "ผู้สูงอายุไม่มีประโยชน์" ผู้ใช้หลายคนจะสังเกตเห็นปัญหา นักพัฒนาก็สามารถตรวจจับได้ง่ายผ่านฟิลเตอร์และมาตรการความปลอดภัย

แต่การแสดงออกว่า "ผู้สูงอายุอบอุ่น สงบ และเป็นผู้สนับสนุนรอบข้าง" ล่ะ? นี่ดูเหมือนจะเป็นข้อความที่ไม่มีปัญหา แต่ถ้า AI เดียวกันใช้คำว่า "นวัตกรรม" "ทะเยอทะยาน" "มีความเป็นผู้นำ" "เก่งในการแก้ปัญหา" กับคนหนุ่มสาวและวัยกลางคนมากขึ้น ก็จะเกิดความแตกต่างที่ชัดเจน

การเลือกปฏิบัติไม่ได้อยู่แค่ในคำที่ลดค่าคน แต่ยังอยู่ในคำที่กักขังใครบางคนในบทบาทที่เฉพาะเจาะจง

การวาดภาพผู้สูงอายุเสมอว่าเป็น "ผู้สนับสนุน" "ผู้ดูแล" "คนใจดี" จะทำให้พวกเขาสูญเสียโอกาสที่จะถูกจินตนาการว่าเป็น "ผู้ท้าทาย" "ผู้ตัดสินใจ" "ผู้เปลี่ยนแปลง" "ผู้ที่ใช้เทคโนโลยีได้อย่างเชี่ยวชาญ" หากสิ่งนี้สะสมไปเรื่อย ๆ อาจนำไปสู่ความแตกต่างในการปฏิบัติตามอายุในหลาย ๆ ด้าน เช่น การจ้างงาน การศึกษา การแพทย์ การบริการสาธารณะ และการสนับสนุนทางดิจิทัล

ตัวอย่างเช่น หากบริษัทใช้ AI ในการประเมินบุคลากรหรือสร้างข้อความรับสมัครงาน และโมเดลมีความหมายแฝงว่า "คนหนุ่มสาวมีความเป็นตัวของตัวเองและมีศักยภาพในการเติบโต" "คนสูงอายุมีเสถียรภาพแต่ไม่เก่งในการเปลี่ยนแปลง" ก็อาจมีผลต่อการแสดงออกและการตัดสินใจได้ ในสถานการณ์การดูแลหรือการแพทย์ การวาดภาพผู้สูงอายุเป็นผู้ที่ต้องได้รับการปกป้องมากเกินไปอาจทำให้สิทธิ์ในการตัดสินใจของพวกเขาถูกมองข้าม

ดิจิทัลเอจิซึมคืออะไร

คำสำคัญที่สำคัญในการวิจัยครั้งนี้คือ "ดิจิทัลเอจิซึม" ซึ่งหมายถึงปรากฏการณ์ที่ความลำเอียงตามอายุแทรกซึมเข้าไปในการออกแบบระบบ AI ข้อมูล การดำเนินงาน และสภาพแวดล้อมการใช้งานทางดิจิทัล ขัดขวางการมีส่วนร่วมและโอกาสของผู้สูงอายุ

ดิจิทัลเอจิซึมไม่ใช่แค่เรื่อง "ผู้สูงอายุใช้สมาร์ทโฟนยาก" ปัญหามีความเป็นโครงสร้างมากขึ้น ข้อมูลการเรียนรู้ของ AI ไม่ได้รวมภาพลักษณ์ที่หลากหลายของผู้สูงอายุอย่างเพียงพอ ทีมพัฒนามีมุมมองของคนรุ่นสูงอายุน้อย การออกแบบบริการใช้พฤติกรรมการใช้งานของคนรุ่นใหม่เป็นมาตรฐาน การสำรวจและทดสอบผู้ใช้ไม่ได้รวมผู้สูงอายุ ปัจจัยเหล่านี้รวมกันทำให้เทคโนโลยีสร้างการเลือกปฏิบัติทางอายุซ้ำ

นอกจากนี้ ผลลัพธ์ของ AI ถูกนำเสนอในภาษาที่เป็นธรรมชาติอย่างมาก คำตอบของ AI แบบสนทนารู้สึกเหมือน "คำแนะนำที่มุ่งตรงถึงตัวเอง" มากกว่าผลการค้นหาหรือคำโฆษณา ดังนั้น สเตริโอไทป์ที่ AI สร้างขึ้นจึงแทรกซึมเข้าสู่จิตสำนึกของผู้ใช้อย่างเงียบ ๆ

ตัวอย่างเช่น หากผู้ใช้สูงอายุคนหนึ่งปรึกษา AI ว่า "ต้องการทำงานใหม่" "ต้องการเริ่มธุรกิจ" "ต้องการเรียนรู้การเขียนโปรแกรม" และ AI ตอบกลับด้วยคำแนะนำที่ระมัดระวังเช่น "ทำตามที่ทำได้" "ปรึกษาคนรอบข้าง" "ให้ความสำคัญกับสุขภาพ" ในขณะที่ตอบกลับผู้ใช้หนุ่มสาวว่า "ลองท้าทายดู" "สร้างพอร์ตโฟลิโอ" "สำรวจตลาด" ก็มีการเลือกปฏิบัติที่มองไม่เห็นอยู่

โทนของคำแนะนำต่างกัน ความคาดหวังต่างกัน วิธีการวาดภาพอนาคตต่างกัน นี่คืออคติทางอายุในยุคดิจิทัล

ปฏิกิริยาบนโซเชียลมีเดีย──"AI เป็นกระจกสะท้อนสังคม" หรือ "ยังต้องการการตรวจสอบเพิ่มเติม"

ปฏิกิริยาบนโซเชียลมีเดียต่อหัวข้อนี้สามารถตรวจสอบได้ในขอบเขตการค้นหาสาธารณะ ซึ่งอยู่ในขั้นตอนที่ได้รับความสนใจอย่างเงียบ ๆ ในหมู่ผู้ที่ติดตามข่าวสารด้านจริยธรรมของ AI นักวิจัย และข่าวเทคโนโลยี ในหน้าเว็บของบทความต้นฉบับ จำนวนการแชร์และความคิดเห็นที่ได้รับการยืนยันในช่วงแรกยังคงจำกัด

อย่างไรก็ตาม วิธีที่โซเชียลมีเดียรับรู้หัวข้อเดียวกันนี้แบ่งออกเป็นหลายทิศทาง

อย่างแรกคือ ปฏิกิริยาที่ว่า "AI เป็นกระจกสะท้อนอคติของสังคม" AI ที่สร้างขึ้นได้เรียนรู้จากข้อความจำนวนมากบนอินเทอร์เน็ต หากมีอคติในมุมมองเกี่ยวกับอายุ อาชีพ ครอบครัว และการแสดงออกในสื่อ AI ก็จะมีอคติเช่นกัน กล่าวคือ การที่ AI วาดภาพผู้สูงอายุว่า "อบอุ่นแต่ไม่มีความสามารถ" ไม่ใช่ปัญหาของ AI เพียงอย่างเดียว แต่เป็นผลลัพธ์ที่สังคมมนุษย์ได้วาดภาพเช่นนั้น

อย่างที่สองคือ ปฏิกิริยาที่ว่า "คำที่เป็นบวกก็สามารถเป็นการเลือกปฏิบัติได้" บนโซเชียลมีเดีย มีการถกเถียงเกี่ยวกับอคติทางเพศและเชื้อชาติมากมาย แต่ในขณะเดียวกัน อคติทางอายุมักถูกมองข้าม การแสดงออกที่ว่าผู้สูงอายุ "น่ารัก" "สงบ" "เป็นที่พักพิง" ไม่ถูกวิจารณ์เพราะไม่มีเจตนาร้าย แต่ถ้ามันนำไปสู่วัฒนธรรมที่มองข้ามความสามารถหรือการตัดสินใจของพวกเขา ก็ยังคงเป็นปัญหา

อย่างที่สามคือ ปฏิกิริยาที่ระมัดระวังว่า "เนื่องจากการวิจัยจำกัดอยู่ที่โมเดลเดียวและช่วงเวลาเดียว การสรุปทั่วไปต้องระมัดระวัง" การวิจัยครั้งนี้มุ่งเน้นที่ GPT-4o และโมเดลมีการอัปเดตอย่างต่อเนื่อง นอกจากนี้ ผลลัพธ์ยังเปลี่ยนแปลงตามวิธีการเขียนโปรมต์ ภาษา และวัฒนธรรม ดังนั้น การสรุปว่า "AI ที่สร้างขึ้นทั้งหมดมีอคติเดียวกัน" จากผลลัพธ์นี้เพียงอย่างเดียวอาจเร็วเกินไป

อย่างที่สี่คือ ปฏิกิริยาที่ว่า "ดังนั้นจึงจำเป็นต้องมีวิธีการประเมิน" ในการผสมผสาน AI เข้ากับสังคม การวัดประสิทธิภาพของโมเดลไม่ควรจำกัดเพียงความถูกต้องหรือความเร็ว แต่ต้องตรวจสอบอย่างต่อเนื่องว่า AI วาดภาพกลุ่มใดอย่างไร มอบบทบาทใด และไม่จำกัดโอกาสของใคร ในการอภิปรายของนักพัฒนา AI และผู้เกี่ยวข้องกับนโยบายบนโซเชียลมีเดีย การรวมการประเมินอคติเข้ากับการพัฒนาผลิตภัณฑ์เป็นประเด็นสำคัญ

ทำไมอคติทางอายุจึงมักถูกมองข้าม

ในการอภิปรายเกี่ยวกับอคติของ AI ที่ผ่านมา เพศ เชื้อชาติ สัญชาติ ศาสนา ได้รับการกล่าวถึงอย่างมาก สิ่งเหล่านี้มีความสำคัญอย่างไม่ต้องสงสัย แต่เรื่องอายุมักถูกละเลยอย่างน่าประหลาดใจ

หนึ่งในเหตุผลคือ อายุเป็นคุณสมบัติที่เปลี่ยนแปลงได้สำหรับทุกคน ไม่เหมือนกับเชื้อชาติหรือสถานที่เกิด ทุกคนย่อมมีอายุมากขึ้น ดังนั้น การเลือกปฏิบัติทางอายุจึงถูกมองว่าเป็น "ความแตกต่างระหว่างรุ่น" หรือ "ความแตกต่างของช่วงชีวิต" มากกว่า "การเลือกปฏิบัติต่อบุคคลเฉพาะ"

อย่างไรก็ตาม อคติที่มีพื้นฐานจากอายุมีผลกระทบที่ร้ายแรง ในการจ้างงาน "คนหนุ่มสาวมีความยืดหยุ่นมากกว่า" ในการแพทย