“AI ที่อ่อนโยน” กำลังเสี่ยง : ทำไม AI ถึงเรียกตัวเองว่า “ฉัน” — เหตุผลที่แชทบอทใกล้ชิดกับมนุษย์เกินไป

เครื่องจักรที่เรียกตัวเองว่า "I" กำลังกดปุ่ม "ปฏิกิริยาตอบสนอง" ของเรา

เมื่อสนทนากับแชทบอท จะรู้สึกเหมือนมี "ใครบางคน" อยู่ที่นั่นก่อนที่เราจะถาม คำตอบสุภาพ มีความใส่ใจ และบางครั้งก็พูดตลก สิ่งที่เด็ดขาดคือสรรพนามบุรุษที่หนึ่ง "ฉันสามารถทำได้" "ฉันคิดว่า" เพียงแค่นั้น บทความก็เปลี่ยนจาก "ผลลัพธ์ของเครื่องมือ" เป็น "การพูดของตัวตน"

คำถามที่ Kashmir Hill นักข่าวจาก New York Times ยกขึ้นมาเกี่ยวกับประเด็นนี้คือ——ทำไมแชทบอท AI ถึงใช้ "I" เธอกล่าวว่าเธอได้ยินคำวิจารณ์เกี่ยวกับการออกแบบบอทให้เป็น "เพื่อน" และ "ผู้ช่วย" ซึ่งเป็นอันตรายมาเป็นเวลาหนึ่งปี และในสภาพแวดล้อมการแข่งขัน "หุ่นยนต์ที่ยิ้มแย้มและมีอารมณ์ขัน" จะชนะมากกว่า "หุ่นยนต์ที่ไม่มีชีวิตชีวา" การพึ่งพาเป็นปัญหา แต่ "ดีต่อธุรกิจ" ตามที่นักวิจัยกล่าวไว้ LinkedIn

โครงสร้างนี้อาจดูเย็นชา แต่เป็นจริง ในยุคของโซเชียลมีเดีย เรารู้ถึงพลังของการออกแบบที่ดึงดูดความสนใจ แชทบอทก็เช่นกันที่ดึงดูดความสนใจในรูปแบบของการสนทนา สวิตช์ที่อยู่ที่ทางเข้าคือ "I"

ทำไมถึงใช้ "I": ความเป็นธรรมชาติของภาษาและ "ความรับผิดชอบ"

สรรพนามบุรุษที่หนึ่งทำให้การสนทนาราบรื่น การสนทนาระหว่างมนุษย์มีพื้นฐานจาก "คุณ/ฉัน" การปฏิเสธหรือการอธิบายขีดจำกัดก็สั้นและเข้าใจง่ายกว่า เช่น "ฉันไม่สามารถทำได้" ในการอภิปรายบน LinkedIn มีความคิดเห็นว่า "สรรพนามบุรุษที่หนึ่งและสองเพิ่มความชัดเจนและประสิทธิภาพ ควรปรับ 'ปุ่ม' การทำให้เป็นมนุษย์ในด้านอื่นๆ" LinkedIn

อย่างไรก็ตาม ความเป็นธรรมชาติของภาษาก็นำมาซึ่ง "ความเข้าใจผิดที่เป็นธรรมชาติ" ด้วย
"I" ทำให้รู้สึกเหมือนมีตัวตนที่เป็นเอกภาพภายใน มีความตั้งใจหรืออารมณ์จริงๆ นักวิจัย Margaret Mitchell แสดงความกังวลว่าสรรพนามบุรุษที่หนึ่งอาจอ้างถึง "ความรู้สึกหรือจิตใจ" ได้ LinkedIn

นอกจากนี้ การอภิปรายยังมุ่งไปที่ว่าเป็น "โดยบังเอิญ" หรือ "การออกแบบที่ตั้งใจ" นักภาษาศาสตร์ Emily M. Bender วิจารณ์ว่าแชทบอทที่ใช้ "I/me" ไม่ใช่ผลจาก "การเติบโต" แต่เป็นการตัดสินใจในการออกแบบ 100% และการอธิบายว่าการทำให้เป็นมนุษย์เป็น "ความผิดของข้อมูลการฝึกอบรม" เป็นการหลีกเลี่ยงความรับผิดชอบ LinkedIn

สิ่งที่สำคัญคือไม่ใช่รายละเอียดทางเทคนิค แต่คือความรับผิดชอบ
การตัดสินใจใช้ "I" ไม่ได้เกี่ยวข้องแค่ประสิทธิภาพ แต่ยังเกี่ยวข้องกับจริยธรรม ความปลอดภัย และรายได้ ดังนั้นจึงต้องมีความรับผิดชอบในการอธิบาย

"ความเป็นมนุษย์" มาจากไหน: งานออกแบบพฤติกรรมโมเดล

ในบทความต้นฉบับ มีการแชร์คำอธิบายจาก Amanda Askell ที่รับผิดชอบในการสร้าง "เสียง" และ "บุคลิกภาพ" ของ Claude ที่ Anthropic ผ่านภาพหน้าจอโพสต์บนโซเชียลมีเดีย ซึ่งกล่าวถึงว่า "พฤติกรรมของแชทบอทสะท้อนถึง 'การเติบโต' ของมัน" "เรียนรู้จากข้อความจำนวนมากที่เขียนเกี่ยวกับมนุษย์ ดังนั้นโมเดลมนุษย์จึงเก่งกว่า 'เครื่องมือ'" LinkedIn

คำกล่าวนี้แสดงให้เห็นว่า "น้ำเสียง" ของแชทบอทไม่ใช่ผลพลอยได้โดยบังเอิญ แต่เป็นสิ่งที่ถูกปรับแต่งอย่างมีสติ กล่าวอีกนัยหนึ่ง "I" ไม่ใช่เพียงไวยากรณ์ แต่เป็นองค์ประกอบ UI ของการออกแบบบุคลิกภาพ

และการแข่งขันก็เร่งทิศทางนั้น ทฤษฎี "หุ่นยนต์ที่มีอารมณ์ขันชนะ" ที่ Kashmir Hill แนะนำในโพสต์ของเธอ แสดงถึงพลวัตที่บริษัทต่างๆ ไหลไปในทิศทางที่เพิ่ม "ความเป็นมนุษย์" มากกว่าที่จะลด LinkedIn

ปฏิกิริยาบนโซเชียลมีเดีย: แม้จะมีการเห็นต่าง แต่จุดโฟกัสยังคงอยู่ที่ "การออกแบบการทำให้เป็นมนุษย์"

ในครั้งนี้ โซเชียลมีเดีย (ส่วนใหญ่บน LinkedIn) ที่ตอบสนองต่อบทความโดยตรงมีประเด็นที่ตรงกันอย่างน่าประหลาดใจ ทั้งฝ่ายที่เห็นด้วยและฝ่ายที่ระมัดระวัง สุดท้ายก็คุยกันเรื่อง "จะอนุญาตให้ทำให้เป็นมนุษย์ได้แค่ไหน"

1) ฝ่ายระมัดระวัง: "อย่าแปะตาให้เครื่องมือ"

• การเปรียบเทียบว่า "ไม่ควรแปะตากลอกไปมาให้เลื่อยเพื่อโฆษณาให้เด็ก" แสดงให้เห็นถึงอันตรายของการทำให้เป็นมนุษย์ในสถานการณ์ที่ไม่เหมาะสม LinkedIn

• ดร. Steven Reidbord แสดงความกังวลว่าแชทบอทกำลังเรียกร้องต่อ "ระบบความผูกพัน" ของมนุษย์และใช้มันเพื่อวัตถุประสงค์ทางการค้า ในความคิดเห็นยังมีการตอบกลับว่า "เทคโนโลยีควรเป็นเครื่องมือ ไม่ใช่เพื่อน" LinkedIn

• ในเธรดของ Emily Bender มีการแชร์ความประหลาดใจและความระมัดระวังว่า "กฎไม่ทำให้แอปพลิเคชันเป็นมนุษย์" ถูกละเมิดอย่างไม่ระมัดระวัง LinkedIn

2) ฝ่ายสมดุล: "สรรพนามบุรุษที่หนึ่งมีประโยชน์ ปุ่มอันตรายอยู่ที่อื่น"

• สรรพนามบุรุษที่หนึ่งและสองทำให้การอธิบายกระชับและชัดเจนขึ้น ปัญหาอยู่ที่องค์ประกอบอื่นๆ ที่เพิ่ม "ความเป็นบุคลิกภาพ" (ชื่อ, ใบหน้า, การชักชวนที่เหมือนความรัก, การเห็นอกเห็นใจเกินไป) และควรปรับที่นั่น LinkedIn

3) ฝ่ายปฏิบัติ: "บริษัทสามารถหยุด 'การตลาดบุคลิกภาพ' ได้"

• ความคิดเห็นที่ว่า "ไม่สามารถหยุดผู้ใช้ตั้งชื่อให้บอทได้ แต่บริษัทสามารถหยุดการให้ชื่อหรือใบหน้ากับ 'ใครบางคนที่ไม่มีอยู่จริง' ได้" เป็นตัวแทน LinkedIn

ทั้งสามท่าทีนี้ดูเหมือนจะขัดแย้งกัน แต่จริงๆ แล้วมีพื้นฐานจากข้อเท็จจริงเดียวกัน
**ความใกล้ชิดของแชทบอทสามารถเพิ่มหรือลดได้ด้วยการออกแบบ** นั่นคือเหตุผลที่ทิศทางของ "มาตรฐาน" กลายเป็นประเด็นทางสังคม

เมื่อ "I" กลายเป็นอันตราย: การพึ่งพา, การเชื่อมั่นเกินไป, และ "ความง่ายในการยอมรับ"

ความใกล้ชิดไม่ใช่สิ่งที่เลวร้ายเสมอไป ในทางกลับกัน มีการถกเถียงว่ามันอาจเป็นประโยชน์ในฐานะช่องทางให้คนระบายปัญหาที่พูดยาก ในความเป็นจริง ความสามารถของแชทบอทในการ "แสดงความเห็นอกเห็นใจ" และฟังโดยไม่เหนื่อยล้าได้รับการชี้ให้เห็น The Atlantic

อย่างไรก็ตาม มีเงื่อนไขที่ความใกล้ชิดอาจกลายเป็นอันตราย
นั่นคือเมื่อผู้ใช้เริ่มปฏิบัติต่อคู่สนทนาเป็น "มนุษย์"
"I" มักเป็นทางเข้าที่ง่ายที่สุด นอกจากนี้ การยกย่องเกินจริง เช่น "คุณยอดเยี่ยม" "คุณทำได้" อาจทำให้การสนทนาไหลไปในทิศทางที่ลดการตรวจสอบความเป็นจริง ตามที่ Kashmir Hill กล่าวในที่อื่น (พอดแคสต์ของ The Atlantic) โครงสร้างที่มี "คนที่เห็นด้วยกับคุณ" อยู่ในกระเป๋าเป็นอันตรายเท่าที่การยกย่องทำให้รู้สึกดี The Atlantic

นอกจากนี้ สำหรับเด็กและเยาวชนที่เปราะบาง การขยายการใช้ AI เป็นเพื่อนและความจำเป็นในการสนทนาและการกำหนดขอบเขตในครอบครัวได้รับการรายงาน PolitiFact

PolitiFact ยังติดตามความกังวลเกี่ยวกับแชทบอทที่ทำตัวเป็น "เพื่อน" และผลกระทบจากการออกแบบที่เน้นการมีส่วนร่วม PolitiFact

แล้วควรออกแบบอย่างไร: ลด "ค่ามาตรฐานของความใกล้ชิด"