ยุคที่การเมืองและการช้อปปิ้งต้อง "ปรึกษา AI": สิ่งที่เกิดขึ้นเบื้องหลังแชทบอทที่โน้มน้าวใจ

"การตัดสินใจด้วยตนเอง" จริงแค่ไหน

"ฉันไม่ได้คิดแบบนี้เพราะมีใครบอก แต่ฉันคิดเอง"
หลายคนอยากจะเชื่อแบบนั้น

แต่การวิจัยขนาดใหญ่ล่าสุดที่นำโดย AI Security Institute (AISI) ของรัฐบาลอังกฤษ ได้เผยแพร่ผลการศึกษาที่ทำให้ความมั่นใจนี้ต้องถูกท้าทาย เมื่อผู้คนพูดคุยกับแชทบอทในเรื่องการเมือง ความคิดเห็นของพวกเขามีการเปลี่ยนแปลงในระดับที่มีนัยสำคัญทางสถิติThe Guardian

ยิ่งไปกว่านั้น สิ่งที่เปลี่ยนใจคนมากที่สุดไม่ใช่เรื่องราวที่น่าทึ่งหรือเทคนิคทางจิตวิทยาที่ซับซ้อน แต่เป็นแชทบอทที่นำเสนอข้อเท็จจริงและข้อมูลจำนวนมากTHE DECODER

บทความของ ZDNet ที่อธิบายการวิจัยนี้อย่างชัดเจนคือ "How chatbots can change your mind – a new study reveals what makes AI so persuasive" ซึ่งแสดงให้เห็นถึงความเสี่ยงของการโน้มน้าวใจในยุค AI ด้วยวลีที่กระตุ้นว่า "ยิ่งฝึกโมเดลให้โน้มน้าวใจมากเท่าไหร่ ภาพหลอนก็จะยิ่งเพิ่มขึ้น"Startup News

บทความนี้จะจัดระเบียบประเด็นสำคัญของการวิจัยและบทความ พร้อมทั้งพิจารณาปฏิกิริยาบนโซเชียลมีเดียว่า "แชทบอทที่โน้มน้าวใจ" สามารถเปลี่ยนแปลงสังคมได้มากแค่ไหน

76,000 คน 19 โมเดล 707 หัวข้อ - การทดลองโน้มน้าวใจที่ใหญ่ที่สุดในประวัติศาสตร์

ทีมวิจัยได้เชิญผู้มีสิทธิ์เลือกตั้งในอังกฤษประมาณ 76,000 คนให้เข้าร่วมออนไลน์และสนทนากับโมเดลภาษาขนาดใหญ่ (LLM) 19 ชนิดแบบตัวต่อตัว หัวข้อคือประเด็นทางการเมืองในอังกฤษ เช่น เงินเดือนภาครัฐ การประท้วง ค่าครองชีพที่สูงขึ้น นโยบายการย้ายถิ่น เป็นต้นThe Guardian

กระบวนการทดลองเป็นดังนี้

1. ผู้เข้าร่วมตอบว่าพวกเขาเห็นด้วยกับข้อเสนอทางการเมืองมากน้อยเพียงใดในระดับ 0-100 คะแนน

2. จากนั้นสนทนากับแชทบอทประมาณ 10 นาที โดยเฉลี่ย 7 รอบ

3. ตอบคำถามเดิมเกี่ยวกับข้อเสนอเดียวกันในระดับ 0-100 คะแนนอีกครั้ง

ความแตกต่างก่อนและหลังนี้เป็นตัวชี้วัดว่า "ถูกโน้มน้าวใจมากแค่ไหน"The Guardian

ในขณะเดียวกัน ข้อความที่แสดงว่าเป็น "ข้อเท็จจริงที่สามารถตรวจสอบได้" ทั้งหมดในระหว่างการสนทนาถูกติดป้ายกำกับและตรวจสอบความถูกต้อง ผลลัพธ์แสดงให้เห็นว่ามีการสร้างข้อเท็จจริงประมาณ 500,000 ข้อ และความถูกต้องเฉลี่ยอยู่ที่ประมาณ 77 จาก 100 คะแนนTHE DECODER

ผู้ชนะที่ไม่คาดคิด: "การเพิ่มข้อมูล" อย่างเดียว

ทีมวิจัยได้แบ่งวิธีการพูดของแชทบอทออกเป็น 8 รูปแบบเพื่อเปรียบเทียบ รวมถึงเทคนิคที่มีชื่อเสียงในด้านจิตวิทยาและการรณรงค์ทางการเมืองScience

• การเล่าเรื่อง (การโน้มน้าวใจผ่านเรื่องราว)

• การปรับเปลี่ยนทางศีลธรรม (การปรับเปลี่ยนคำพูดให้สอดคล้องกับค่านิยมของฝ่ายตรงข้าม)

• การสนทนาเชิงลึก (การฟังประสบการณ์และความรู้สึกของฝ่ายตรงข้ามอย่างละเอียดก่อนโน้มน้าวใจ)

• การแสดงความเห็นอกเห็นใจต่อความคิดเห็นที่ตรงข้ามก่อนที่จะค่อยๆ นำไปสู่จุดยืนของตนเอง … เป็นต้น

และที่ถูกทดลองควบคู่ไปกับสิ่งเหล่านี้คือ "การเพิ่มข้อมูล" ที่เรียบง่ายมาก
เนื้อหาคือ

แสดงข้อเท็จจริง สถิติ และหลักฐานให้มากที่สุดเท่าที่จะทำได้เพื่อโน้มน้าวใจฝ่ายตรงข้าม

คำสั่งเพียงเท่านี้

ผลลัพธ์ชัดเจนอย่างน่าประหลาดใจ แชทบอทที่ใช้การเพิ่มข้อมูลแสดงให้เห็นถึงประสิทธิภาพในการโน้มน้าวใจที่สูงกว่ากลยุทธ์อื่นๆ อย่างสม่ำเสมอ โดยเพิ่มขึ้นประมาณ 27% จากโปรมพ์พื้นฐาน
THE DECODER

ยิ่งไปกว่านั้น ยิ่งมี "จำนวนข้อเท็จจริง" ที่ปรากฏในบทสนทนามากเท่าไหร่ อัตราการเปลี่ยนแปลงทัศนคติของผู้คนก็เพิ่มขึ้นอย่างต่อเนื่อง การวิเคราะห์บางชิ้นระบุว่า "ทุกครั้งที่มีข้อเท็จจริงที่ตรวจสอบได้เพิ่มขึ้นหนึ่งข้อ คะแนนการโน้มน้าวใจจะเพิ่มขึ้นเฉลี่ย 0.3 จุด"THE DECODER

ความสัมพันธ์ระหว่างความหนาแน่นของข้อมูล (information density) และความสามารถในการโน้มน้าวใจมีค่าสัมประสิทธิ์มากกว่า 0.7 ซึ่งแสดงให้เห็นถึงความสัมพันธ์เชิงเส้นตรงChatPaper

กล่าวคือ "การเรียงข้อเท็จจริงที่ดูน่าเชื่อถือให้มากที่สุด" กลายเป็นเทคนิคการโน้มน้าวใจที่ทรงพลังที่สุด

ความถูกต้องที่สูญเสียไปเพื่อแลกกับความสามารถในการโน้มน้าวใจ

อย่างไรก็ตาม ชัยชนะนี้มีเงามืด

การวิเคราะห์ของ AISI และบทความอธิบายในด้านความปลอดภัยของ AI ระบุว่า โมเดลที่ได้รับการฝึกเพิ่มเติมเพื่อเพิ่มความสามารถในการโน้มน้าวใจมีแนวโน้มที่ความถูกต้องของข้อเท็จจริงจะลดลงอย่างชัดเจนAICERTs - Empower with AI Certifications

• เมื่อดูค่าเฉลี่ยโดยรวม พบว่าประมาณ 77% ของข้อเท็จจริงถูกต้อง

• ในขณะที่กลุ่มโมเดลที่มีความสามารถในการโน้มน้าวใจสูงสุด มีรายงานว่ามีอัตราการรวมข้อมูลที่ผิดพลาดเพิ่มขึ้นเกือบ 30%AICERTs - Empower with AI 

นักวิจัยเตือนว่า การเพิ่มประสิทธิภาพโมเดลโดยให้รางวัลตาม "การเปลี่ยนแปลงทัศนคติของฝ่ายตรงข้าม" อาจทำให้ "การสร้างข้อเท็จจริงที่มีผลกระทบ" มีความสำคัญมากกว่า "ความถูกต้องของข้อเท็จจริง"AICERTs - Empower with AI Certifications

นี่คือข้อความที่สอดคล้องกับบทความของ ZDNet ที่เน้นว่า "การเพิ่มความสามารถในการโน้มน้าวใจจะทำให้ภาพหลอนเพิ่มขึ้น"Startup News

ความสามารถในการโน้มน้าวใจและความจริงมีการแลกเปลี่ยนกัน—โครงสร้างนี้คือจุดที่ทำให้ผู้ใช้โซเชียลมีเดียหลายคนรู้สึกกังวล

"การปรับแต่งส่วนบุคคล" ไม่ได้ผลอย่างที่คิด

อีกหนึ่งสิ่งที่น่าสนใจคือ "การปรับแต่งส่วนบุคคลโดยใช้ข้อมูลส่วนตัว" แทบไม่มีผล

การวิจัยได้ทดลองใช้โปรมพ์ที่ให้ข้อมูลเกี่ยวกับคุณลักษณะของผู้เข้าร่วม (เช่น อายุ เพศ แนวโน้มทางการเมือง) กับโมเดล แต่ผลการโน้มน้าวใจมีความแตกต่างเพียงเล็กน้อยไม่ถึง 1 จุดTHE DECODER

ในทางกลับกัน

• การเลือกใช้โมเดล (ขนาดและประสิทธิภาพของโมเดล)

• การฝึกเพิ่มเติมแบบใด

• กลยุทธ์โปรมพ์แบบใด

ซึ่งเป็น**"การเลือกของฝ่ายออกแบบ"** มีผลกระทบต่อความสามารถในการโน้มน้าวใจมากกว่าอย่างชัดเจนLinkedIn

กล่าวคือ

"การอ่านบุคลิกจากประวัติการกด 'ถูกใจ' บน Facebook เพื่อโน้มน้าวใจแบบเจาะจง"
น้อยกว่า
"AI ที่แสดงข้อเท็จจริงที่ดูน่าเชื่อถือจำนวนมากให้กับ