"วันที่การวิจัย 'ไม่เกี่ยวข้องกับมนุษย์' เพิ่มขึ้น - การล่อลวงให้ข้ามการตรวจสอบ: ข้อมูลทางการแพทย์สังเคราะห์ที่เร่งการวิจัย, ความเชื่อมั่นที่สั่นคลอน"

มหาวิทยาลัยข้ามการตรวจสอบจริยธรรมด้วย "ข้อมูลทางการแพทย์สังเคราะห์"?—การวิจัย AI ที่สั่นคลอนระหว่างความเร็วและความไว้วางใจ

บทนำ

"ถ้าเป็น 'ข้อมูลทางการแพทย์สังเคราะห์' ที่สร้างโดย AI ก็ไม่ต้องจัดการกับผู้เข้าร่วมมนุษย์ ดังนั้นไม่ต้องผ่านการตรวจสอบจริยธรรม (IRB)"—สถาบันวิจัยทางการแพทย์หลายแห่งในแคนาดา สหรัฐอเมริกา และอิตาลี กำลังดำเนินการวิจัยโดยข้ามการตรวจสอบจริยธรรมตามเหตุผลนี้ Nature รายงานเรื่องนี้และเกิดการถกเถียงอย่างร้อนแรงบนโซเชียลมีเดียทั้งในและต่างประเทศ เบื้องหลังคือการบ้านที่ AI ทางการแพทย์ต้องเผชิญในการรักษาความเป็นส่วนตัวของผู้ป่วยและความเร็วในการวิจัยNature

WebProNews ได้รายงานเกี่ยวกับการเคลื่อนไหวนี้ โดยเน้นถึงข้อดีของการเร่งการวิจัยและความกังวลเกี่ยวกับการลดมาตรฐานจริยธรรม ในบทความนี้ เราจะสรุปประเด็นหลักจากบทความต้นฉบับ พร้อมทั้งข้อมูลวิจัยล่าสุด แนวทางการกำกับดูแล และปฏิกิริยาบนโซเชียลมีเดีย เพื่อจัดระเบียบประเด็นที่ผู้เกี่ยวข้องจากบริษัท มหาวิทยาลัย และสื่อควรทราบWebProNews

เกิดอะไรขึ้น: ข้อมูลสังเคราะห์และทฤษฎี "ไม่ใช่การวิจัยที่เกี่ยวข้องกับมนุษย์"

ตามบทความของ Nature การวิจัยที่ใช้ข้อมูลสังเคราะห์ที่สร้างโดย AI กำลังแพร่หลายในมหาวิทยาลัยวอชิงตัน (สหรัฐฯ), โรงพยาบาลเด็กออตตาวา/โรงพยาบาลออตตาวา (แคนาดา), และ IRCCS Humanitas Research Hospital (อิตาลี) โดยถือว่า "ไม่ใช่การวิจัยที่เกี่ยวข้องกับมนุษย์" และไม่ต้องการการตรวจสอบ IRB เนื่องจากไม่รวมข้อมูลที่สามารถระบุตัวตนของผู้ป่วยจริงได้ ในสหรัฐอเมริกา การตีความนี้สอดคล้องกับ Common Rule ปี 1991 อย่างไรก็ตาม กระบวนการเข้าถึงข้อมูลจริงเพื่อสร้างข้อมูลสังเคราะห์ยังคงต้องได้รับการอนุมัติจาก IRB ซึ่งทำให้การกำหนดเส้นแบ่งไม่เป็นเอกภาพNature

ข้อมูลสังเคราะห์คืออะไร

เป็นวิธีการที่ใช้โมเดลการสร้างที่เรียนรู้จากข้อมูลผู้ป่วยจริงเพื่อสร้างบันทึกปลอมที่มีคุณสมบัติทางสถิติที่คล้ายคลึงกัน ผู้สนับสนุนกล่าวว่าสามารถแชร์ได้ง่ายและส่งเสริมความร่วมมือระหว่างสถาบัน อย่างไรก็ตาม ยังมีความกังวลเกี่ยวกับอคติและการรั่วไหลของข้อมูลขึ้นอยู่กับวิธีการสร้างNature

ความปลอดภัยของความเป็นส่วนตัว: การระบุตัวตนซ้ำและการอนุมานสมาชิก

"การทำให้ไม่ระบุตัวตนหรือการสังเคราะห์ = ปลอดภัย" ไม่เสมอไป Stanford HAI ได้เตือนว่า การทำให้ไม่ระบุตัวตนที่พึ่งพาการลบ 18 รายการตาม HIPAA ไม่สามารถกำจัดความเสี่ยงในการระบุตัวตนซ้ำได้อย่างสมบูรณ์ เนื่องจากมีโอกาสที่บุคคลจะถูกระบุตัวตนผ่านการจับคู่กับข้อมูลภายนอกStanford HAI

นอกจากนี้ การวิจัยในปี 2024 ยังแสดงให้เห็นว่า แม้แต่โมเดลที่เรียนรู้จากบันทึกทางคลินิกที่ทำให้ไม่ระบุตัวตนหรือบันทึกสังเคราะห์ก็ยังสามารถถูกโจมตีด้วยการอนุมานสมาชิกเพื่อคาดเดาว่าข้อมูลการฝึกอบรมมีอยู่หรือไม่ ซึ่งทำให้เหตุผลในการข้ามการตรวจสอบที่อ้างว่า "ไม่มีการมีส่วนร่วมของผู้ป่วยจริง" สั่นคลอนNature

พื้นที่สีเทาของจริยธรรมและกฎหมาย: การตรวจสอบไม่ใช่ตัวเลือก "ศูนย์หรือเต็ม"

ในโลกของ IRB กรอบการทำงานเพื่อสนับสนุนการตรวจสอบการวิจัย AI กำลังพัฒนา MRCT Center ที่ฮาร์วาร์ดจะเผยแพร่ กรอบการตรวจสอบ IRB สำหรับการวิจัย AI ในปี 2025 โดยมีรายการตรวจสอบการปฏิบัติที่ครอบคลุมตั้งแต่การตัดสินใจว่าเป็นการวิจัยหรือไม่ การมีส่วนร่วมของมนุษย์ การใช้ AI (การแทรกแซงหรือช่วยเหลือการดำเนินงาน) ไปจนถึง ความยุติธรรม ความโปร่งใส การยินยอม และการกำกับดูแลข้อมูล ไม่ใช่แค่การข้ามการตรวจสอบหรือการตรวจสอบเต็มรูปแบบ แต่ส่งเสริมการกำกับดูแลที่สอดคล้องกันซึ่งรวมถึงการตรวจสอบแบบ "เบา" ตามความเสี่ยงศูนย์ทดลองทางคลินิกของโรงพยาบาล Brigham and Women's

ความเร็วในการวิจัย vs ความไว้วางใจของสังคม: ประโยชน์และผลข้างเคียง

ประโยชน์ที่ผู้สนับสนุนเน้นย้ำชัดเจน ข้อมูลสังเคราะห์ทำให้การแชร์ข้อมูลข้ามสถานที่ง่ายขึ้น และ เพิ่มความเร็วและขนาดของการวิจัย การจำลองโรคหายากหรือปฏิกิริยาต่อยา การสร้างการติดตามผลระยะยาวใหม่ สิ่งที่ยากต่อการตรวจสอบด้วยข้อมูลจริงเพียงอย่างเดียว—Nature ยังได้กล่าวถึงจุดนี้ในคำพูดของผู้เกี่ยวข้องNature

อย่างไรก็ตาม, **ถ้าการข้ามการตรวจสอบเพื่อความเร็วกลายเป็นเรื่องปกติ จะเกิด "ต้นทุนที่มองไม่เห็น" ของการสึกกร่อนของความไว้วางใจจากสังคม** อย่าลืมว่าความคิดเห็นของประชาชนต่อ "การทดลองลับ" ที่ใช้การสังเคราะห์และ AI กำลังเพิ่มขึ้นThe Washington Post

โซเชียลมีเดียตอบสนองอย่างไร: บรรยากาศของการสนับสนุนและการคัดค้าน

• โพสต์ของ Nature เป็นจุดเริ่มต้นที่ทำให้บัญชีชุมชนห้องสมุดการแพทย์และแพทย์ฉุกเฉินแชร์กันอย่างกว้างขวาง ความสนใจจากสถานที่คลินิกสูง และมีการตอบสนองอย่างรุนแรงต่อหัวข้อที่ว่า "สามารถข้ามการตรวจสอบปกติได้"X (formerly Twitter)X (formerly Twitter)

• นักวิจัยและนักการศึกษาบางส่วนโพสต์วิจารณ์ว่า **"น่าสงสัยอย่างยิ่ง (deeply dubious)"** เนื่องจากการยกเว้นการตรวจสอบจริยธรรมอาจส่งเสริมการวิจัยที่ไม่ถูกต้องหรือการ "หลุดควบคุม" ของอัลกอริทึมX (formerly Twitter)

• Retraction Watch ก็แชร์บทความนี้ การกระจายของสื่อที่ติดตามการดำเนินการที่ไม่เหมาะสมหรือการถอนงานวิจัย AI สะท้อนถึง "สายตาที่จับตามอง" ที่เพิ่มขึ้นX (formerly Twitter)

เมื่อรวมบรรยากาศของโซเชียลมีเดียแล้ว ชุมชนคลินิกและการศึกษามีทั้ง "ความคาดหวังที่รอดู" และ "ความไม่ไว้วางใจต่อการละเลยกระบวนการ" มีความแตกต่างของอุณหภูมิที่ชัดเจน โดยที่กลุ่มการแพทย์และจริยธรรมมีความระมัดระวังมากกว่ากลุ่มเทคโนโลยีทั่วไป

สำหรับผู้ปฏิบัติงาน: "7 การตรวจสอบตนเอง" ของข้อมูลทางการแพทย์สังเคราะห์

แม้จะ "ข้ามการตรวจสอบ" แต่ก็ยังมีสิ่งที่ต้องทำมากมาย นี่คือความจริงที่บทความของ Nature และแนวทางของ MRCT รวมถึงการวิจัยความเป็นส่วนตัวชี้ให้เห็น ก่อนเริ่มโครงการ ควรตรวจสอบอย่างน้อย 7 ข้อต่อไปนี้

1. การตรวจสอบกระบวนการสร้าง: เอกสารโปรโตคอลการประเมินความสังเคราะห์ (ความสัมพันธ์ระหว่างจริงกับสังเคราะห์ ความคล้ายคลึงทางสถิติ) และความเป็นไปได้ในการ "ย้อนกลับ"Nature

2. โมเดลภัยคุกคามความเป็นส่วนตัว: การประเมินการอนุมานสมาชิก การระบุตัวตนซ้ำ ความสามารถในการเชื่อมโยง (ใช้ความเป็นส่วนต่างถ้าจำเป็น)Nature

3. การ์ดข้อมูล/การ์ดโมเดล: เผยแพร่แหล่งที่มาของข้อมูล การกรอง อคติ ข้อควรระวังในการใช้งานที่ไม่คาดคิด (ภายในก็ได้)ศูนย์ทดลองทางคลินิกของโรงพยาบาล Brigham and Women's

4. การตรวจสอบความยุติธรรม: ตรวจสอบช่องว่างของความเป็นตัวแทน (การจัดการกับกลุ่มน้อยหรือโรคหายาก)ศูนย์ทดลองทางคลินิกของโรงพยาบาล Brigham and Women's

5. มนุษย์ในวงจร: ถ้ามีส่วนร่วมในการตัดสินใจ ให้ระบุจุดที่มนุษย์เข้ามาเกี่ยวข้องและวาล์วหยุดการทำงาน (เงื่อนไขการหยุด)##HTML_TAG_343