ความน่าเชื่อถือของ AI จะพัฒนาไปถึงไหน? ความตื่นเต้นของการรับประกันข้อผิดพลาด 0%: ทฤษฎีใหม่ที่ควบคุมความไม่แน่นอนของ AI ด้วยสมการ

บทนำ―คำถามที่ว่า "AI ปลอดภัยจริงหรือ?"

ในขณะที่กระแส AI สร้างสรรค์กำลังบูม ในด้านที่เกี่ยวข้องกับชีวิตเช่นการแพทย์และการขับขี่อัตโนมัติ"อุบัติเหตุที่มีความน่าจะเป็น 0.01 %" อาจนำไปสู่สถานการณ์ที่เลวร้ายที่สุด กุญแจสำคัญคือการวัด "ความไม่แน่นอน (Uncertainty)" อย่างเป็นปริมาณ อย่างไรก็ตาม วิธีการประมาณแบบดรอปเอาท์หรือการอนุมานแบบเบย์ที่ใช้กันทั่วไปในปัจจุบันเป็นเพียง "การประมาณ" เท่านั้น **"วิธีการที่รับประกันทางคณิตศาสตร์ว่าไม่มีข้อผิดพลาดเกิดขึ้น"** แทบไม่มีอยู่จริง

ความก้าวหน้าของ TU Wien

ในเดือนมิถุนายน 2025 Andrey Kofnov และทีมจาก **มหาวิทยาลัยเทคโนโลยีเวียนนา (TU Wien)** ได้เปิดตัววิธีการที่ "แบ่งพื้นที่อินพุตออกเป็นโพลีโทปหลายมิติ และคำนวณขอบเขตบน/ล่างของการกระจายผลลัพธ์อย่างแม่นยำในแต่ละพื้นที่" บทความนี้ได้รับการเผยแพร่ใน arXiv และได้รับการยอมรับใน ICML 2025phys.org.

อะไรคือสิ่งใหม่?

1. การแบ่งพาร์ติชันทางเรขาคณิต

   • แมปเครือข่าย ReLU และแบ่งพื้นที่อินพุตออกเป็นโพลีโทปนูนแบบกระเบื้อง

   • ทำการ "กักขัง" ด้วยการแมปเชิงเส้นในแต่ละพื้นที่โพลีโทป และวิเคราะห์การกระจายความน่าจะเป็นของผลลัพธ์

2. คำนวณขอบเขตบนและล่างอย่าง "แม่นยำ"

   • ไม่ใช่การประมาณ แต่เป็นการพิสูจน์ทางคณิตศาสตร์ว่า "จะไม่ออกนอกขอบเขตนี้"

3. สามารถจัดการการกระจายความน่าจะเป็นทั้งหมดได้

   • สามารถทั่วไปกับ ReLU/tanh/ซอฟต์แม็กซ์ เป็นต้น

4. จำกัดเฉพาะ NN ขนาดเล็ก

   • สำหรับ LLM ยังมีปริมาณการคำนวณที่มาก (ผู้เขียนก็ระบุว่าเป็นปัญหา)phys.org.

หัวใจของเทคโนโลยี: การทำให้พื้นที่หลายมิติ "มองเห็นได้"

• พื้นที่อินพุต: พิกเซล×เสียงรบกวน×แสงสว่าง เป็นต้น เป็น "จักรวาล n มิติ"

• การแบ่ง: สร้างโพลีโทปที่ขอบเขตที่รูปแบบการกระตุ้นเปลี่ยนแปลง

• การวิเคราะห์: ภายในแต่ละโพลีโทป NN เป็นเชิงเส้น ดังนั้นการกระจายผลลัพธ์คือการกระจายความน่าจะเป็นหลังการแปลงเชิงเส้น

• การรวม: รวมโพลีโทปทั้งหมดและให้ขอบเขตบนและล่างแก่ฟังก์ชันการกระจายสะสม (CDF) ของผลลัพธ์

การเปรียบเทียบกับวิธีการที่มีอยู่

สถานการณ์การประยุกต์ใช้

1. AI ฝังตัวทางการแพทย์: อุปกรณ์ที่การวินิจฉัยผิดพลาดอาจเป็นอันตราย เช่น โมเดลการจำแนกภาพของหุ่นยนต์สายสวน

2. การผสมผสานเซ็นเซอร์ในรถยนต์อัตโนมัติ: ตรวจสอบ NN ที่ผสมผสานอัลตราซาวด์/เรดาร์ด้วยการพิสูจน์ 100%

3. การคำนวณความเสี่ยงทางการเงิน: รวม NN ขนาดเล็กในการตรวจสอบแบบเรียลไทม์เพื่อรับประกันเกณฑ์

ปฏิกิริยาบน SNS

• ผู้ใช้ Hacker News @quant_curious

  "ทฤษฎีนี้สวยงามกว่าการวัดคุณภาพด้วยการตรวจสอบการปฏิเสธใน UQ ที่มีอยู่"news.ycombinator.com

• ความคิดเห็นใน Hacker News @esafak

  "แม้ว่า Bayes NN จะสามารถให้ความไม่แน่นอนได้ แต่การปรับเทียบเป็นเรื่องยาก การรับประกันทางคณิตศาสตร์คือการเปลี่ยนเกม"news.ycombinator.com

• กระทู้ Reddit r/MachineLearning

  "UQ ของ Deep Learning ถูกกล่าวว่า 'อีกก้าวเดียว' หากมีการพิสูจน์แล้ว การรับรองจาก FDA ก็อาจเป็นไปได้"reddit.com

• ใน X (Twitter เดิม) บัญชีอย่างเป็นทางการของ TU Wien ได้

  "เปิดบทใหม่ของ #AI ด้านความปลอดภัย" และรายงานการยอมรับใน ICML ได้รับมากกว่า 500 ไลค์ (โพสต์เมื่อ 2025-07-01)tuwien.at

เสียงจากผู้เชี่ยวชาญ

• Prof. Ezio Bartocci (ผู้ร่วมเขียน)

  "แม้ว่าโมเดลขนาดใหญ่เช่น ChatGPT จะเป็นเป้าหมายที่ห่างไกล แต่เราต้องการสร้างวัฒนธรรมการพิสูจน์ความปลอดภัยจากโมเดลขนาดเล็ก"phys.org

• ความคิดเห็นจากนักวิจัยภายนอก
  นักสถิติแบบเบย์แสดงความคิดเห็นว่า "ความแม่นยำเป็นสิ่งที่ยอดเยี่ยม แต่การประนีประนอมกับความเป็นจริงของการใช้งานยังคงเป็นปัญหา" (Hacker News)news.ycombinator.com.

ปัญหาและอนาคต

1. การลดต้นทุนการคำนวณ: ลดการเพิ่มขึ้นแบบเอ็กซ์โพเนนเชียลของจำนวนโพลีโทปด้วยการสุ่มตัวอย่าง/การประมาณ

2. การขยายไปยัง NN ขนาดกลาง: ต้องการประเมินพารามิเตอร์ระดับหมื่นด้วย GPU ภายในไม่กี่นาที

3. การตอบสนองต่อกฎระเบียบ: การผสมผสานการรับประกันทางคณิตศาสตร์ในการตรวจสอบ "ระบบความเสี่ยงสูง" ของ EU AI Act

สรุป

• ความสำคัญ: เปิดทางให้ AI มีความปลอดภัยโดย "ไม่ใช้ความน่าจะเป็น แต่ใช้คณิตศาสตร์เพื่อพิสูจน์"

• ผลกระทบ: หากแพร่หลายในอุปกรณ์การแพทย์ การควบคุมการบิน เป็นต้น ในพื้นที่ที่ "ไม่มีความอดทนต่อข้อผิดพลาด" การนำ AI มาใช้จะเร่งขึ้น

• ภาพอนาคต: ในปี 2030 อาจมีการยอมรับว่างานแรกคือการลดขนาด NN เพื่อการตรวจสอบอย่างแม่นยำ แล้วจึงกลั่นกรองไปยังโมเดลขนาดใหญ่