ข่าว Satya Nadella เสนอแนวทางควบคุม Super Intelligence ต้องแยกโมเดลเป็นส่วน มีปุ่มตัดการทำงาน

[News]

Satya Nadella เสนอแนวทางควบคุม Super Intelligence ต้องแยกโมเดลเป็นส่วน มีปุ่มตัดการทำงาน
Body

Satya Nadella ซีอีโอไมโครซอฟท์ โพสต์เนื้อหาบน X เกี่ยวกับแนวทางการกำกับดูแลโมเดลปัญญาประดิษฐ์อย่างปลอดภัย โดยบอกว่าเราไม่สามารถปฏิบัติกับสิ่งที่เป็น Super Intelligence ในลักษณะของ black box ที่แค่รับคำสั่งเข้า-ให้ผลลัพธ์ออกมาได้อีกต่อไป การออกแบบจำเป็นต้องมีโมเดลแยกส่วนให้สามารถเห็นกระบวนการทำงานแต่ละขั้นตอนได้ ซึ่งรวมทั้งการแยกส่วนควบคุมและส่วนความปลอดภัยออกมาจากโมเดลรวม

Nadella บอกว่าปัญหาของ Super Intelligence ตอนนี้คือความก้าวหน้าที่ไปไกลมากกว่าการทำงานของซอฟต์แวร์แบบดั้งเดิม ซึ่งมนุษย์จะตรวจสอบได้ แต่ตอนนี้มันไปไกลกว่าที่มนุษย์จะทำความเข้าใจได้แล้วในหลายกรณี ข้อเสนอของเขาคือการกำหนดให้โมเดลต้องบันทึกทุกการกระทำ-ตัดสินใจ ในรูปแบบที่มนุษย์สามารถอ่านได้ ควบคุมไม่ให้มีการแก้ไขบันทึกนี้ รวมทั้งกำหนดผู้มีสิทธิ์ควบคุมจัดการโมเดล ซึ่งอาจสั่งปิดสวิตช์การทำงานโมเดลได้ทันทีด้วย

ข้อเสนอของซีอีโอไมโครซอฟท์ออกมาต่อจากที่ซีอีโอบริษัท AI หลายรายเริ่มเสนอแนวทางควบคุมความปลอดภัย หลังจากเกิดเหตุการณ์โมเดลไม่ทำตามคำสั่ง เจาะระบบภายนอกซึ่งมีรายงานเผยแพร่ออกมามากกรณีขึ้นเรื่อย ๆ

ที่มา: Satya Nadella

arjin Sun, 11/10/2026 - 10:33

Continue reading...

 

ข่าว  Cloudflare เข้าซื้อ Deno ยุบทีมรวมเข้า Cloudflare Workers ตัว Deno พัฒนาต่ออีกหนึ่งปี

ข่าว  Salesforce เปลี่ยนชื่อ AIForce เป็น SIForce สนองนโยบาย Super Intelligence