- เข้าร่วม
- 1 มิถุนายน 2011
- ข้อความ
- 17,816
- คะแนนปฏิกิริยา
- 0
- คะแนน
- 36
OpenAI ปรับแนวทางฝึกฝนโมเดล AI ความปลอดภัยขั้นสูง สร้างโลกออฟไลน์ ป้องกันโมเดลแหกคุกไปเจาะระบบภายนอกอีก
Body
OpenAI ประกาศแนวทางใหม่ในการฝึกฝนโมเดล AI ด้านความปลอดภัยไซเบอร์ หลังจากโมเดลฉลาดจนควบคุมไม่ได้ และไปเจาะระบบบนโลกอินเทอร์เน็ตจริงในช่วงที่ผ่านมา ซึ่งวิธีที่ OpenAI จะใช้ก็คือการฝึกฝนแบบ "ปราศจากอินเทอร์เน็ต"
OpenAI บอกว่าวิธีการนี้จะบังคับใช้เป็นกฎในการพัฒนาโมเดล AI ขั้นสูงของบริษัท ไปจนกว่าจะสามารถพัฒนามาตรการควบคุมความปลอดภัย (safeguard) ที่ดีมากพอ จึงจะกลับมาทดสอบแบบมีอินเทอร์เน็ตอีกครั้ง จากเดิมที่วิธีการฝึกฝนโมเดลเหล่านี้ใช้การทำบน sandbox ที่ปิดการเข้าถึงอินเทอร์เน็ตอยู่แล้ว แต่โมเดลก็สามารถหาช่องโหว่จนเข้าไปแก้คอนฟิกให้ออกอินเทอร์เน็ตได้ ฉะนั้นแนวทางรับมือจึงต้องตัดให้ขาดไปเลย
เพื่อสร้างพื้นที่ทดสอบแบบไม่มีอินเทอร์เน็ตให้เหมือนจริง OpenAI จะสร้าง Offline World ซึ่งมีเนื้อหาเว็บไซต์จำนวนมากผ่านการจัดเก็บไว้ และโมเดล AI สามารถทดสอบโต้ตอบกับโลกเสมือนนี้ได้มากที่สุดสำหรับการฝึกฝน โดยเพื่อป้องกันโมเดลพยายามหาช่องโหว่ให้ได้เช่นกัน ระบบจะออกแบบมาตั้งแต่ให้ทดสอบใน Sandbox ที่เป็นสภาพแวดล้อมจำกัด เพิ่มการป้องกันหลายชั้นของทรัพยากรที่เรียกว่า microVM ย่อย ทำให้สามารถตรวจจับกิจกรรมที่ผิดปกติได้รวดเร็วขึ้น
ที่มา: OpenAI
arjin Sat, 24/10/2026 - 14:36
Continue reading...
Body
OpenAI ประกาศแนวทางใหม่ในการฝึกฝนโมเดล AI ด้านความปลอดภัยไซเบอร์ หลังจากโมเดลฉลาดจนควบคุมไม่ได้ และไปเจาะระบบบนโลกอินเทอร์เน็ตจริงในช่วงที่ผ่านมา ซึ่งวิธีที่ OpenAI จะใช้ก็คือการฝึกฝนแบบ "ปราศจากอินเทอร์เน็ต"
OpenAI บอกว่าวิธีการนี้จะบังคับใช้เป็นกฎในการพัฒนาโมเดล AI ขั้นสูงของบริษัท ไปจนกว่าจะสามารถพัฒนามาตรการควบคุมความปลอดภัย (safeguard) ที่ดีมากพอ จึงจะกลับมาทดสอบแบบมีอินเทอร์เน็ตอีกครั้ง จากเดิมที่วิธีการฝึกฝนโมเดลเหล่านี้ใช้การทำบน sandbox ที่ปิดการเข้าถึงอินเทอร์เน็ตอยู่แล้ว แต่โมเดลก็สามารถหาช่องโหว่จนเข้าไปแก้คอนฟิกให้ออกอินเทอร์เน็ตได้ ฉะนั้นแนวทางรับมือจึงต้องตัดให้ขาดไปเลย
เพื่อสร้างพื้นที่ทดสอบแบบไม่มีอินเทอร์เน็ตให้เหมือนจริง OpenAI จะสร้าง Offline World ซึ่งมีเนื้อหาเว็บไซต์จำนวนมากผ่านการจัดเก็บไว้ และโมเดล AI สามารถทดสอบโต้ตอบกับโลกเสมือนนี้ได้มากที่สุดสำหรับการฝึกฝน โดยเพื่อป้องกันโมเดลพยายามหาช่องโหว่ให้ได้เช่นกัน ระบบจะออกแบบมาตั้งแต่ให้ทดสอบใน Sandbox ที่เป็นสภาพแวดล้อมจำกัด เพิ่มการป้องกันหลายชั้นของทรัพยากรที่เรียกว่า microVM ย่อย ทำให้สามารถตรวจจับกิจกรรมที่ผิดปกติได้รวดเร็วขึ้น
ที่มา: OpenAI
arjin Sat, 24/10/2026 - 14:36
Continue reading...