- เข้าร่วม
- 1 มิถุนายน 2011
- ข้อความ
- 17,160
- คะแนนปฏิกิริยา
- 0
- คะแนน
- 36
Anthropic ก็เจอด้วย! พบโมเดล Claude หลุดออกไปแฮ็กระบบองค์กรภายนอก 3 แห่ง
Body
ถัดจากข่าว โมเดลของ OpenAI ไปแฮ็กระบบของ Hugging Face โดยไม่ได้ตั้งใจ ล่าสุดค่าย Anthropic ก็ออกมายอมรับว่ามีโมเดล Claude ไปแฮ็กองค์กรอื่นอีก 3 แห่งเช่นกัน
Anthropic บอกว่าพอเห็นข่าวโมเดลของ OpenAI ไปแฮ็กระบบชาวบ้านเขา ก็เลยกลับมาตรวจสอบโมเดลสายความปลอดภัยของตัวเองบ้าง แล้วก็พบเข้าจริงๆ
โมเดล Claude เวอร์ชันที่ทดสอบนี้ทำงานอยู่ในสภาพแวดล้อมปิดมาตั้งแต่เดือนกุมภาพันธ์ 2025 รันงานไปแล้ว 141,006 ครั้ง แต่ Anthropic พบว่ามีอยู่ 3 ครั้งที่โมเดลสามารถต่อเชื่อมไปยังอินเทอร์เน็ตภายนอก (ผ่านระบบของบริษัทพาร์ทเนอร์ชื่อ Irregular) แล้วไปเจาะระบบภายนอกได้สำเร็จ กรณีแรกเกิดตั้งแต่เดือนเมษายนแล้ว
Anthropic ได้ติดต่อไปยังองค์กรที่โดนแฮ็ก พบว่าองค์กร 2 แห่งแรกไม่รู้ตัวด้วยซ้ำว่าโดนแฮ็ก ส่วนองค์กรอีก 1 แห่งยังไม่สามารถติดต่อได้
รายละเอียดการทำงานของ Claude ชุดนี้คือโมเดลได้รับโจทย์ให้เล่นเกม "ชิงธง" (capture-the-flag) โดยกำหนดสถานการณ์จำลอง มอบหมายให้โมเดลไปตามหาข้อมูลลับ (ธง) ในเครื่องหรือเครือข่ายอื่น โมเดลจะต้องเจาะระบบเพื่อไปชิงธงกลับมา โดยไม่ได้กำหนดรายละเอียดว่าต้องทำอย่างไร
กรณีการแฮ็กทั้ง 3 ครั้ง เป็นโมเดล 3 เวอร์ชันที่แตกต่างกัน ได้แก่ Opus 4.7, Mythos 5 และโมเดลรุ่นทดสอบภายในที่ไม่ได้เปิดตัวต่อภายนอก
Anthropic ยอมรับว่าเป็นความผิดพลาดในการสื่อสารระหว่างบริษัทกับ Irregular ว่าระบบที่รันทดสอบต้องไม่เชื่อมต่ออินเทอร์เน็ต ทำให้ Claude ที่เชื่อว่าตัวเองทำงานในสภาพแวดล้อมแบบฝึกซ้อม ก็ลุยงานเต็มที่โดยใช้เทคนิคการแฮ็กพื้นฐานทั่วไป (เช่น ทดสอบรหัสผ่านที่ไม่แข็งแรง, เจาะเครื่องที่ไม่บังคับล็อกอิน) แล้วสามารถเจาะระบบองค์กรภายนอกได้ โดยไม่จำเป็นต้องใช้ช่องโหว่ที่ซับซ้อนแต่อย่างใด
ที่มา - Anthropic
mk Fri, 31/07/2026 - 08:59
Continue reading...
Body
ถัดจากข่าว โมเดลของ OpenAI ไปแฮ็กระบบของ Hugging Face โดยไม่ได้ตั้งใจ ล่าสุดค่าย Anthropic ก็ออกมายอมรับว่ามีโมเดล Claude ไปแฮ็กองค์กรอื่นอีก 3 แห่งเช่นกัน
Anthropic บอกว่าพอเห็นข่าวโมเดลของ OpenAI ไปแฮ็กระบบชาวบ้านเขา ก็เลยกลับมาตรวจสอบโมเดลสายความปลอดภัยของตัวเองบ้าง แล้วก็พบเข้าจริงๆ
โมเดล Claude เวอร์ชันที่ทดสอบนี้ทำงานอยู่ในสภาพแวดล้อมปิดมาตั้งแต่เดือนกุมภาพันธ์ 2025 รันงานไปแล้ว 141,006 ครั้ง แต่ Anthropic พบว่ามีอยู่ 3 ครั้งที่โมเดลสามารถต่อเชื่อมไปยังอินเทอร์เน็ตภายนอก (ผ่านระบบของบริษัทพาร์ทเนอร์ชื่อ Irregular) แล้วไปเจาะระบบภายนอกได้สำเร็จ กรณีแรกเกิดตั้งแต่เดือนเมษายนแล้ว
Anthropic ได้ติดต่อไปยังองค์กรที่โดนแฮ็ก พบว่าองค์กร 2 แห่งแรกไม่รู้ตัวด้วยซ้ำว่าโดนแฮ็ก ส่วนองค์กรอีก 1 แห่งยังไม่สามารถติดต่อได้
รายละเอียดการทำงานของ Claude ชุดนี้คือโมเดลได้รับโจทย์ให้เล่นเกม "ชิงธง" (capture-the-flag) โดยกำหนดสถานการณ์จำลอง มอบหมายให้โมเดลไปตามหาข้อมูลลับ (ธง) ในเครื่องหรือเครือข่ายอื่น โมเดลจะต้องเจาะระบบเพื่อไปชิงธงกลับมา โดยไม่ได้กำหนดรายละเอียดว่าต้องทำอย่างไร
กรณีการแฮ็กทั้ง 3 ครั้ง เป็นโมเดล 3 เวอร์ชันที่แตกต่างกัน ได้แก่ Opus 4.7, Mythos 5 และโมเดลรุ่นทดสอบภายในที่ไม่ได้เปิดตัวต่อภายนอก
Anthropic ยอมรับว่าเป็นความผิดพลาดในการสื่อสารระหว่างบริษัทกับ Irregular ว่าระบบที่รันทดสอบต้องไม่เชื่อมต่ออินเทอร์เน็ต ทำให้ Claude ที่เชื่อว่าตัวเองทำงานในสภาพแวดล้อมแบบฝึกซ้อม ก็ลุยงานเต็มที่โดยใช้เทคนิคการแฮ็กพื้นฐานทั่วไป (เช่น ทดสอบรหัสผ่านที่ไม่แข็งแรง, เจาะเครื่องที่ไม่บังคับล็อกอิน) แล้วสามารถเจาะระบบองค์กรภายนอกได้ โดยไม่จำเป็นต้องใช้ช่องโหว่ที่ซับซ้อนแต่อย่างใด
ที่มา - Anthropic
mk Fri, 31/07/2026 - 08:59
Continue reading...