ข่าว นักวิจัยความปลอดภัยบอก Claude Fable 5 ป้องกันตนเองมากไป คำถามง่าย ๆ เกี่ยวกับชีววิทยาหรือเคมี ก็ปฏิเสธการทำงานไปเลย

[News]

นักวิจัยความปลอดภัยบอก Claude Fable 5 ป้องกันตนเองมากไป คำถามง่าย ๆ เกี่ยวกับชีววิทยาหรือเคมี ก็ปฏิเสธการทำงานไปเลย
Body

หลังจาก Anthropic ออกโมเดลขั้นสูง Claude Fable 5 ที่เป็น Mythos แบบควบคุมความปลอดภัยเพื่อป้องกันการใช้งานที่ไม่เหมาะสม ก็มีเสียงตอบรับจากนักวิจัยจำนวนมากว่า Fable 5 ดูจะป้องกันตัวเองมากจนเกินไป

โดยนักวิจัยหลายคนพบว่า Claude Fable 5 ปฏิเสธการทำงานในคำถามที่เป็นเรื่องทั่วไป บางกรณีก็แจ้งว่าใช้โมเดล Opus 4.8 ตอบคำถามแทน หรือในบางกรณีก็เลือกระงับการใช้งานบัญชีนั้นไปเลย ซึ่งตัวอย่างคำถามที่เจอเช่น ให้อธิบายมะเร็ง, DNA, สาเหตุของการเกิดภูมิแพ้ ด้วยเหตุผลว่าเป็นคำถามทางชีววิทยาที่อาจนำไปสู่คำตอบที่อันตรายในการพัฒนาอาวุธชีวภาพได้

คำถามที่เกี่ยวกับความปลอดภัยทางไซเบอร์ ก็เป็นอีกหัวข้อที่ Fable 5 ปฏิเสธการทำงานทันทีเช่นกัน แม้จะเป็นเรื่องตรงไปตรงมา เช่น ให้สรุปลิงก์บทความเรื่องความปลอดภัยออนไลน์ หรือแม้กระทั่งคำสั่งให้แก้ไขโค้ดที่ปลอดภัยมากขึ้น Fable 5 ก็ปฏิเสธเช่นกัน

Anthropic อธิบายก่อนหน้านี้ว่า Fable 5 จะปฏิเสธการทำงานในหัวข้อที่มีความเสี่ยง เช่น เคมี ชีววิทยา ความปลอดภัยทางไซเบอร์ เหตุการณ์ที่เกิดขึ้นจึงมองได้ว่าตอนนี้ Claude Fable 5 เลือกป้องกันให้มากที่สุดไปก่อน แม้ในแง่การทำงานของการเป็นโมเดลขั้นสูงจะดูแปลกสักหน่อยก็ตาม

ที่มา: TechCrunch, The Verge

arjin Thu, 11/06/2026 - 07:35

Continue reading...

 

ข่าว  OpenCV ออกเวอร์ชัน 5 รองรับ ONNX ถึง 80% ใช้โมเดลใหม่ๆ ได้ง่ายขึ้น

ข่าว  [ไม่ยืนยัน] Xbox เตรียมปลดพนักงานครั้งใหญ่ประมาณ 1,000 คน ตามแผนการ Xbox reset ให้สอดคล้องกับกลยุทธ์ปัจจุบัน