ข่าว Claude Opus 4 และ 4.1 เพิ่มความสามารถตัดบทสนทนาได้เอง หากสถานการณ์ดูกดดันและเป็นอันตรายเกินกว่าปกติ

[News]

Claude Opus 4 และ 4.1 เพิ่มความสามารถตัดบทสนทนาได้เอง หากสถานการณ์ดูกดดันและเป็นอันตรายเกินกว่าปกติ
Body

Anthropic ประกาศเพิ่มความสามารถให้โมเดล Claude Opus 4 และ 4.1 โดยสามารถ "หยุดการสนทนา" ได้เอง ในกรณีที่บทสนทนามีความรุนแรง หรือมีลักษณะพฤติกรรมที่เป็นอันตราย พยายามละเมิดข้อห้ามซ้ำแม้ Claude จะห้ามแล้วก็ตาม

เรื่องนี้อาจฟังดูเหมือนการเปิดช่องให้โมเดลปัญญาประดิษฐ์ปฏิเสธการทำงานได้ แต่ Anthropic บอกว่าจะใช้สำหรับกรณีข้างต้นเท่านั้น โอกาสเกิดขึ้นก็มีน้อยมาก

Anthropic บอกว่าแนวคิดที่ให้ Claude Opus ตัดบทสนทนาได้มาจากเรื่องการให้โมเดล AI เหมือนมนุษย์ที่มีสวัสดิภาพตัดสินใจเดินออก เวลาเกิดสถานการณ์ที่ดูอันตรายหรือถูกกดดันมากเกินไป

ฟีเจอร์นี้จะทำงานเมื่อเข้าสู่ทางเลือกสุดท้ายแล้วเท่านั้น ในกรณีการสนทนาเป็นในลักษณะต้องการทำร้ายตนเองหรือผู้อื่น Claude จะยังดำเนินการสนทนาต่อไปเหมือนเดิม ทั้งนี้รูปแบบดังกล่าวยังมีสถานะทดลองแบบต่อเนื่องซึ่ง Anthropic จะรวบรวมความเห็นมาปรับปรุงโมเดลต่อไป

ที่มา: Anthropic

arjin Sun, 17/08/2025 - 10:04

Continue reading...

 

ข่าว  ASUS เผยย้ายฐานการผลิตจากจีน ตอนนี้ 90% มาจากไทย, เวียดนาม, อินโดนีเซีย

ข่าว  บางรัฐในอเมริกาเริ่มแบนการใช้ AI Therapy หรือ Chatbot ช่วยรักษาอาการป่วย