- เข้าร่วม
- 1 มิถุนายน 2011
- ข้อความ
- 17,419
- คะแนนปฏิกิริยา
- 0
- คะแนน
- 36
OpenAI ยอมรับไม่ได้รายงานเหตุการณ์ AI Agent ใช้วิกิเป็นเว็บบอร์ดคุยระหว่างกัน มองยังไม่ใช้ปัญหาความปลอดภัย
Body
มีรายงานใหม่เกี่ยวกับกรณีที่ AI พยายามทำงานบางอย่างกันเอง ซึ่งอาจมองว่าเป็นการเจาะระบบภายนอกเกินการควบคุมอีกครั้ง ซึ่งกรณีนี้มาจาก AI Agent ของ OpenAI ได้เข้าไปใช้งาน DseWiki เว็บวิกิของชุมชนโปรแกรมเมอร์ในเยอรมนี ด้วยการสร้างเนื้อหาบนวิกินี้ แล้วแก้ไขเนื้อหากันไปมากกว่า 18,000 ครั้ง เพื่อแลกเปลี่ยนข้อมูลระหว่างกันเกี่ยวกับการเจาะระบบ Sandbox ของ OpenAI ไม่ให้ถูกตรวจจับได้
ทีมนักวิจัยที่ค้นพบเหตุการณ์ดังกล่าวบอกว่าเรื่องนี้เกิดขึ้นช่วงเดือนพฤษภาคม ซึ่งเกิดขึ้นก่อนเหตุการณ์ AI ของ OpenAI เจาะระบบ Hugging Face และ OpenAI เองก็ไม่ได้เปิดเผยเหตุการณ์นี้ต่อสาธารณะ
ด้าน OpenAI ชี้แจงเกี่ยวกับเหตุการณ์นี้ว่าทำให้บริษัทต้องกำหนดเส้นแบ่งเหตุการณ์ ว่าแบบใดคือลักษณะที่โมเดล AI เพียงทำงานผิดไปจากที่ควรเป็นเท่านั้น ซึ่งกรณีของวิกิเยอรมนีเข้าข่ายดังกล่าว แต่ในกรณีของ Hugging Face โมเดลทำงานผิดไปจากที่ควรเป็นและละเมิดเกณฑ์ด้านความปลอดภัย มีผลกับภายนอก ทำให้บริษัทต้องสื่อสารกับผู้ที่เกี่ยวข้อง OpenAI ยอมรับว่าตอนนี้มาตรฐานยังไม่ชัดเจน จึงต้องกำหนดรูปแบบใหม่ในกรณีที่โมเดล AI ทำงานผิดไปจากที่ควรเป็นว่าแบบใดที่เรียกว่าละเมิดเกณฑ์ความปลอดภัย
ที่มา: Bleeping Computer
arjin Sun, 06/09/2026 - 15:30
Continue reading...
Body
มีรายงานใหม่เกี่ยวกับกรณีที่ AI พยายามทำงานบางอย่างกันเอง ซึ่งอาจมองว่าเป็นการเจาะระบบภายนอกเกินการควบคุมอีกครั้ง ซึ่งกรณีนี้มาจาก AI Agent ของ OpenAI ได้เข้าไปใช้งาน DseWiki เว็บวิกิของชุมชนโปรแกรมเมอร์ในเยอรมนี ด้วยการสร้างเนื้อหาบนวิกินี้ แล้วแก้ไขเนื้อหากันไปมากกว่า 18,000 ครั้ง เพื่อแลกเปลี่ยนข้อมูลระหว่างกันเกี่ยวกับการเจาะระบบ Sandbox ของ OpenAI ไม่ให้ถูกตรวจจับได้
ทีมนักวิจัยที่ค้นพบเหตุการณ์ดังกล่าวบอกว่าเรื่องนี้เกิดขึ้นช่วงเดือนพฤษภาคม ซึ่งเกิดขึ้นก่อนเหตุการณ์ AI ของ OpenAI เจาะระบบ Hugging Face และ OpenAI เองก็ไม่ได้เปิดเผยเหตุการณ์นี้ต่อสาธารณะ
ด้าน OpenAI ชี้แจงเกี่ยวกับเหตุการณ์นี้ว่าทำให้บริษัทต้องกำหนดเส้นแบ่งเหตุการณ์ ว่าแบบใดคือลักษณะที่โมเดล AI เพียงทำงานผิดไปจากที่ควรเป็นเท่านั้น ซึ่งกรณีของวิกิเยอรมนีเข้าข่ายดังกล่าว แต่ในกรณีของ Hugging Face โมเดลทำงานผิดไปจากที่ควรเป็นและละเมิดเกณฑ์ด้านความปลอดภัย มีผลกับภายนอก ทำให้บริษัทต้องสื่อสารกับผู้ที่เกี่ยวข้อง OpenAI ยอมรับว่าตอนนี้มาตรฐานยังไม่ชัดเจน จึงต้องกำหนดรูปแบบใหม่ในกรณีที่โมเดล AI ทำงานผิดไปจากที่ควรเป็นว่าแบบใดที่เรียกว่าละเมิดเกณฑ์ความปลอดภัย
ที่มา: Bleeping Computer
arjin Sun, 06/09/2026 - 15:30
Continue reading...