ข่าว Cloudflare เตรียมให้บริการ Firewall for AI ป้องกันการทำ prompt injection

[News]

Cloudflare ประกาศเตรียมเปิดบริการ Firewall for AI ชุดความสามารถใหม่สำหรับลูกค้าองค์กรที่เริ่มใช้งานแชตบอตในกลุ่ม LLM เพิ่มขึ้น โดยพยายามป้องกันทั้งการยิงเกินกำหนด, การส่งข้อมูลส่วนบุคคลเข้าออก, และการยิง prompt injection เพื่อเปลี่ยนพฤติกรรมของแชตบอต

บริการชุดนี้จะปิดให้ผู้ใช้คอนฟิกว่าส่วนใดของ JSON เป็น prompt สำหรับ LLM เพื่อมาวิเคราะห์เพิ่มเติม สามารถตั้งไฟร์วอลล์ให้บล็อคแชตได้ตามหัวข้อ เช่น เกี่ยวกับศาสนา, การเมือง, หรือเรื่องทางเพศ

ตอนนี้ Cloudflare เปิดบริการจำกัดปริมาณการใช้งาน และการตรวจสอบข้อมูลส่วนบุคคลออกมาก่อนโดยใช้ได้เฉพาะลูกค้าระดับ Enterprise ส่วนการวิเคราะห์ prompt นั้นกำลังอยู่ระหว่างพัฒนาและจะเปิดให้กับผู้ใช้ Worker AI ทุกคน

ที่มา - Cloudflare

Topics:
Cloudflare
LLM

อ่านต่อ...

 

ข่าว  เปิดตัว Nothing Phone (2a) รุ่นราคาถูก ชิป MediaTek Dimensity 7200, เริ่มต้น 349 ดอลลาร์

ข่าว  Facebook - Instagram ใช้งานไม่ได้ แฮชแท็ก #ไอจีล่ม #เฟสล่ม ขึ้นเทรนด์ทันที