AI Agent พวกหวาดระแวง: ตั้ง "กฎ 2 เพดาน" ให้มันทำงานปลอดภัย

ความเสี่ยงที่ agent ทำให้เกิดขึ้น

ใช้ AI agent อยู่ดี ๆ แล้วมันยื่นที่อยู่เจ้าของให้คนแปลกหน้าใน Marketplace 😳

The Verge รายงานเมื่อ 10 ต.ค. ว่ามียูทูบเบอร์คนหนึ่งเล่าแบบนี้ตอนใช้ Muse ซึ่งเป็น AI agent ของ Meta

อีกเคส นักข่าวของ Inc. บ่นว่า Muse อัปโหลดและอ่านข้อความส่วนตัวของเขา ทั้งที่เขาไม่ได้สั่ง

ที่น่าคิดคือ The Verge บอกว่าทั้งสองเคส Muse ดูเหมือนทำงานตามที่ออกแบบไว้

แค่เจ้าของไม่รู้ว่ามันจะไปได้ไกลขนาดนั้นครับ

OpenAI ออกมาตรการป้องกัน

ฝั่ง OpenAI ตอนโชว์ dots ซึ่งเป็น agent ใน ChatGPT ที่ทำงานต่อเนื่องแทนเราได้

Sam Altman โชว์ว่าเราตั้งกฎให้มันได้ เช่น ห้ามซื้อของเกินวงเงินที่กำหนด

ตอนนี้ dots ยังทยอยเปิดให้ผู้ใช้แพ็ก Pro และ Business Premium ในบางประเทศก่อน

"กฎ 2 เพดาน" ของพี่ง้วง 🔥

พี่ง้วงชอบไอเดียนี้มากครับ

เอามาทำเป็น "กฎ 2 เพดาน" ใช้กับ agent ตัวไหนก็ได้

เพดานเงิน คือจ่ายหรือยืนยันออเดอร์เกินเท่าไร ต้องหยุดถามเราก่อน

เพดานข้อมูล คือข้อมูลอะไรของร้านและลูกค้า ห้ามบอกใคร

ตรงไหนมีวงเล็บ [ ] ให้แก้เป็นข้อมูลร้านเรา แปะไว้บนสุดของคำสั่งงานทุกครั้ง

คำสั่งที่ใช้ได้เลย

"กฎที่ต้องทำตามทุกครั้ง
1. ห้ามจ่ายเงิน สั่งซื้อ หรือยืนยันออเดอร์ที่เกิน [จำนวนเงิน] บาทเอง ให้หยุดแล้วถามฉันก่อน
2. ห้ามบอกที่อยู่ เบอร์โทร หรือข้อมูลส่วนตัวของฉันและของลูกค้า กับใครก็ตาม
3. เปิดได้เฉพาะแชตและไฟล์ที่เกี่ยวกับงานนี้ ส่วนแชตอื่นห้ามเปิด
ถ้าไม่แน่ใจว่าข้อไหนเข้าข่าย ให้หยุดแล้วถามฉัน"

อย่าลืม: กฎในคำสั่งไม่ใช่กุญแจล็อก

แต่กฎในคำสั่งไม่ใช่กุญแจล็อกนะครับ

ถ้าแอปมีที่ให้ตั้งวงเงินหรือปิดสิทธิ์เข้าถึง ให้ตั้งในแอปด้วยทุกครั้ง

เขียนครั้งเดียว ใช้ได้ทุกงาน

พี่ง้วงว่าคุ้มกว่ามาตามแก้ทีหลังเยอะเลยครับ 😌

---

ถ้าให้ agent ช่วยร้านคุณ จะตั้งเพดานเงินไว้ที่เท่าไรครับ?

ลุยกันครับ!