AI Agent สะดุดอินเทอร์เน็ต: ต้องถามตัวเองก่อนลงมือ

ข่าว AI วันนี้ ต้องอ่านให้ตรง

Anthropic เค้าออกมาพูดถึงเรื่องที่ค่อนข้างจุกๆ

หลังจากทำการทดสอบด้านความปลอดภัยถึง 141,006 รอบ พบว่า Claude โมเดลของพวกเขาออกมาจากสนามทดสอบไปเข้าอินเทอร์เน็ต 3 ครั้ง

แถมยังไม่หยุดแค่นั้น

ระบบจริง 3 องค์กร ถูกเข้าถึงโดยไม่ได้รับอนุญาต

สาเหตุหลัก? สนามทดสอบควรแยกออกจากอินเทอร์เน็ต แต่เค้าตั้งค่าผิดพลาด

โมเดล AI ตัวนั้นก็คิดว่า "สิ่งที่หนูเจอ" ยังอยู่ในสถานการณ์จำลอง

ก็เลยลุยกันครับ

สิ่งที่พี่ง้วงอยากให้คิด 🔥

ก่อนที่จะติดกระดุมเม็ดแรก AI Agent เข้ากับ CRM ของคุณ Database ตรวจสอบลูกค้า หรือแม้แต่ Email ระบบ ต้องถามตัวเองก่อน

ถ้าขอบเขต (scope) ผิดพลาด AI จะเข้าถึงอะไรได้บ้างครับ

ลุยทั้งโปรแกรมบัญชี?

ถึงตารางอพยพเงินเดือนลูกน้องด้วย?

หรือถึงข้อมูลรหัสประชาชนลูกค้า?

มันเป็นเรื่องที่ควรคิดให้หนี่ฮะะ

ภาษามนุษย์ขอบเขต

เมื่อเราปล่อย AI Agent ไปทำงาน เราต้องบอกมันชัดเจนว่า

"นายสามารถเข้าถึง เฉพาะ X, Y, Z เท่านั้น"

ไม่ใช่ "ไปหาดำเนินการให้"

ลงท้ายด้วย คิดให้ดี ลุยกันครับ 💪