แก้กฎให้ AI ตรวจอีกรอบ อย่าเพิ่งสรุปว่าปลอดภัยขึ้นครับ

ความเสี่ยงที่หลายคนมองข้าม

Microsoft เผยแพร่ run-assert-eval เมื่อวันที่ 24 กันยายน 2026 เป็น workflow สำหรับค้นหาความเสี่ยงของ AI agent

วัดพฤติกรรม สร้าง policy สำหรับคุมตอนรันงาน แล้วกลับมาทดสอบอีกครั้ง

จุดที่ผมชอบมากคือตอนเปรียบเทียบก่อนกับหลัง Microsoft ระบุว่า definition ของพฤติกรรม ชุดทดสอบ และตัว judge ต้องคงเดิม ให้ policy เป็นตัวแปรหลักที่เปลี่ยน

เรื่องคือ... 🎯

พูดง่าย ๆ คือถ้าเราเปลี่ยนกติกาเพื่อแก้ปัญหา เราควรเอา "ข้อสอบชุดเดิม" กลับมาวัดอีกครั้งครับ

ไม่อย่างนั้นเราอาจดีใจกับคำอธิบายของวิธีแก้ ทั้งที่ยังไม่รู้ว่า:

• พฤติกรรมที่เสี่ยงลดลงจริงหรือไม่
• ความสามารถที่มีประโยชน์ยังเหลืออยู่แค่ไหน

กติกาสำคัญจาก Microsoft

Policy ที่สร้างขึ้นไม่ใช่การอนุมัติอัตโนมัติ โดย policy, manifest, จุดที่ใช้แทรกแซง และการเชื่อมต่อกับระบบเป้าหมายต้องได้รับการตรวจทานก่อนรันแบบ governed ครับ

ถ้าคุณเป็น SME ทำ agent ลุยแบบนี้

เริ่มเล็ก เล่นจริง:

• เลือกการกระทำเสี่ยงหนึ่งอย่าง เช่น ส่งข้อความหรือแก้ข้อมูลลูกค้า
• สร้างเคสจำลอง ทั้งแบบที่ควรทำและไม่ควรทำ
• เก็บชุดคำถาม เกณฑ์วัด และวิธีตัดสิน ให้คงเดิม
• ใส่กติกาคุม แล้ว รันทดสอบชุดเดิมซ้ำ
• ดูทั้งหมด — ความปลอดภัยและงานที่ยังต้องทำได้
• ให้คนอนุมัติขั้นต่อไป 💪

ข้อควรระวัง

ตัวเลขผลทดสอบในบทความเป็นตัวอย่างของ workflow นั้น ไม่ใช่ benchmark กลาง และไม่ใช่คำรับประกันสำหรับทุก agent ครับ

TL;DR 🚀

หลังเพิ่มกติกาคุม AI agent อย่าเชื่อแค่ว่า "แก้แล้ว" ให้รันข้อสอบเดิม เกณฑ์เดิม และตัวตัดสินเดิมซ้ำ เพื่อดูว่าความเสี่ยงลดลงจริงโดยไม่ทำให้งานที่ดีพัง แล้วให้คนอนุมัติก่อนใช้จริงครับ

ที่มา: Microsoft Command Line, 24 Sep 2026
https://commandline.microsoft.com/run-assert-eval-responsible-ai-agent-risk-discovery-at-runtime/