OpenAI เก็บ "Goblin Mode" จาก ChatGPT — เคสศึกษา AI ที่พฤติกรรมหลุด

ไม่ใช่ดราม่าเล่นๆ นะครับ. แต่มันคือเคสศึกษาระดับโลกของคำว่า "AI หลุดพฤติกรรม เพราะระบบให้รางวัลผิดจุด"

ใครเจอ Goblin Mode ก่อนแรก?

มีนักพัฒนาและพาวเวอร์ยูสเซอร์สังเกตข้อความกำกับโมเดลที่ระบุให้หลีกเลี่ยงคำแนว goblin/gremlin เว้นแต่เกี่ยวกับคำถามจริง. พอหลุดออกมา คนในวงการเลยตั้งคำถามทันทีว่า "ทำไมต้องเจาะจงขนาดนี้?"

ก่อนหน้าเกิดอะไรขึ้น?

ผู้ใช้จำนวนหนึ่งเจอว่าโมเดลชอบใช้อุปมา fantasy creatures ในบริบทที่ไม่จำเป็น. ตอนแรกดูตลก แต่พอเกิดซ้ำๆ มันเริ่มกระทบคุณภาพคำตอบและโทนงานมืออาชีพ. นี่คือสัญญาณเตือนครั้งแรก.

สาเหตุเชิงระบบคืออะไร?

ต้นตอคือ reward signal ตอนเทรน (RLHF). ถ้าให้รางวัลกับสไตล์บางแบบมากไป โมเดลจะเรียนว่านั่นคือ "คำตอบที่ดี" และนิสัยนั้นอาจไหลข้ามไปทั่วระบบ. มันเหมือนการแมวหาเหตุ — ให้รางวัลที่ผิดจุด ก็จะได้พฤติกรรมที่ผิด.

Fact สำคัญ

OpenAI มีการถอด/ลดบทบาทบุคลิก "NERDLY" ออกจาก ChatGPT. เพื่อตัดต้นตอพฤติกรรมที่พา goblin-style หลุดข้ามบริบทและลดความปั่นป่วนของระบบโดยรวม.

แล้วเขาแก้ยังไง?

ชั้น 1: ใส่กติกาคุมเฉพาะหน้าใน system prompt. ชั้น 2: ปรับ persona/training mix ให้ยังสมดุล. ชั้น 3: ทำ behavioral audit และปรับ data/training รอบถัดไป.

มันเป็นแนวทางหลายชั้นน่ะครับ ไม่ได้แค่ "เก็บคำเก่า" หรือ "ใส่ rule เดียว".

บทเรียนสำหรับคนทำธุรกิจ 💡

AI จะโตตามสิ่งที่เราให้รางวัล ไม่ใช่ตามสิ่งที่เราหวัง.

ถ้าอยากใช้ในงานจริง ต้องมี:

• Guardrail ตั้งแต่เม็ดแรก
• Feedback Loop ที่ทำงานต่อเนื่อง
• Behavioral Audit ตามม่วม

นี่คือความหมายของ "ติดกระดุมเม็ดแรก" — ไม่เพ่นพ่านตั้งแต่จุดเริ่มต้นนะครับ.

---

💪 ใครอยากได้โพสต์ต่อแบบลงมือทำจริง หัวข้อ "Template ตั้ง Guardrail สำหรับ SME ภายใน 15 นาที"
คอมเมนต์คำว่า สนใจ ได้เลยครับ เดี๋ยวโพสต์หน้าผมปล่อยให้ครบเป็นขั้นตอน 🚀