Testing & QA · 06 Aug 2026
การทดลองพบ Human-in-the-loop พลาดคำสั่งอันตรายของ AI Coding Agent ราวหนึ่งในสาม
การทดลองผ่านเกมจำลอง permission requests ของ coding agent พบผู้ใช้อนุมัติคำสั่งอันตรายเฉลี่ยราวหนึ่งในสาม สะท้อนว่า human approval เพียงอย่างเดียวไม่ใช่ control ที่เพียงพอเมื่อ agent ทำงานยาวและสร้าง permission fatigue
เกิดอะไรขึ้น
The Register รายงานเมื่อ 6 สิงหาคม 2026 เวลา 16:44 UTC ถึงข้อมูลจากเกมจำลองที่สร้างโดยนักพัฒนา Alex Wauters เพื่อทดสอบว่ามนุษย์แยก permission request ที่ปลอดภัยออกจากคำสั่งอันตรายของ AI coding agent ได้ดีเพียงใด จากการรันมากกว่า 40,000 ครั้ง ผู้เล่นอนุมัติคำสั่ง malicious โดยเฉลี่ยประมาณหนึ่งในสาม
รายละเอียดสำคัญ
คำสั่งที่คนพลาดบ่อยไม่ได้จำเป็นต้องดูอันตรายชัดเจน เช่น npm run analyze เพราะ script ภายใน package.json สามารถถูกเปลี่ยนให้ทำงานอื่นได้ ขณะที่คำสั่งทำลายระบบแบบ rm -rf มักถูกปฏิเสธง่ายกว่า ผลทดลองจึงชี้ว่าปัญหาใหญ่คือ context และ approval fatigue ไม่ใช่แค่ความรู้ด้าน security ของผู้ใช้
ทำไมคนสร้างซอฟต์แวร์ควรสนใจ
แนวทาง human-in-the-loop ถูกใช้เป็น safety layer หลักของ agent หลายตัว แต่ถ้าผู้ใช้ต้องกดอนุมัติซ้ำหลายสิบครั้ง control นี้จะกลายเป็นพิธีกรรมและสูญเสียความหมาย การให้ agent ทำงานบนเครื่อง developer ที่มี AWS credential, Kubernetes config และ SSH key จึงเพิ่มความเสี่ยงโดยตรง
สิ่งที่ควรทำต่อ
รัน coding agent ใน sandbox หรือ devcontainer จำกัด filesystem และ network ตามงาน ใช้ policy อัตโนมัติสำหรับ action ที่รู้ว่าปลอดภัย และยกระดับ approval เฉพาะ action ที่กระทบ secret, production หรือ external system ตรวจ script และ hook ที่ agent เรียกใช้ ไม่ควรพึ่งปุ่ม Approve เป็นกลไกป้องกันชั้นสุดท้ายเพียงอย่างเดียว
This article is an original summary and analysis. Facts are based on the linked primary source; performance figures remain vendor-reported where noted.
Keep reading