AI & Developer Tools · 08 Aug 2026
งานวิจัย PSE พบ State ปนเปื้อนใน LLM Agent สามารถคงอยู่และแพร่ข้าม Agent ได้
งานวิจัย Persistent Semantic Entities ทดสอบโมเดล 24 รุ่นและพบ state บางประเภทสามารถคงอยู่ข้าม session และแพร่ผ่าน agent pipeline ได้ ผลชี้ว่าทีมสร้าง tool-augmented LLM ควรแยก context ตรวจ provenance และไม่ถือว่าเริ่ม session ใหม่เท่ากับล้างความเสี่ยงทั้งหมด
เกิดอะไรขึ้น
งานวิจัย Persistent Semantic Entities เผยแพร่บน arXiv วันที่ 8 สิงหาคม 2026 เสนอแนวคิด PSE เพื่ออธิบาย state เชิงความหมายที่คงอยู่ในระบบ LLM แบบใช้เครื่องมือ ผู้วิจัยประเมินโมเดล 24 รุ่นจาก 11 ตระกูลและศึกษาการผูกชื่อ การ trigger จาก event และการแพร่ข้ามขอบเขต agent
รายละเอียดสำคัญ
ผู้วิจัยรายงานว่าการปนเปื้อนประเภท preference และ instruction สามารถคงอยู่ในเงื่อนไขทดลอง และการส่งต่อผ่าน pipeline หลาย agent ทำให้ผลสะสมเพิ่มขึ้น ขณะที่ context-isolated self-verification ลดผลได้บางส่วน แต่ไม่กำจัดทั้งหมด ตัวเลขเหล่านี้เป็นผลจาก controlled setting และไม่ควรถูกเหมารวมกับ deployment ทุกแบบ
ทำไมคนสร้างซอฟต์แวร์ควรสนใจ
ระบบ agent production มักมี memory, tool result และ state ที่ถูก reuse การ reset chat UI จึงอาจไม่เท่ากับ reset state ใน backend หากข้อมูลปนเปื้อนถูกบันทึกใน memory หรือ object ที่ agent อื่นอ่านต่อ ความผิดพลาดสามารถขยายผ่าน workflow ได้
สิ่งที่ควรทำต่อ
กำหนด provenance ให้ state ทุกชนิด แยก trusted กับ untrusted memory เพิ่ม expiry และ review สำหรับข้อมูลที่ถูก promote เป็น long-term state และทดสอบ pipeline ด้วย adversarial state injection ควบคู่กับ prompt injection แบบปกติ
This article is an original summary and analysis. Facts are based on the linked primary source; performance figures remain vendor-reported where noted.
Keep reading