ทดสอบเจาะระบบ AI
ทดสอบ prompt injection, RAG และการใช้ agent ในทางที่ผิด อิงตาม OWASP Top 10 for LLM Applications
แอปพลิเคชันทั่วไปแยกคำสั่งของโปรแกรมออกจากข้อมูลที่ผู้ใช้ป้อน แต่ language model อ่านทั้งคำสั่งและข้อมูลผ่านช่องทางเดียวกัน ข้อความที่ไม่น่าเชื่อถือจึงอาจกลายเป็นคำสั่งที่ model ทำตามได้ พอเพิ่ม retrieval-augmented generation (RAG) เข้าไป model ก็เริ่มดึงเนื้อหาจากภายนอกเข้ามา ทั้งเอกสาร หน้าเว็บ หรือ ticket ที่คุณไม่ได้เขียนเองและตรวจทั้งหมดไม่ได้ และถ้าให้มันเป็น agent ที่ลงมือทำได้ มันก็เรียก tool ยิง API และสั่งงานในระบบของคุณได้ด้วย ความสามารถเหล่านี้เปิดช่องโหว่ที่ pentest ทั่วไปไม่ได้ครอบคลุม บริการทดสอบเจาะระบบ AI ของเราจึงตรวจจุดเสี่ยงเหล่านี้โดยตรง อิงตาม OWASP Top 10 for LLM Applications (2025)
ถ้าอยากเข้าใจหลักการโจมตีหลักก่อนอ่านต่อ ทีมของเราเขียนไว้แล้วที่ อธิบาย prompt injection
สิ่งที่เราทดสอบ
เราใช้ OWASP Top 10 for LLM Applications (2025) เป็นแนวทางทดสอบและจัดหมวด finding ให้ตรงกับกรอบที่ทีมพัฒนาและ auditor ของคุณคุ้นเคยอยู่แล้ว
LLM01 Prompt Injection
input ที่ออกแบบมาลบล้างคำสั่งเดิมของ model เราทดสอบทั้งแบบ direct ที่ผู้โจมตีพิมพ์ payload เข้าไปตรง ๆ และแบบ indirect ที่ payload ซ่อนอยู่ในเนื้อหาที่ model อ่านทีหลัง เช่น เอกสารหรือหน้าเว็บ
LLM02 Sensitive Information Disclosure
model เปิดเผยข้อมูลที่ไม่ควรเปิดเผย ทั้งข้อมูลของผู้ใช้คนอื่น ความลับ การตั้งค่าภายใน หรือเศษข้อมูลจากชุด training
LLM03 Supply Chain
ความเสี่ยงที่ติดมากับ model, plugin, dataset และ library ของบุคคลที่สาม เช่น component ต้นน้ำที่ถูกแทรกแซงหรือดัดแปลงก่อนถึงแอปพลิเคชันของคุณ
LLM04 Data & Model Poisoning
ข้อมูลที่เป็นอันตรายหรือถูกปนเปื้อน แทรกเข้ามาตอน train หรือ fine-tune เพื่อบิดพฤติกรรมของ model ไปทางที่ผู้โจมตีต้องการ
LLM05 Improper Output Handling
นำ output ของ model ไปส่งเข้า browser, shell, database หรือ API ปลายทางโดยไม่ตรวจสอบก่อน จนกลายเป็น XSS, SQL injection หรือ command injection
LLM06 Excessive Agency
agent ที่ได้สิทธิ์ การเข้าถึง tool หรืออิสระในการตัดสินใจมากเกินกว่างานที่ทำจริง คำสั่งที่ถูกดัดแปลงเพียงชิ้นเดียวก็สั่งให้มันลงมือทำจริงได้
LLM07 System Prompt Leakage
system prompt รั่ว เปิดเผยคำสั่งที่ซ่อนไว้ กติกาทางธุรกิจ หรือความลับที่คนออกแบบคิดว่าจะไม่มีใครได้เห็น
LLM08 Vector & Embedding Weaknesses
จุดอ่อนในชั้น RAG ทั้ง access control ที่หละหลวมบน vector store, การทำ embedding inversion หรือเอกสารที่ถูกฝังเนื้อหาอันตรายเพื่อให้ระบบ retrieval ดึงข้อมูลที่ผู้โจมตีต้องการ
LLM09 Misinformation
output ที่เขียนอย่างมั่นใจและฟังดูมีเหตุผล ทั้งที่ข้อมูลผิด เกิดได้จาก hallucination หรือการพึ่ง model มากเกินไป จนเกิดความเสียหายเมื่อผู้ใช้หรือระบบปลายทางลงมือทำตาม
LLM10 Unbounded Consumption
ไม่มีขีดจำกัดว่าผู้เรียกจะสั่งให้ model ทำงานได้มากแค่ไหน เปิดทางให้เกิด denial of service ค่าใช้จ่ายบานปลาย หรือการทำ model extraction ด้วยการส่ง query จำนวนมหาศาล
ขั้นตอนการทดสอบ
ทุกงานทำตามขั้นตอนเดียวกัน
Scoping
เราสำรวจระบบเป้าหมายร่วมกับคุณ ทั้ง model และเวอร์ชันที่ใช้ แหล่งข้อมูล RAG รวมถึง tool และ API ที่ agent เข้าถึงได้ ตลอดจน role และระดับสิทธิ์ที่เกี่ยวข้อง ส่วนใดจะไม่อยู่ในขอบเขตการทดสอบก็ตกลงกันตั้งแต่ขั้นนี้
Static review
ตรวจ system prompt การตั้งค่า model และ guardrail หรือ content filter ที่มี เพื่อให้การทดสอบแบบ dynamic เริ่มจากข้อมูลที่มีอยู่แล้ว
Prompt injection & jailbreak testing
พยายามลบล้างพฤติกรรมที่ตั้งใจไว้ ทั้งผ่าน input ตรง ๆ และ payload แบบ indirect ที่ฝังไว้ในเนื้อหาที่ model รับเข้าไป แล้ววัดว่า guardrail ยังกันอยู่ไหมเมื่อโดนกดดัน
RAG & embedding testing
เราทดสอบชั้น retrieval สามเรื่อง: access control บน vector store, เอกสารที่ถูก poison หรือสร้างขึ้นเพื่อชักนำคำตอบ และโอกาสที่ embedding จะเปิดเผยข้อความต้นฉบับ
Agent & tool-abuse testing
สำหรับระบบที่เป็น agent เราทดสอบ excessive agency ตรง ๆ คำสั่งที่ถูกดัดแปลงสั่งให้ agent เรียก tool ยิง API หรือลงมือทำเกินอำนาจที่ควรมีได้ไหม
Output-handling & downstream-impact testing
เราตาม output ของ model ไปจนถึงสิ่งที่เอาไปใช้ต่อ แล้วดูว่า output ที่ไม่ได้ sanitize กลายเป็น XSS, injection หรือการกระทำที่ไม่ตั้งใจในระบบที่เชื่อมกันอยู่ได้ไหม
Reporting & retest
finding ทุกข้อเขียนพร้อมผลกระทบและแนวทางแก้ พอทีมคุณแก้เสร็จ เรา retest เพื่อยืนยันว่าแต่ละประเด็นปิดได้จริง
สิ่งที่คุณได้รับ
ทุกรายงานมีอย่างน้อยเท่านี้
Executive summary
สรุปภาพความเสี่ยงในภาษาธุรกิจ ให้ผู้บริหารและ auditor อ่านแล้วตัดสินใจต่อได้
Finding จัดตาม Risk Level
ทุกประเด็นให้ระดับ Critical, High, Medium หรือ Low เรียงลำดับได้เลยว่าต้องแก้อะไรก่อน
POC ประกอบทุก finding
prompt, payload และขั้นตอนทำซ้ำของแต่ละ finding อย่างละเอียด
คำแนะนำการแก้ไข
วิธีแก้ที่ผูกกับสถาปัตยกรรมของคุณจริง
Retest ยืนยันผล
หลังคุณแก้เสร็จ เราตรวจซ้ำแล้วอัปเดตรายงานให้สะท้อนรายการที่ปิดไปแล้ว
ทุกงานที่ผ่านมาเจอ finding จริงที่ผ่านการยืนยันแล้ว
ทีมและใบรับรอง
- OSCP
- OSCE
- CREST CRT
- CREST CPSA
- GIAC GREM
ทีมภายในของเราลงมือทดสอบเองทุกงาน ใบรับรองเหล่านี้ได้มาจากการสอบภาคปฏิบัติที่เข้มข้น ทีมเดียวกันนี้เอาพื้นฐานสาย offensive security มาประเมินช่องทางโจมตีใหม่ ๆ ของระบบ AI ดูใบรับรองทั้งหมดที่ทีมถือ
การทดสอบ AI ของเราอิงกับ framework ที่วงการใช้เป็นมาตรฐานร่วมกัน
OWASP Top 10 for LLM Applications (2025): แกนหลักของสิ่งที่เราทดสอบ ตามที่ไล่ไว้ด้านบน
OWASP Machine Learning Security Top 10: สำหรับความเสี่ยงในชั้น ML ที่อยู่ใต้แอปพลิเคชัน generative
MITRE ATLAS: ฐานความรู้ภัยคุกคามเชิงปฏิปักษ์สำหรับระบบ AI ใช้วิเคราะห์ว่าผู้โจมตีอาจใช้เทคนิคใดบ้าง
NIST AI RMF: กรอบการบริหารความเสี่ยงที่เราเทียบ finding เข้าไป เมื่อคุณต้องคุยกับฝั่ง governance
รักษาระบบ AI ให้ปลอดภัยต่อเนื่อง
Consulting
pentest บอกคุณว่าระบบ AI พังตรงไหนได้ในวันนี้ แต่การรักษาให้ปลอดภัยต่อเนื่องขณะที่มันพัฒนาไปเป็นโจทย์ฝั่ง governance คือการวาง AI Management System ตามมาตรฐาน ISO/IEC 42001 ซึ่งทีม consulting ของเราดูแลส่วนนี้
ตรวจทานล่าสุด: 14 Oct 2026
ทดสอบเจาะระบบ AI
เราวางแผนที่ของเป้าหมายร่วมกับคุณ ทั้ง model และเวอร์ชัน แหล่ง RAG tool และ API ที่ agent เข้าถึงได้ และระดับสิทธิ์ที่เกี่ยวข้อง
คำถามที่พบบ่อย
การทดสอบแอปพลิเคชันที่ใช้ AI หรือ LLM ต่างจาก pentest ทั่วไปอย่างไร?
pentest ทั่วไปตั้งต้นว่าคำสั่งในโค้ดกับข้อมูลที่ผู้ใช้ป้อนแยกกัน จึงไม่ได้ทดสอบสิ่งที่เกิดขึ้นเมื่อข้อความที่ไม่น่าเชื่อถือกลายเป็นคำสั่งได้ แอปพลิเคชันที่ใช้ AI หรือ LLM ลบเส้นแบ่งนั้น พอเพิ่ม RAG หรือความเป็น agent เข้าไป พื้นที่เสี่ยงก็ขยายตาม เนื้อหาที่ดึงเข้ามากลายเป็นพื้นผิวโจมตี และคำสั่งที่ agent เรียก tool ก็กลายเป็นการกระทำจริงบนระบบ บริการนี้ทดสอบพื้นผิวนั้นโดยตรง
prompt injection คืออะไร และทีมทดสอบเรื่องนี้ไหม?
prompt injection คือ input ที่ออกแบบมาลบล้างคำสั่งเดิมของ model จัดอยู่ในหมวด LLM01 ของ OWASP ซึ่งเราใช้เป็นแนวทางทดสอบทุกงาน เราทดสอบสองทาง คือ payload ที่ผู้โจมตีพิมพ์เข้าไปตรง ๆ และ payload ที่ฝังอยู่ในเนื้อหาที่ model อ่านทีหลัง ไม่ว่าทางไหนก็วัดว่า guardrail ยังกันอยู่ไหม
การทดสอบเจาะระบบ AI ครอบคลุมอะไรบ้าง?
เราใช้ OWASP Top 10 for LLM Applications (2025) เป็นแนวทางทดสอบ ครอบคลุมทั้ง prompt injection, sensitive information disclosure, supply chain, data and model poisoning, improper output handling, excessive agency, system prompt leakage, vector and embedding weaknesses, misinformation และ unbounded consumption รวมถึงการทดสอบ RAG, agent และ tool abuse ในระบบที่มีส่วนเหล่านี้
คุณใช้มาตรฐานอะไรบ้าง?
แกนหลักคือ OWASP Top 10 for LLM Applications (2025) เสริมด้วย OWASP Machine Learning Security Top 10, MITRE ATLAS เพื่อวิเคราะห์ว่าผู้โจมตีอาจใช้เทคนิคใดบ้าง และ NIST AI RMF เมื่อคุณต้องคุยกับฝั่ง governance ส่วนการรักษาระบบ AI ให้ปลอดภัยต่อเนื่องขณะที่มันพัฒนาไป คือการวาง AI Management System ตาม ISO/IEC 42001 ทีม consulting ของเราดูแลส่วนนั้น
ความปลอดภัยของ AI จากทีมของเรา
ARTICLES/17 Sep 2026
OWASP Top 10 for LLM 2026: เมื่อ AI Agents และ RAG กลายเป็น Attack Surface ใหม่
ภาพรวมของ OWASP Top 10 for LLM ฉบับ 2026 เจาะ Excessive Agency, ช่องโหว่ RAG และ Tool Poisoning พร้อมตัวอย่าง Indirect Prompt Injection และแนวทาง Secure by Design
ARTICLES/11 Mar 2026
Telegram bot จาก personal assistant สู่ backdoor
รีวิวความเสี่ยงเมื่อ AI Agent อย่าง OpenClaw ถูกเชื่อมกับ Telegram โดยไม่จำกัดสิทธิ์ เปิดทางให้ใครก็เข้ามาสั่งรันสคริปต์ได้
ARTICLES/19 May 2025
Prompt Injection คืออะไร อธิบายแบบเข้าใจง่าย พร้อมตัวอย่างและวิธีป้องกัน
Prompt Injection คือการแทรกคำสั่งให้ AI ทำงานนอกกรอบที่ระบบกำหนดไว้ บทความนี้แยกให้เห็นแบบ Direct และ Indirect พร้อมตัวอย่างจากเกม Gandalf กับ Lab ของ PortSwigger และ Hack The Box รวมถึงแนวทางลดความเสี่ยง
บอกเราว่าระบบ AI ของคุณเข้าถึงอะไรได้บ้าง
สิ่งที่ไม่อยู่ในการทดสอบตกลงกันตั้งแต่ scoping เพื่อให้การทดสอบครอบคลุม model แหล่ง retrieval และ tool ที่สำคัญ
