การ์ทเนอร์ อิงก์ (Gartner) บริษัทวิจัยและให้คำปรึกษาชั้นนำด้านธุรกิจและเทคโนโลยีระดับโลก เปิดเผยรายงานคาดการณ์ขอบเขตภัยคุกคามไซเบอร์ (ThreatScape) ระหว่างปี 2569-2570 โดยระบุว่า ปัจจุบันผู้นำด้านไซเบอร์ซีเคียวริตี้กำลังเผชิญกับ 4 ภัยคุกคามสำคัญที่คาดการณ์ได้ยาก และเป็นจุดที่กลุ่มผู้ไม่หวังดีกุมความได้เปรียบในการเจาะช่องโหว่ขององค์กรอย่างมาก ซึ่งจำเป็นต้องปรับแผนตั้งรับอย่างเร่งด่วน
จอห์น วัตตส์ (John Watts) รองประธานนักวิเคราะห์ของการ์ทเนอร์ ระบุว่า การที่บริษัทผู้พัฒนา AI พยายามนำเสนอแนวคิดความปลอดภัยใหม่ๆ ได้สร้าง “สัญญาณรบกวน” จำนวนมากในภูมิทัศน์ภัยคุกคาม ผู้นำความมั่นคงปลอดภัยสารสนเทศ (CISO) จึงต้องแยกแยะ “สัญญาณภัยคุกคามที่แท้จริง” ออกมาให้ได้ โดยการ์ทเนอร์ได้สรุป 4 ภัยคุกคามหลักพร้อมแนวทางรับมือไว้ดังนี้:
1. การโจมตีแอปพลิเคชัน AI (AI Application Compromise)
พื้นที่การโจมตีขยายวงกว้างไปยังระบบ AI ขององค์กร ทั้งระบบภายในและภายนอก รวมถึงระบบเอเจนต์ที่พัฒนาขึ้นเฉพาะ (Custom-built agents) และการเชื่อมต่อกับระบบภายนอก (Third-party integrations) ซึ่งหากระบบความปลอดภัยหละหลวม อาจทำให้ข้อมูลความลับหรือรหัสผ่านรั่วไหลได้
- แนวทางรับมือ: นำกรอบการทำงาน TRiSM (Trust, Risk and Security Management ในระบบ AI) ของการ์ทเนอร์มาใช้ เพื่อฝังมาตรการลดความเสี่ยงในขั้นตอนพัฒนา ประยุกต์ใช้แนวปฏิบัติ Secure Development Life Cycle และการจำลองรูปแบบภัยคุกคาม (Threat Modeling) ร่วมกับการควบคุมการเข้าถึงตามวัตถุประสงค์ (Purpose-Based Access Control – PBAC)
2. การปลอมแปลงตัวตนด้วยดีปเฟก (Identity Impersonation Using Deepfakes)
Generative AI ทำให้การสร้างดีปเฟก (เสียง วิดีโอ ภาพ) มีความสมจริงและทำได้ง่ายขึ้น แฮกเกอร์ใช้ดีปเฟกโจมตีระบบตรวจสอบตัวตนด้วยชีวมิติ (Biometric Authentication) รวมถึงใช้ร่วมกับกลอุบายวิศวกรรมทางสังคม (Social Engineering) เพื่อหลอกลวงพนักงานแบบเรียลไทม์
- แนวทางรับมือ: ไม่พึ่งพาเทคโนโลยีตรวจจับดีปเฟกเพียงอย่างเดียว แต่ต้องใช้การควบคุมความปลอดภัยแบบเป็นชั้น (Layers of Controls) บล็อกการโจมตีแบบ Presentation Attack และ Injection Attack ในระบบชีวมิติ รวมถึงบังคับใช้นโยบายการเข้าถึงแบบมีเงื่อนไข (Conditional Access Policies) ในการประชุมออนไลน์
3. ภัยคุกคามต่อห่วงโซ่อุปทานซอฟต์แวร์ (Software Supply Chain Threats)
ผลิตภัณฑ์ GenAI เร่งให้เกิดการโจมตีห่วงโซ่อุปทานซอฟต์แวร์ผ่านช่องโหว่ในโอเพนซอร์สรวดเร็วยิ่งขึ้น องค์กรจึงต้องสร้างระบบคลังจัดเก็บส่วนประกอบที่ปลอดภัยและตรวจสอบได้อย่างเข้มงวด
- แนวทางรับมือ: กำหนดให้ผู้จำหน่ายซอฟต์แวร์ส่งมอบเอกสาร SBOM (Software Bill of Materials) และ AIBOM (AI Bill of Materials) เพื่อประเมินความเสี่ยงก่อนใช้งาน ใช้คลังเก็บโค้ดที่ผ่านการตรวจสอบ บังคับใช้ระบบป้องกันการแก้ไขโค้ด (Branch Protection) และใช้หลักสิทธิ์การเข้าถึงเท่าที่จำเป็น (Least-Privilege) ในกระบวนการสร้างซอฟต์แวร์
4. การโจมตีด้วยพรอมต์ (Prompt Injection)
ภัยคุกคามที่พุ่งเป้าไปที่โมเดลภาษาขนาดใหญ่ (LLMs) โดยเฉพาะ ผู้โจมตีจะปรับแต่งหรือแทรกคำสั่ง (Prompts) เพื่อบิดเบือนพฤติกรรมของ AI ทำให้ข้อมูลละเอียดอ่อนรั่วไหล หรือข้ามผ่านระบบควบคุมความปลอดภัย
- แนวทางรับมือ: ใช้กลยุทธ์ป้องกันแบบเป็นชั้น นำระบบตรวจสอบและล้างข้อมูลอินพุต (Input Validation and Sanitization) มาใช้เพื่อกรองคำสั่งประสงค์ร้าย ตั้งระบบแจ้งเตือนพฤติกรรม AI ที่ผิดปกติ และผสานการทดสอบ Prompt Injection เข้าเป็นส่วนหนึ่งของวงจรการพัฒนาระบบ AI
–พุ่งเป้าบอลโลก! FortiGuard Labs เตือนแฮกเกอร์กางแผนล่าเหยื่อล่วงหน้า จดโดเมนปลอมพุ่งทะลุ 13,000 เว็บ
