ท่ามกลางกระแสการถกเถียงเรื่องความปลอดภัยทางไซเบอร์ของปัญญาประดิษฐ์ (AI) ในปัจจุบัน หลายฝ่ายมักพุ่งเป้าไปที่การควบคุมตัวโมเดลเพียงอย่างเดียว จนนำไปสู่ข้อเสนอให้กำกับดูแลอย่างเข้มงวดหรือสั่งห้ามใช้โมเดลแบบเปิดเผยค่าน้ำหนัก (Open Weights Models) ทว่าในความเป็นจริง การมุ่งโฟกัสเฉพาะตัวโมเดลอาจเป็นการมองข้ามแก่นแท้ของปัญหา เนื่องจาก AI Agent ไม่ได้เป็นเพียงโมเดลเดี่ยวๆ แต่คือระบบซอฟต์แวร์แบบครบวงจร (Software Stack)
โครงสร้างความปลอดภัยของระบบ AI ประกอบด้วยหลายองค์ประกอบร่วมกัน ตั้งแต่โมเดลหลัก (Core Model), ส่วนเชื่อมต่อสั่งการ (Agentic Harness), พื้นที่จำลองการทำงานเพื่อจำกัดความเสี่ยง (Sandbox), เกราะคุ้มกันขณะประมวลผล (Runtime Guardrails), การกำกับดูแลข้อมูล ไปจนถึงโครงสร้างพื้นฐานแอปพลิเคชัน
ซึ่งองค์ประกอบกว่า 3 ใน 4 ล้วนมีรากฐานมาจากวิศวกรรมซอฟต์แวร์โดยตรง การพยายามสร้างความปลอดภัยด้วยการกักขังระบบไว้เป็นกรรมสิทธิ์แบบปิดจึงเป็นเพียงการย้ายความเสี่ยง ไม่ใช่การแก้ปัญหาที่ตรงจุด เช่นเดียวกับในอดีตที่ Linux ได้พิสูจน์แล้วว่า ความโปร่งใสและการทำงานร่วมกันของชุมชนโอเพ่นซอร์สสามารถสร้างระบบที่เสถียร ปลอดภัย และกลายเป็นหัวใจหลักของไอทีระดับองค์กรทั่วโลก
ในมิติของไซเบอร์ซีเคิวริตี “ความโปร่งใสคือหัวใจของการป้องกัน” การจำกัดงานวิจัยและการรับมือภัยคุกคามไว้กับผู้ให้บริการระบบปิดเพียงไม่กี่ราย ก่อให้เกิดความเสี่ยงเชิงระบบอย่างรุนแรง เนื่องจากผู้ดูแลระบบไม่สามารถคาดเดาเครื่องมือที่ฝ่ายโจมตีเลือกใช้ได้ หากทีมป้องกันไม่สามารถเข้าถึงโมเดลระบบเปิดเพื่อตรวจสอบและศึกษา ย่อมเสียเปรียบในการตรวจจับรูปแบบการโจมตีใหม่ๆ
ขณะที่การเข้าถึงโมเดลแบบ Open-weights จะเปิดโอกาสให้นักวิจัยสามารถตรวจสอบเชิงวิทยาศาสตร์และค้นพบช่องโหว่ที่แฝงอยู่ในระบบปิดได้อย่างมีประสิทธิภาพ ดังเช่นกรณีความปลอดภัยของ Hugging Face ที่เกิดขึ้น ซึ่งการคลี่คลายและปกป้องระบบต้องอาศัยโมเดลแบบ Open-weights เป็นเครื่องมือสำคัญในการจัดการภัยคุกคาม
เพื่อยกระดับขีดความสามารถด้านความปลอดภัยอย่างยั่งยืน เร้ดแฮท (Red Hat) ได้ร่วมลงนามใน Microsoft’s letter on Open Weights and American AI Leadership พร้อมทั้งจับมือกับ NVIDIA, Linux Foundation และพันธมิตรในกลุ่ม Open Secure AI Alliance จัดทำข้อเสนอ Request for Comments (RFC) สำหรับคณะทำงาน Shared AI Findings Exchange (SAFE)
กรอบการทำงานของ SAFE มุ่งเปลี่ยนวิถีการแก้ไขปัญหาภายในองค์กรแบบเดิมๆ มาสู่การสร้างแพลตฟอร์มกลาง เพื่อรวบรวม วิเคราะห์ และแลกเปลี่ยนข้อมูลข้อผิดพลาดจากการใช้งาน AI อย่างเป็นความลับและไม่มุ่งจับผิด ซึ่งการแบ่งปันข้อมูลภัยคุกคามร่วมกันจะช่วยให้ทุกฝ่ายสามารถพัฒนาเครื่องมือและเสริมเกราะป้องกันโครงสร้างพื้นฐานสำคัญได้อย่างรวดเร็ว โดยปัจจุบันข้อเสนอ SAFE RFC ฉบับเต็มได้เผยแพร่บน GitHub เพื่อเปิดให้ชุมชนนักพัฒนาร่วมตรวจสอบและขับเคลื่อนระบบนิเวศความปลอดภัยของ AI ร่วมกัน
บทความโดย นายคริส ไรท์ ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี และรองประธานบริหาร ฝ่ายวิศวกรรมระดับโลก ของเร้ดแฮท
–จีนเดินหน้ากวาดล้างข่าวลือออนไลน์ สั่งเชือดคอนเทนต์ AI ลวงโลกกระทบชื่อเสียงธุรกิจ-ยานยนต์
