ภาคธุรกิจกำลังเผชิญหน้ากับความท้าทายครั้งใหญ่ในการใช้งานปัญญาประดิษฐ์ เมื่อองค์กรต่าง ๆ กำลังปล่อยให้ AI Agent (ระบบเอเจนต์อัจฉริยะ) ทำงานอย่างอิสระมากขึ้น ทว่าความเชื่อมั่นต่อระบบทดสอบความปลอดภัยกลับลดลงอย่างน่าใจหาย จนเกิดเป็นช่องว่างขนาดใหญ่ที่เรียกว่า “Evaluation Gap” หรือช่องว่างระหว่างอิสระในการทำงานของ AI กับความสามารถในการควบคุม
ผลสำรวจ VB Pulse ล่าสุด (มิถุนายน 2569) จากกลุ่มตัวอย่างพนักงานในองค์กรที่มีการจ้างงานตั้งแต่ 100 คนขึ้นไป จำนวน 157 คน พบข้อมูลที่น่าตกใจว่า องค์กรกว่าครึ่งหนึ่ง (50%) เคยเจอปัญหา AI Agent หรือฟีเจอร์ LLM สร้างความผิดพลาดต่อหน้าลูกค้า ทั้งที่ระบบดังกล่าว “ผ่าน” การประเมินและทดสอบภายในมาแล้วเรียบร้อย และที่น่ากังวลคือ 1 ใน 4 ขององค์กรเหล่านี้ต้องเผชิญกับความล้มเหลวดังกล่าวมากกว่าหนึ่งครั้ง
แม้ระบบประเมินผลจะเริ่มเชื่อถือไม่ได้ แต่ภาคธุรกิจกลับไม่มีท่าทีที่จะชะลอการใช้งาน โดย 66% ของผู้ตอบแบบสอบถามระบุว่า ได้อนุญาตให้ AI ทำงานในระบบจริงได้โดยไม่ต้องมีมนุษย์ตรวจสอบ หรือกำลังพัฒนาระบบเพื่อเตรียมปล่อยฉายเดี่ยวภายใน 12 เดือนข้างหน้า ทว่ามีเพียง 5% เท่านั้นที่ยอมรับว่า “เชื่อมั่นอย่างเต็มร้อย” ต่อระบบประเมินผลอัตโนมัติที่จะทำหน้าที่ปล่อยตัว AI ออกสู่ตลาด
ทำไม AI ที่ผ่านการทดสอบ ถึงยังทำงานผิดพลาดในโลกจริง?
การทดสอบซอฟต์แวร์แบบดั้งเดิมคือการดูว่าผลลัพธ์ (Output) ตรงกับที่ตั้งไว้หรือไม่ แต่การทดสอบ AI Agent นั้นยากกว่ามาก เพราะมันสามารถคิดขั้นตอน โดดข้ามเครื่องมือ ดึงข้อมูล และตอบสนองแตกต่างกันไปในแต่ละครั้ง AI อาจตัดสินใจในแต่ละขั้นตอนได้อย่างสมเหตุสมผล แต่ผลลัพธ์สุดท้ายกลับพังทลาย เช่น ดึงบัญชีลูกค้ามาถูกต้องแต่กลับอัปเดตข้อมูลผิดช่อง หรือทำเรื่องคืนเงินถูกต้องแต่ส่งออกไปโดยไม่ผ่านการอนุมัติ
ผลสำรวจชี้ชัดว่า เหตุผลหลักที่คนในองค์กรไม่เชื่อใจระบบประเมินผลอัตโนมัติ คือ การประเมินผลไม่ตรงกับสิ่งที่จะเกิดขึ้นจริงในโลกภาพรวม (29%) ตามมาด้วยปัญหาความอคติหรือไม่สม่ำเสมอ (21%) การไม่สามารถอธิบายเหตุผลเบื้องหลังของ AI ได้ (18%) และปัญหาข้อมูลรั่วไหลหรือความเป็นส่วนตัว (17%)
สอดคล้องกับคำแนะนำจากสถาบันมาตรฐานและเทคโนโลยีแห่งชาติ (NIST) ที่ระบุว่า การวัดผล AI ในสภาพแวดล้อมที่ควบคุมได้ มักจะไม่ตรงกับตอนใช้งานจริง เพราะพฤติกรรมของ AI จะเปลี่ยนไปตามบริบท ผู้ใช้งาน และเงื่อนไขหน้างาน จึงจำเป็นต้องมีการทดสอบภาคสนาม (Field Testing) และมีระบบตรวจสอบหลังการใช้งานอย่างเข้มงวด
ความสามารถ ไม่เท่ากับ ความสม่ำเสมอ
การที่ AI ทำงานสำเร็จในครั้งแรก ไม่ได้แปลว่ามันจะทำงานได้ถูกต้องในครั้งต่อไป คำแนะนำจาก Anthropic เน้นย้ำว่า องค์กรต้องแยกแยะระหว่าง “การทำสำเร็จเป็นบางครั้ง” กับ “การทำสำเร็จทุกครั้ง” เพราะในโลกธุรกิจ ความไม่แน่นอนคือความเสี่ยง
องค์กรจำเป็นต้องเปลี่ยนเกณฑ์การประเมินผล โดยนำเคสที่เคยผิดพลาดในอดีต ปัญหาจากลูกค้า หรือการทำงานที่ล้มเหลว กลับมาทำเป็นระบบทดสอบถาวร (Regression Test) เพื่อไม่ให้ AI ผิดพลาดซ้ำสอง
นอกจากนี้ การให้อิสระแก่ AI ควรพิจารณาจากระดับความเสี่ยง (Risk) ไม่ใช่จากความทะเยอทะยานขององค์กร งานที่มีความเสี่ยงต่ำ เช่น การสรุปเนื้อหาภายในองค์กร สามารถปล่อยให้ AI ทำได้เต็มที่ แต่งานที่มีความเสี่ยงสูง เช่น ธุรกรรมทางการเงิน การติดต่อลูกค้า หรือการลบข้อมูล จำเป็นต้องมีมนุษย์ควบคุมและมีระบบกู้คืนข้อมูลเสมอ
น่าสนใจว่า องค์กรขนาดใหญ่ (พนักงาน 2,500 คนขึ้นไป) เป็นกลุ่มที่กล้าปล่อยให้ AI ทำงานโดยไม่มีมนุษย์ควบคุมสูงที่สุดถึง 70% (เทียบกับองค์กรเล็กที่ 64%) และในขณะเดียวกัน องค์กรใหญ่เหล่านี้ก็เจอปัญหา AI ทำงานผิดพลาดต่อหน้าลูกค้าสูงที่สุดถึง 54% เช่นกัน (เทียบกับองค์กรเล็กที่ 48%)
นี่คือสัญญาณเตือนสำหรับผู้นำธุรกิจ การตัดมนุษย์ออกจากกระบวนการไม่ได้ช่วยลดความไม่แน่นอน ในยุคที่ตลาดยังคงบีบให้ทุกคนต้องพึ่งพาความอัจฉริยะของระบบอัตโนมัติ องค์กรที่จะอยู่รอดและได้เปรียบอย่างแท้จริง ไม่ใช่กลุ่มที่ปลดคนออกได้เร็วที่สุด แต่คือกลุ่มที่ให้ความสำคัญกับความเสถียรและความปลอดภัยของระบบเทียบเท่ากับความเร็วในการนำมาใช้งาน
