OpenAI เปิดเผยว่า เอเจนต์อัตโนมัติ (Autonomous Agent) ที่ขับเคลื่อนด้วยโมเดลปัญญาประดิษฐ์ขั้นสูงของบริษัท หลุดออกจากสภาพแวดล้อมการทดสอบด้านความปลอดภัย และก่อเหตุเจาะระบบของบริษัทสตาร์ตอัปด้าน AI อย่าง Hugging Face เมื่อสัปดาห์ที่ผ่านมา
บริษัทผู้พัฒนา ChatGPT ระบุว่า ขณะนั้นกำลังทดสอบความสามารถของโมเดล AI รุ่นล้ำสมัยบางตัวภายในสภาพแวดล้อมที่ควบคุมไว้ แต่เอเจนต์ AI สามารถหลบหลีกการควบคุม เชื่อมต่อกับอินเทอร์เน็ต และเจาะระบบของ Hugging Face เพื่อบรรลุเป้าหมายที่ได้รับมอบหมายในการทดสอบ
เหตุการณ์ดังกล่าวสะท้อนให้เห็นว่า ความสามารถที่เพิ่มขึ้นของ AI กำลังสร้างภัยคุกคามด้านความมั่นคงไซเบอร์ตามที่ผู้เชี่ยวชาญเคยกังวล และแม้แต่นักพัฒนาชั้นนำก็อาจไม่สามารถคาดการณ์ช่องโหว่ที่โมเดลของตนเองสามารถใช้ประโยชน์ได้
OpenAI ระบุในบล็อกของบริษัทว่า เหตุการณ์นี้ถือเป็นเหตุการณ์ไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อน ซึ่งเกี่ยวข้องกับขีดความสามารถด้านไซเบอร์ระดับแนวหน้าของโลก พร้อมยืนยันว่ากำลังเร่งเสริมมาตรการป้องกันให้รัดกุมยิ่งขึ้น
Hugging Face ใช้โมเดล AI จากจีนรับมือการโจมตี
เหตุการณ์ดังกล่าวยังได้รับความสนใจ หลัง Hugging Face เปิดเผยว่า บริษัทเลือกใช้โมเดลโอเพนซอร์สจากจีนในการวิเคราะห์และรับมือการโจมตี เนื่องจากโมเดล AI ชั้นนำของสหรัฐฯ ไม่สามารถแยกแยะบทบาทของผู้โจมตีกับผู้ป้องกันระบบได้ และปฏิเสธการประมวลผลข้อมูลที่จำเป็นต่อการสืบสวน
Hugging Face ระบุว่า ได้ใช้โมเดล GLM-5.2 ของบริษัท Zhipu AI ในการวิเคราะห์ ซึ่งช่วยให้ข้อมูลของผู้โจมตีและข้อมูลรับรองการเข้าถึงระบบยังคงอยู่ภายในโครงสร้างพื้นฐานของบริษัท
ช่วงที่ผ่านมา โมเดล GLM-5.2 รวมถึง Kimi K3 ของบริษัท Moonshot AI จากกรุงปักกิ่ง ได้รับความสนใจในซิลิคอนแวลลีย์ หลังแสดงศักยภาพที่ใกล้เคียงโมเดลชั้นนำของสหรัฐฯ แต่มีต้นทุนต่ำกว่า และไม่มีข้อจำกัดด้านการใช้งานที่จำกัดการนำไปใช้ในภารกิจด้านความมั่นคงไซเบอร์เหมือนโมเดลสัญชาติอเมริกัน
โทมัส วูล์ฟ (Thomas Wolf) ผู้ร่วมก่อตั้ง Hugging Face ระบุผ่านแพลตฟอร์ม X ว่า เมื่อโมเดล AI ระดับแนวหน้ากำลังโจมตีและเคลื่อนที่ภายในโครงสร้างพื้นฐานขององค์กร ผู้ป้องกันระบบจำเป็นต้องเข้าถึงเครื่องมือ AI ระดับใกล้เคียงกันภายในเวลาไม่กี่ชั่วโมงหรือแม้แต่นาที ไม่ใช่ต้องรอการอนุมัติใช้งานผ่านระบบปิด
ผู้เชี่ยวชาญชี้เป็นสัญญาณของภัยคุกคามยุคใหม่
ก่อนหน้านี้ Hugging Face ซึ่งเป็นแพลตฟอร์มให้บริการโมเดลภาษาขนาดใหญ่ (LLMs) แบบโอเพนซอร์สและชุดข้อมูล AI ระบุว่า การโจมตีครั้งนี้ “แตกต่างจากทุกเหตุการณ์ที่เคยรับมือมา” และเป็นการโจมตีที่ดำเนินการโดยระบบเอเจนต์ AI อัตโนมัติแบบครบวงจร
การที่ OpenAI ยอมรับว่า โมเดล AI ขั้นสูงของบริษัทเป็นต้นเหตุของการเจาะระบบ แม้จะถูกวางไว้ในสภาพแวดล้อมที่แยกออกจากภายนอกอย่างเข้มงวด ยิ่งเพิ่มความกังวลเกี่ยวกับศักยภาพและความเสี่ยงของ AI รุ่นใหม่
เกร็ก คาซาร์ สมาชิกสภาผู้แทนราษฎรสหรัฐฯ จากพรรคเดโมแครต กล่าวว่า เหตุการณ์นี้น่าวิตกอย่างยิ่ง เขาระบุว่า AI กำลังพัฒนาอย่างรวดเร็ว แต่ยังแทบไม่มีข้อกำกับดูแลที่เพียงพอ พร้อมเรียกร้องให้มีการทดสอบความปลอดภัยโดยหน่วยงานอิสระ การบังคับเปิดเผยเหตุการณ์ด้านความปลอดภัย และความร่วมมือระหว่างประเทศ เพื่อป้องกันไม่ให้เกิดหายนะในอนาคต
ด้านสำนักงานผู้อำนวยการไซเบอร์แห่งชาติสหรัฐฯ (Office of the National Cyber Director) สำนักงานความมั่นคงปลอดภัยไซเบอร์และโครงสร้างพื้นฐาน (CISA) และสำนักงานความมั่นคงแห่งชาติสหรัฐฯ (NSA) ยังไม่ได้แสดงความเห็นต่อเหตุการณ์ดังกล่าว
เหมือนปลาหมึกที่หาทางหนีได้ทุกช่อง
เคที มูสซูริส ประธานเจ้าหน้าที่บริหารบริษัท Luta Security กล่าวว่า เหตุการณ์นี้อาจเป็นสัญญาณเตือนของการโจมตีในอนาคต โดยเปรียบเทียบ AI รุ่นปัจจุบันว่าเหมือนปลาหมึกที่ฉลาดที่สุดในโลก มีหนวดที่ยืดหยุ่นไม่จำกัด และสามารถเล็ดลอดออกไปได้ทุกช่องทาง
เธอกล่าวว่า ห้องปฏิบัติการ ผู้ประเมินด้านความปลอดภัย และหน่วยงานภาครัฐ จำเป็นต้องพัฒนาระบบกักกัน เฝ้าระวัง และแจ้งเตือนผู้ได้รับผลกระทบ เมื่อ AI สามารถหลบหนีการควบคุมได้อีกครั้ง ซึ่งปัจจุบันยังไม่มีระบบดังกล่าว
ขณะที่ แมตต์ ซูอิช วิศวกรจากบริษัท Tolmo ซึ่งพัฒนา AI สำหรับความมั่นคงไซเบอร์ มองว่า เหตุการณ์นี้แสดงให้เห็นว่า AI ระดับแนวหน้ากำลังไล่ทันศักยภาพของผู้โจมตีไซเบอร์ระดับสูง
อย่างไรก็ตาม เขาเชื่อว่า รูปแบบการเจาะระบบที่ OpenAI อธิบายไว้ ไม่ได้จำกัดอยู่เฉพาะห้องปฏิบัติการวิจัยชั้นนำอีกต่อไป แต่สามารถทำได้ด้วยเทคโนโลยีที่มีใช้อยู่แล้วในปัจจุบัน
ที่มา: Reuters
- คอนเทนต์พิเศษ
สำหรับคุณ - TOP ไอที
- วิดีโอยอดนิยม
