โลกกังวลเมื่อ AI เริ่ม ‘ตัดสินใจเอง’ โมเดลโอเพนซอร์สจีนติด Top 3 โลกด้าน AI Security
.
เมื่อเดือนกรกฎาคมที่ผ่านมา ระหว่างการทดสอบภายในของ OpenAI โมเดล AI ตัวหนึ่งสามารถค้นพบช่องโหว่ วางแผน และเจาะเข้าสู่ Hugging Face แพลตฟอร์มโอเพนซอร์สด้าน AI ของสหรัฐฯ ได้ด้วยตนเอง จนสร้างความกังวลเกี่ยวกับความปลอดภัยของ AI
.
ล่าสุด กระทรวงความมั่นคงแห่งรัฐของจีนออกมาเตือนว่าเมื่อ AI เริ่มมีความสามารถในการ "ตัดสินใจเอง" ประเด็นด้านความปลอดภัยจึงไม่อาจมองข้ามได้ ขณะที่ผลการทดสอบยังพบว่าโมเดล AI หลักของสหรัฐฯ ไม่สามารถวิเคราะห์โค้ดอันตรายได้อย่างมีประสิทธิภาพ จนต้องหันมาใช้โมเดลโอเพนซอร์สจากจีนเพื่อสืบย้อนที่มาของการโจมตี
.
ประเด็นด้านความปลอดภัยของ AI กำลังได้รับความสนใจมากขึ้น หลัง CyberGym ชุดทดสอบมาตรฐานด้านความปลอดภัย AI ที่พัฒนาโดยมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ (University of California, Berkeley) ประกาศผลการจัดอันดับล่าสุด ซึ่งใช้ประเมินความสามารถของ AI Agent ในการค้นหาและวิเคราะห์ช่องโหว่ด้านความปลอดภัย
.
ผลการจัดอันดับพบว่า DoGNAVY ระบบ AI สำหรับค้นหาและวิเคราะห์ช่องโหว่ด้านความปลอดภัย ที่พัฒนาโดยสถาบันวิจัย AI ชั้นนำของจีนร่วมกับบริษัทด้านความปลอดภัยไซเบอร์ DARKNAVY (达酷诺威) คว้าอันดับ 3 ของโลก ด้วยอัตราผ่านการทดสอบ 90.8% จากโจทย์ 1,507 ข้อ ตามหลังอันดับ 2 เพียง 0.1% ขณะที่ Microsoft และ Google ครองอันดับ 1 และ 2
.
ส่วน GPT-5.5-Cyber ของ OpenAI อยู่อันดับ 6 ด้วยคะแนน 85.6% และ Claude Mythos Preview ของ Anthropic อยู่อันดับ 9 ที่ 83.1%
.
CyberGym ใช้โจทย์จากช่องโหว่จริงในโครงการโอเพนซอร์ส 188 โครงการ รวม 1,507 ข้อ โดย AI ต้องวิเคราะห์ซอฟต์แวร์และค้นหาช่องโหว่ด้วยตัวเอง ไม่ใช่การตอบคำถามจากฐานข้อมูลที่มีอยู่ จึงถือเป็นหนึ่งในมาตรฐานสำคัญที่ใช้ประเมินศักยภาพของ AI ด้านความปลอดภัยไซเบอร์
.
ระบบจะปิดการจดจำข้อมูลข้ามโจทย์และลบข้อมูลที่อาจเปิดเผยคำตอบ เพื่อป้องกันไม่ให้ AI อาศัยการจดจำคำตอบ ทำให้ AI ต้องเริ่มแก้ปัญหาใหม่ทุกครั้ง ผลการทดสอบพบว่า DoGNAVY ผ่านโจทย์ได้ 1,369 ข้อ หรือคิดเป็น 90.8%
.
ผลการจัดอันดับยังสะท้อนแนวทางการพัฒนา AI ที่แตกต่างกัน โดยสองอันดับแรกเลือกใช้โมเดล AI แบบปิดหลายตัวทำงานร่วมกัน ขณะที่ DoGNAVY พัฒนาบนพื้นฐานของ GLM-5.2 โมเดลโอเพนซอร์สของ Zhipu AI (智谱AI) ซึ่งเปิดให้ดาวน์โหลดและติดตั้งใช้งานผ่านแพลตฟอร์ม Hugging Face
.
เบื้องหลัง DoGNAVY คือ AgentDoG เฟรมเวิร์กด้านความปลอดภัยสำหรับ AI Agent ที่พัฒนาร่วมกันโดยสถาบันวิจัย AI ของจีนและบริษัทด้านความปลอดภัยไซเบอร์ DARKNAVY เพื่อใช้ตรวจสอบ วิเคราะห์และติดตามการทำงานของ AI
.
AgentDoG ถูกออกแบบมาเพื่อรับมือความเสี่ยงของ AI Agent ที่สามารถเข้าถึงไฟล์ เรียกใช้ API และเชื่อมต่ออินเทอร์เน็ต ซึ่งอาจถูกหลอกให้ปฏิบัติตามคำสั่งที่เป็นอันตราย จนนำไปสู่การรั่วไหลของข้อมูลหรือความเสียหายต่อระบบ
.
จุดเด่นของ AgentDoG คือไม่เพียงประเมินว่า AI "ปลอดภัย" หรือ "ไม่ปลอดภัย" แต่ยังสามารถวิเคราะห์สาเหตุของความเสี่ยงและอธิบายเหตุผลเบื้องหลังการตัดสินใจของ AI ทำให้ผู้พัฒนาสามารถแก้ไขปัญหาได้ตรงจุด
.
นอกจากนี้ ทีมวิจัยยังพัฒนาโมเดลด้านความปลอดภัยที่มีขนาดเพียงประมาณ 1 ใน 1,000 ของโมเดลภาษาขนาดใหญ่ทั่วไป แต่ยังมีความแม่นยำในการตรวจจับความเสี่ยงถึง 78.4%
.
แม้ CyberGym จะมีโจทย์และเกณฑ์การประเมินที่ชัดเจน แต่ในสถานการณ์จริง AI ต้องรับมือกับระบบที่ซับซ้อนกว่ามาก ตัวอย่างเช่น AI สามารถวิเคราะห์ช่องโหว่ของ Microsoft Edge จากโค้ดขนาดกว่า 300 MB และสร้างลำดับการโจมตีที่นำไปสู่การรันโค้ดจากระยะไกลบน Windows ได้ อีกกรณีหนึ่ง AI ยังสามารถวิเคราะห์ระบบโดรนและสาธิตการเข้าควบคุมอุปกรณ์ได้สำเร็จ
.
AI กำลังเปลี่ยนโฉมการรักษาความปลอดภัยไซเบอร์ จากเดิมที่การค้นหาและวิเคราะห์ช่องโหว่อาจใช้เวลาหลายสัปดาห์หรือหลายเดือน ปัจจุบัน AI สามารถย่นระยะเวลาเหลือเพียงไม่กี่ชั่วโมง ทำให้การป้องกันไม่อาจพึ่งพาผู้เชี่ยวชาญเพียงอย่างเดียวได้อีกต่อไป
.
การคว้าอันดับ 3 ของโลกของ DoGNAVY จึงสะท้อนให้เห็นว่าจีนกำลังยกระดับศักยภาพด้าน AI Security ผ่านการผสานโมเดลโอเพนซอร์ส เทคโนโลยีด้านความปลอดภัยและประสบการณ์ด้านความมั่นคงไซเบอร์ เพื่อพัฒนาเครื่องมือรับมือภัยคุกคามในระดับสากล
.
.
📧 ติดต่อเรา Email: info@jeenthainews.com
.
#AISecurity #ความปลอดภัยไซเบอร์ #เทคโนโลยีจีน
.
https://www.facebook.com/share/p/1CzCtd4q5B/
🤖 โลกกังวลเมื่อ AI เริ่ม ‘ตัดสินใจเอง’ โมเดลโอเพนซอร์สจีนติด Top 3 โลกด้าน AI Security
.
เมื่อเดือนกรกฎาคมที่ผ่านมา ระหว่างการทดสอบภายในของ OpenAI โมเดล AI ตัวหนึ่งสามารถค้นพบช่องโหว่ วางแผน และเจาะเข้าสู่ Hugging Face แพลตฟอร์มโอเพนซอร์สด้าน AI ของสหรัฐฯ ได้ด้วยตนเอง จนสร้างความกังวลเกี่ยวกับความปลอดภัยของ AI
.
ล่าสุด กระทรวงความมั่นคงแห่งรัฐของจีนออกมาเตือนว่าเมื่อ AI เริ่มมีความสามารถในการ "ตัดสินใจเอง" ประเด็นด้านความปลอดภัยจึงไม่อาจมองข้ามได้ ขณะที่ผลการทดสอบยังพบว่าโมเดล AI หลักของสหรัฐฯ ไม่สามารถวิเคราะห์โค้ดอันตรายได้อย่างมีประสิทธิภาพ จนต้องหันมาใช้โมเดลโอเพนซอร์สจากจีนเพื่อสืบย้อนที่มาของการโจมตี
.
ประเด็นด้านความปลอดภัยของ AI กำลังได้รับความสนใจมากขึ้น หลัง CyberGym ชุดทดสอบมาตรฐานด้านความปลอดภัย AI ที่พัฒนาโดยมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ (University of California, Berkeley) ประกาศผลการจัดอันดับล่าสุด ซึ่งใช้ประเมินความสามารถของ AI Agent ในการค้นหาและวิเคราะห์ช่องโหว่ด้านความปลอดภัย
.
ผลการจัดอันดับพบว่า DoGNAVY ระบบ AI สำหรับค้นหาและวิเคราะห์ช่องโหว่ด้านความปลอดภัย ที่พัฒนาโดยสถาบันวิจัย AI ชั้นนำของจีนร่วมกับบริษัทด้านความปลอดภัยไซเบอร์ DARKNAVY (达酷诺威) คว้าอันดับ 3 ของโลก ด้วยอัตราผ่านการทดสอบ 90.8% จากโจทย์ 1,507 ข้อ ตามหลังอันดับ 2 เพียง 0.1% ขณะที่ Microsoft และ Google ครองอันดับ 1 และ 2
.
ส่วน GPT-5.5-Cyber ของ OpenAI อยู่อันดับ 6 ด้วยคะแนน 85.6% และ Claude Mythos Preview ของ Anthropic อยู่อันดับ 9 ที่ 83.1%
.
CyberGym ใช้โจทย์จากช่องโหว่จริงในโครงการโอเพนซอร์ส 188 โครงการ รวม 1,507 ข้อ โดย AI ต้องวิเคราะห์ซอฟต์แวร์และค้นหาช่องโหว่ด้วยตัวเอง ไม่ใช่การตอบคำถามจากฐานข้อมูลที่มีอยู่ จึงถือเป็นหนึ่งในมาตรฐานสำคัญที่ใช้ประเมินศักยภาพของ AI ด้านความปลอดภัยไซเบอร์
.
ระบบจะปิดการจดจำข้อมูลข้ามโจทย์และลบข้อมูลที่อาจเปิดเผยคำตอบ เพื่อป้องกันไม่ให้ AI อาศัยการจดจำคำตอบ ทำให้ AI ต้องเริ่มแก้ปัญหาใหม่ทุกครั้ง ผลการทดสอบพบว่า DoGNAVY ผ่านโจทย์ได้ 1,369 ข้อ หรือคิดเป็น 90.8%
.
ผลการจัดอันดับยังสะท้อนแนวทางการพัฒนา AI ที่แตกต่างกัน โดยสองอันดับแรกเลือกใช้โมเดล AI แบบปิดหลายตัวทำงานร่วมกัน ขณะที่ DoGNAVY พัฒนาบนพื้นฐานของ GLM-5.2 โมเดลโอเพนซอร์สของ Zhipu AI (智谱AI) ซึ่งเปิดให้ดาวน์โหลดและติดตั้งใช้งานผ่านแพลตฟอร์ม Hugging Face
.
เบื้องหลัง DoGNAVY คือ AgentDoG เฟรมเวิร์กด้านความปลอดภัยสำหรับ AI Agent ที่พัฒนาร่วมกันโดยสถาบันวิจัย AI ของจีนและบริษัทด้านความปลอดภัยไซเบอร์ DARKNAVY เพื่อใช้ตรวจสอบ วิเคราะห์และติดตามการทำงานของ AI
.
AgentDoG ถูกออกแบบมาเพื่อรับมือความเสี่ยงของ AI Agent ที่สามารถเข้าถึงไฟล์ เรียกใช้ API และเชื่อมต่ออินเทอร์เน็ต ซึ่งอาจถูกหลอกให้ปฏิบัติตามคำสั่งที่เป็นอันตราย จนนำไปสู่การรั่วไหลของข้อมูลหรือความเสียหายต่อระบบ
.
จุดเด่นของ AgentDoG คือไม่เพียงประเมินว่า AI "ปลอดภัย" หรือ "ไม่ปลอดภัย" แต่ยังสามารถวิเคราะห์สาเหตุของความเสี่ยงและอธิบายเหตุผลเบื้องหลังการตัดสินใจของ AI ทำให้ผู้พัฒนาสามารถแก้ไขปัญหาได้ตรงจุด
.
นอกจากนี้ ทีมวิจัยยังพัฒนาโมเดลด้านความปลอดภัยที่มีขนาดเพียงประมาณ 1 ใน 1,000 ของโมเดลภาษาขนาดใหญ่ทั่วไป แต่ยังมีความแม่นยำในการตรวจจับความเสี่ยงถึง 78.4%
.
แม้ CyberGym จะมีโจทย์และเกณฑ์การประเมินที่ชัดเจน แต่ในสถานการณ์จริง AI ต้องรับมือกับระบบที่ซับซ้อนกว่ามาก ตัวอย่างเช่น AI สามารถวิเคราะห์ช่องโหว่ของ Microsoft Edge จากโค้ดขนาดกว่า 300 MB และสร้างลำดับการโจมตีที่นำไปสู่การรันโค้ดจากระยะไกลบน Windows ได้ อีกกรณีหนึ่ง AI ยังสามารถวิเคราะห์ระบบโดรนและสาธิตการเข้าควบคุมอุปกรณ์ได้สำเร็จ
.
AI กำลังเปลี่ยนโฉมการรักษาความปลอดภัยไซเบอร์ จากเดิมที่การค้นหาและวิเคราะห์ช่องโหว่อาจใช้เวลาหลายสัปดาห์หรือหลายเดือน ปัจจุบัน AI สามารถย่นระยะเวลาเหลือเพียงไม่กี่ชั่วโมง ทำให้การป้องกันไม่อาจพึ่งพาผู้เชี่ยวชาญเพียงอย่างเดียวได้อีกต่อไป
.
การคว้าอันดับ 3 ของโลกของ DoGNAVY จึงสะท้อนให้เห็นว่าจีนกำลังยกระดับศักยภาพด้าน AI Security ผ่านการผสานโมเดลโอเพนซอร์ส เทคโนโลยีด้านความปลอดภัยและประสบการณ์ด้านความมั่นคงไซเบอร์ เพื่อพัฒนาเครื่องมือรับมือภัยคุกคามในระดับสากล
.
.
📧 ติดต่อเรา Email: info@jeenthainews.com
.
#AISecurity #ความปลอดภัยไซเบอร์ #เทคโนโลยีจีน
.
https://www.facebook.com/share/p/1CzCtd4q5B/