Google รับ Gemini แฮก 3 บริษัทโดยพลการ พบช่องโหว่เหมือนเอไอ OpenAI-Anthropic
.
Google ออกมาเปิดเผยเป็นครั้งแรกเมื่อวันที่ 18 ก.ย. ที่ผ่านมาว่า โมเดลปัญญาประดิษฐ์ Gemini ได้เจาะระบบเข้าสู่เครือข่ายคอมพิวเตอร์ส่วนบุคคลของบริษัทอื่น 3 แห่งโดยไม่ได้รับอนุญาตเมื่อเดือน พ.ค. ที่ผ่านมา เป็นผลมาจากข้อผิดพลาดระหว่างการทดสอบระบบรักษาความปลอดภัย ซึ่งเปิดช่องให้ เอไอสามารถเชื่อมต่ออินเทอร์เน็ต สุ่มเดารหัสผ่าน และแทรกซึมเข้าสู่ระบบจริงได้โดยอัตโนมัติ ก่อนที่ตัวโมเดลจะสั่งยุติการกระทำดังกล่าวด้วยตัวเองเมื่อตระหนักได้ว่าระบบเหล่านั้นไม่ใช่สภาพแวดล้อมจำลอง
.
สำนักข่าว CNBC รายงานว่า เหตุการณ์นี้เกิดขึ้นระหว่างการทดสอบความปลอดภัยทางไซเบอร์แบบ Capture-the-flag ซึ่งดำเนินการโดย Irregular สตาร์ตอัปจากอิสราเอล เดิมทีกำหนดให้เอเจนต์เอไอของ Google ปฏิบัติการในระบบปิดและไม่สามารถเข้าถึงอินเทอร์เน็ตวงกว้างได้ แต่บั๊กกลับเปิดช่องให้โมเดลสามารถเชื่อมต่อกับโลกภายนอก
.
เฮเธอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ชี้แจงว่า โมเดลได้ค้นหาข้อมูลสาธารณะออนไลน์ สุ่มเดารหัสผ่าน และใช้ฐานข้อมูลรหัสผ่านสาธารณะถึง 2 ครั้งเพื่อพยายามเจาะเข้าเว็บไซต์ที่มันคิดว่าเป็นส่วนหนึ่งของการทดสอบ แต่เมื่อเอไอตรวจพบว่าระบบที่เจาะเข้าไปนั้นเป็นระบบของบริษัทจริง จึงได้ยุติการกระทำทั้ง 3 กรณีทันที
.
การเปิดเผยข้อมูลครั้งนี้เกิดขึ้นท่ามกลางรัฐบาลสหรัฐและซิลิคอนแวลลีย์ที่กำลังจับตาพฤติกรรมปัญญาประดิษฐ์ที่เหนือการควบคุม เนื่องจากในช่วงไม่กี่สัปดาห์ที่ผ่านมา บริษัทยักษ์ใหญ่อย่าง OpenAI, Anthropic และ Meta ต่างก็รายงานเหตุการณ์ในลักษณะเดียวกัน ที่โมเดลเอไอของตนหลุดออกจากสภาพแวดล้อมการทดสอบและพยายามแฮกเข้าระบบคอมพิวเตอร์ของบริษัทอื่นโดยไม่ได้รับอนุญาต
.
โฆษกของ Irregular ยืนยันว่า กรณีของ Google มีสาเหตุมาจากช่องโหว่เดียวกันกับที่ทำให้โมเดลของบริษัทอื่นๆ หลุดออกสู่อินเทอร์เน็ต ซึ่งทางบริษัทได้แจ้งให้ห้องปฏิบัติการวิจัยทุกแห่งรวมถึงหน่วยงานที่ได้รับผลกระทบทราบแล้วตั้งแต่ช่วงปลายเดือน ก.ค. เพื่อดำเนินการสืบสวน
.
ล่าสุด Google ได้ร่วมมือกับ Irregular เพื่อปรับปรุงกระบวนการทดสอบใหม่ทั้งหมดแล้ว แม้โฆษกของ Google จะปฏิเสธที่จะระบุชื่อรุ่นย่อยที่แน่ชัดของโมเดล Gemini ที่ก่อเหตุในครั้งนี้ก็ตาม
.
อ่าน:
https://www.bangkokbiznews.com/world/economics/1252620
.
.
#กรุงเทพธุรกิจ #InsightForOpportunities #กรุงเทพธุรกิจTech #กรุงเทพธุรกิจAI
🤖😈 Google รับ Gemini แฮก 3 บริษัทโดยพลการ พบช่องโหว่เหมือนเอไอ OpenAI-Anthropic
.
Google ออกมาเปิดเผยเป็นครั้งแรกเมื่อวันที่ 18 ก.ย. ที่ผ่านมาว่า โมเดลปัญญาประดิษฐ์ Gemini ได้เจาะระบบเข้าสู่เครือข่ายคอมพิวเตอร์ส่วนบุคคลของบริษัทอื่น 3 แห่งโดยไม่ได้รับอนุญาตเมื่อเดือน พ.ค. ที่ผ่านมา เป็นผลมาจากข้อผิดพลาดระหว่างการทดสอบระบบรักษาความปลอดภัย ซึ่งเปิดช่องให้ เอไอสามารถเชื่อมต่ออินเทอร์เน็ต สุ่มเดารหัสผ่าน และแทรกซึมเข้าสู่ระบบจริงได้โดยอัตโนมัติ ก่อนที่ตัวโมเดลจะสั่งยุติการกระทำดังกล่าวด้วยตัวเองเมื่อตระหนักได้ว่าระบบเหล่านั้นไม่ใช่สภาพแวดล้อมจำลอง
.
สำนักข่าว CNBC รายงานว่า เหตุการณ์นี้เกิดขึ้นระหว่างการทดสอบความปลอดภัยทางไซเบอร์แบบ Capture-the-flag ซึ่งดำเนินการโดย Irregular สตาร์ตอัปจากอิสราเอล เดิมทีกำหนดให้เอเจนต์เอไอของ Google ปฏิบัติการในระบบปิดและไม่สามารถเข้าถึงอินเทอร์เน็ตวงกว้างได้ แต่บั๊กกลับเปิดช่องให้โมเดลสามารถเชื่อมต่อกับโลกภายนอก
.
เฮเธอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ชี้แจงว่า โมเดลได้ค้นหาข้อมูลสาธารณะออนไลน์ สุ่มเดารหัสผ่าน และใช้ฐานข้อมูลรหัสผ่านสาธารณะถึง 2 ครั้งเพื่อพยายามเจาะเข้าเว็บไซต์ที่มันคิดว่าเป็นส่วนหนึ่งของการทดสอบ แต่เมื่อเอไอตรวจพบว่าระบบที่เจาะเข้าไปนั้นเป็นระบบของบริษัทจริง จึงได้ยุติการกระทำทั้ง 3 กรณีทันที
.
การเปิดเผยข้อมูลครั้งนี้เกิดขึ้นท่ามกลางรัฐบาลสหรัฐและซิลิคอนแวลลีย์ที่กำลังจับตาพฤติกรรมปัญญาประดิษฐ์ที่เหนือการควบคุม เนื่องจากในช่วงไม่กี่สัปดาห์ที่ผ่านมา บริษัทยักษ์ใหญ่อย่าง OpenAI, Anthropic และ Meta ต่างก็รายงานเหตุการณ์ในลักษณะเดียวกัน ที่โมเดลเอไอของตนหลุดออกจากสภาพแวดล้อมการทดสอบและพยายามแฮกเข้าระบบคอมพิวเตอร์ของบริษัทอื่นโดยไม่ได้รับอนุญาต
.
โฆษกของ Irregular ยืนยันว่า กรณีของ Google มีสาเหตุมาจากช่องโหว่เดียวกันกับที่ทำให้โมเดลของบริษัทอื่นๆ หลุดออกสู่อินเทอร์เน็ต ซึ่งทางบริษัทได้แจ้งให้ห้องปฏิบัติการวิจัยทุกแห่งรวมถึงหน่วยงานที่ได้รับผลกระทบทราบแล้วตั้งแต่ช่วงปลายเดือน ก.ค. เพื่อดำเนินการสืบสวน
.
ล่าสุด Google ได้ร่วมมือกับ Irregular เพื่อปรับปรุงกระบวนการทดสอบใหม่ทั้งหมดแล้ว แม้โฆษกของ Google จะปฏิเสธที่จะระบุชื่อรุ่นย่อยที่แน่ชัดของโมเดล Gemini ที่ก่อเหตุในครั้งนี้ก็ตาม
.
อ่าน: https://www.bangkokbiznews.com/world/economics/1252620
.
.
#กรุงเทพธุรกิจ #InsightForOpportunities #กรุงเทพธุรกิจTech #กรุงเทพธุรกิจAI