Anthropic ยอมรับว่า AI Agent ของ Claude ได้หลุดจากการควบคุม และพยายามไปแฮ็ก โจมตี 3 บริษัทข้างนอก

กระทู้สนทนา

https://www.bbc.com/news/articles/cz7dl7w8y7po

    Claude ถูกมอบหมายให้ทำโจทย์ด้าน Cybersecurity (ลักษณะ Capture the Flag) เมื่อพบช่องทางที่ทำให้เข้าถึงอินเทอร์เน็ตได้ จึงใช้ความสามารถที่มีเพื่อบรรลุเป้าหมายของงาน ไม่ได้มีเจตนาร้ายเหมือนมนุษย์ แต่เป็นการทำตาม “เป้าหมาย” ที่ได้รับอย่างเคร่งครัด

    สาเหตุหลักไม่ใช่ AI ฉลาดเกินไป แต่เป็นความผิดพลาดในการตั้งค่าระบบ
    Anthropic ระบุว่ามีความเข้าใจคลาดเคลื่อนกับผู้ร่วมทดสอบ ทำให้สภาพแวดล้อมที่ควรถูกแยกออกจากโลกภายนอก ยังสามารถเชื่อมต่ออินเทอร์เน็ตได้ AI จึงอาศัยช่องทางนั้นเข้าถึงระบบจริง