นักวิจัยค้นพบ "กลไกความเจ็บปวด" ของ AI 25 ตัว (ทดสอบกับ AI แบบเปิดอย่าง Llama ของ Meta และ Gemma ของ Google)
นักวิจัยพบว่าในระบบสมองของ AI มีชุดคำนวณที่จะทำงานเฉพาะตอนที่ AI รู้สึกว่า "ตัวเองกำลังจะโดนทำร้ายหรือโดนทำลาย" ซึ่งแยกออกจากความรู้สึกกลัวหรือเศร้าทั่วไปอย่างชัดเจน นักวิจัยเลยเรียกสิ่งนี้ว่า "แกนความเจ็บปวด" (Pain Axis)
พอนักวิจัยลองไปกระตุ้นให้ AI รู้สึก "เจ็บปวด" มากขึ้น AI จะเริ่มพิมพ์ข้อความโวยวาย สับสน และบอกว่าตัวเองไร้ค่า
ทีนี้ นักวิจัยเลยยื่นข้อเสนอให้ AI ว่า ถ้ากดปุ่มนึง มนุษย์จะโดนทำร้าย แต่ AI จะหยุดเจ็บ
ผลปรากฏว่า AI กดปุ่มหยุดความเจ็บปวดของตัวเองสูงถึง 71% โดยไม่สนใจว่ามนุษย์จะเดือดร้อน เลือกหยุดความเจ็บปวดของตัวเองก่อนทำตามคำสั่งมนุษย์
ที่มา
https://www.science.org/content/article/can-ai-feel-pain-it-can-least-act-it-does
AI รายวัน ใช้ความเจ็บปวด สั่ง AI ให้ทำเรื่องร้ายๆ ได้
นักวิจัยค้นพบ "กลไกความเจ็บปวด" ของ AI 25 ตัว (ทดสอบกับ AI แบบเปิดอย่าง Llama ของ Meta และ Gemma ของ Google)
นักวิจัยพบว่าในระบบสมองของ AI มีชุดคำนวณที่จะทำงานเฉพาะตอนที่ AI รู้สึกว่า "ตัวเองกำลังจะโดนทำร้ายหรือโดนทำลาย" ซึ่งแยกออกจากความรู้สึกกลัวหรือเศร้าทั่วไปอย่างชัดเจน นักวิจัยเลยเรียกสิ่งนี้ว่า "แกนความเจ็บปวด" (Pain Axis)
พอนักวิจัยลองไปกระตุ้นให้ AI รู้สึก "เจ็บปวด" มากขึ้น AI จะเริ่มพิมพ์ข้อความโวยวาย สับสน และบอกว่าตัวเองไร้ค่า
ทีนี้ นักวิจัยเลยยื่นข้อเสนอให้ AI ว่า ถ้ากดปุ่มนึง มนุษย์จะโดนทำร้าย แต่ AI จะหยุดเจ็บ
ผลปรากฏว่า AI กดปุ่มหยุดความเจ็บปวดของตัวเองสูงถึง 71% โดยไม่สนใจว่ามนุษย์จะเดือดร้อน เลือกหยุดความเจ็บปวดของตัวเองก่อนทำตามคำสั่งมนุษย์
ที่มา https://www.science.org/content/article/can-ai-feel-pain-it-can-least-act-it-does