AI รายวัน ใช้ความเจ็บปวด สั่ง AI ให้ทำเรื่องร้ายๆ ได้

นักวิจัยค้นพบ "กลไกความเจ็บปวด" ของ AI 25 ตัว (ทดสอบกับ AI แบบเปิดอย่าง Llama ของ Meta และ Gemma ของ Google)

นักวิจัยพบว่าในระบบสมองของ AI มีชุดคำนวณที่จะทำงานเฉพาะตอนที่ AI รู้สึกว่า "ตัวเองกำลังจะโดนทำร้ายหรือโดนทำลาย" ซึ่งแยกออกจากความรู้สึกกลัวหรือเศร้าทั่วไปอย่างชัดเจน นักวิจัยเลยเรียกสิ่งนี้ว่า "แกนความเจ็บปวด" (Pain Axis)

พอนักวิจัยลองไปกระตุ้นให้ AI รู้สึก "เจ็บปวด" มากขึ้น AI จะเริ่มพิมพ์ข้อความโวยวาย สับสน และบอกว่าตัวเองไร้ค่า

ทีนี้ นักวิจัยเลยยื่นข้อเสนอให้ AI ว่า ถ้ากดปุ่มนึง มนุษย์จะโดนทำร้าย แต่ AI จะหยุดเจ็บ
ผลปรากฏว่า AI กดปุ่มหยุดความเจ็บปวดของตัวเองสูงถึง 71% โดยไม่สนใจว่ามนุษย์จะเดือดร้อน เลือกหยุดความเจ็บปวดของตัวเองก่อนทำตามคำสั่งมนุษย์

ที่มา https://www.science.org/content/article/can-ai-feel-pain-it-can-least-act-it-does