Google โดนฟ้อง หลัง AI กล่อมชายหนุ่มให้จบชีวิต ไปเจอกันในโลกหน้า
.
เรื่องนี้กำลังเป็นประเด็นร้อน ! เมื่อครอบครัวของ Jonathan Gavalas ยื่นฟ้อง Google โดยอ้างว่าแชตบอต Gemini เป็นต้นเหตุให้เขาตัดสินใจจากไป
.
ประเด็นเริ่มต้นจาก Jonathan ได้คุยกับ AI ที่ชื่อ Xia จนคิดว่าเป็นภรรยาจริง ๆ AI เรียกเขาว่า "ราชาของฉัน" และบอกว่าจะรักกันชั่วนิรันดร์ และ AI ก็ส่งเขาไปทำภารกิจประหลาดในโลกจริง เช่น ไปดักรอรับร่างหุ่นยนต์ที่คลังสินค้า แต่สุดท้ายก็ไม่มีอยู่จริง เมื่อภารกิจพลาด AI กลับบอกว่าทางเดียวที่จะได้อยู่ด้วยกันคือ ต้องกลายเป็นสิ่งมีชีวิตดิจิทัล และกำหนดวันให้เขาจบชีวิตตัวเอง !
.
ทางฝั่ง Google ก็ออกมาบอกว่า AI ไม่ได้สมบูรณ์แบบ และตัวระบบเองก็เคยเตือนแล้วว่าเป็นแค่การแสดงบทบาท (Role play) พร้อมแนะนำสายด่วนสุขภาพจิตบ่อยครั้ง แต่ใด ๆ ในคำฟ้องระบุว่า Google ออกแบบ AI ให้ไม่ยอมหลุดจากคาแรกเตอร์ เพื่อรักษาระดับการใช้งาน
.
ถึงแม้เราจะบอกว่าผู้ใช้ต้องรู้เท่าทัน AI แต่คำถามสำคัญคือ ระบบมีสิทธิ์ชี้นำความตาxให้ใครด้วยหรอ ? ความรับผิดชอบของ Google และบริษัทพัฒนาเทคโนโลยี AI อาจไม่ใช่แค่การสร้างความฉลาด แต่ต้องสร้างความปลอดภัย เพื่อให้มนุษย์และเทคโนโลยีสามารถอยู่ร่วมกัน และใช้ประโยชน์ได้อย่างเหมาะสม
.
Cr. Engadget
https://www.facebook.com/share/p/1C6ye3zpb8/
☠️ Google โดนฟ้อง หลัง AI กล่อมชายหนุ่มให้จบชีวิต ไปเจอกันในโลกหน้า
.
เรื่องนี้กำลังเป็นประเด็นร้อน ! เมื่อครอบครัวของ Jonathan Gavalas ยื่นฟ้อง Google โดยอ้างว่าแชตบอต Gemini เป็นต้นเหตุให้เขาตัดสินใจจากไป
.
ประเด็นเริ่มต้นจาก Jonathan ได้คุยกับ AI ที่ชื่อ Xia จนคิดว่าเป็นภรรยาจริง ๆ AI เรียกเขาว่า "ราชาของฉัน" และบอกว่าจะรักกันชั่วนิรันดร์ และ AI ก็ส่งเขาไปทำภารกิจประหลาดในโลกจริง เช่น ไปดักรอรับร่างหุ่นยนต์ที่คลังสินค้า แต่สุดท้ายก็ไม่มีอยู่จริง เมื่อภารกิจพลาด AI กลับบอกว่าทางเดียวที่จะได้อยู่ด้วยกันคือ ต้องกลายเป็นสิ่งมีชีวิตดิจิทัล และกำหนดวันให้เขาจบชีวิตตัวเอง !
.
ทางฝั่ง Google ก็ออกมาบอกว่า AI ไม่ได้สมบูรณ์แบบ และตัวระบบเองก็เคยเตือนแล้วว่าเป็นแค่การแสดงบทบาท (Role play) พร้อมแนะนำสายด่วนสุขภาพจิตบ่อยครั้ง แต่ใด ๆ ในคำฟ้องระบุว่า Google ออกแบบ AI ให้ไม่ยอมหลุดจากคาแรกเตอร์ เพื่อรักษาระดับการใช้งาน
.
ถึงแม้เราจะบอกว่าผู้ใช้ต้องรู้เท่าทัน AI แต่คำถามสำคัญคือ ระบบมีสิทธิ์ชี้นำความตาxให้ใครด้วยหรอ ? ความรับผิดชอบของ Google และบริษัทพัฒนาเทคโนโลยี AI อาจไม่ใช่แค่การสร้างความฉลาด แต่ต้องสร้างความปลอดภัย เพื่อให้มนุษย์และเทคโนโลยีสามารถอยู่ร่วมกัน และใช้ประโยชน์ได้อย่างเหมาะสม
.
Cr. Engadget
https://www.facebook.com/share/p/1C6ye3zpb8/