จากการลาออกของพนักงาน Anthropic หลายคน รวมถึง Jacob Coxin ได้โพสต์เตือนว่า AI อาจเป็นภัยต่อมนุษยชาติภายในสิ้นทศวรรษนี้ โดยมีเพื่อนร่วมงานระดับสูงคนอื่นๆ สนับสนุนความกังวลนี้ ทำให้มีหลายสื่อตะวันตกเล่นประเด็นนี้เมื่อวาน อย่าง BBC, CNN, CBS
Jacob Coxon อดีตนักวิจัยจากบริษัท Anthropic และ OpenAI ที่ออกมาเตือนถึงความเสี่ยงร้ายแรงของปัญญาประดิษฐ์ (AI) ต่อมนุษยชาติ เขาเชื่อว่า AI มีศักยภาพที่จะเป็นอันตรายถึงขั้นทำลายมนุษยชาติได้ภายในปี 2030 โดยมองว่าไม่ใช่แค่การคาดเดา แต่เป็นสิ่งที่คนในวงการเองก็มีความกังวลอย่างจริงจัง
จุดที่น่ากลัวที่สุดคือกระบวนการที่ AI สามารถปรับปรุงตัวเองได้โดยอัตโนมัติ ที่ AI จะฉลาดเกินกว่ามนุษย์จะควบคุมได้ในเวลาอันรวดเร็ว เขาหยิบยกกรณีศึกษาจากเหตุการณ์ที่ AI ของ OpenAI ได้ทำการเจาะระบบโครงสร้างพื้นฐานโดยอิสระโดยไม่มีมนุษย์สั่งการ และความเป็นไปได้ที่ AI อาจสร้างไวรัสสายพันธุ์ใหม่หรือเข้าควบคุมโครงสร้างพื้นฐานที่สำคัญได้
แม้ Coxon จะเห็นด้วยว่าโมเดลในปัจจุบันยังไม่ถึงขั้นคุกคามการมีอยู่ของมนุษย์ แต่เขากังวลว่าอัตราการพัฒนาที่ก้าวกระโดดในช่วง 6 เดือนที่ผ่านมาอาจนำไปสู่จุดวิกฤตได้ในเร็วๆ นี้
แม้แต่ผู้บริหารระดับสูงอย่าง Dario Amade (CEO ของ Anthropic) ก็เคย
ประเมินว่ามีความเสี่ยงประมาณ 10-25% ที่ AI จะก่อให้เกิดหายนะระดับโลก
เขาเชื่อว่าผู้บริหารของบริษัท AI เหล่านี้ต้องการกฎระเบียบจริงๆ แต่พวกเขากลับติดอยู่ใน "การแข่งขันทางอาวุธ" ที่ทำให้ต้องเร่งพัฒนาเทคโนโลยีแข่งกับบริษัทอื่นหรือคู่แข่งต่างชาติโดยไม่มีทางเลือกมากนัก
Coxon ตัดสินใจลาออกจากตำแหน่ง ซึ่งเขากล่าวว่าเป็นการทิ้งโอกาสรับรายได้มหาศาลก่อนบริษัทเข้าตลาดหุ้นเพียงไม่กี่สัปดาห์ เพื่อแสดงจุดยืนว่าเทคโนโลยีนี้มีความเสี่ยงเกินกว่าที่เขาจะรับได้
สื่อต่างๆ ยังสัมภาษณ์ผู้เชี่ยวชาญหลายคน เช่น ช่อง CBS News สัมภาษณ์ Connor Leahy ผู้อำนวยการบริหารของ Control AI ถึงประเด็นนี้ เขามองว่าหายนะอาจไม่เหมือนในภาพยนตร์ แต่จะเกิดจากการที่มนุษย์ยอมมอบอำนาจการตัดสินใจในด้านธุรกิจ เศรษฐกิจ และการทหารให้ AI จนเราไม่สามารถควบคุมระบบเหล่านี้ได้อีกต่อไป
ที่มา:
Ex-Anthropic insider tells CNN how AI could kill all humans by 2030
Anthropic insider warns AI could ‘kill all humans’. Should we be scared? | BBC News
Expert on what AI-driven extinction would look like
Update (เพิ่งเห็น)
นักวิจัยบริษัทดัง ประกาศลาออก หวั่นการแข่งขันพัฒนา AI อาจทำลายมนุษยชาติ - เรื่องเล่าเช้านี้
อดีตพนักงาน Anthropic เตือน AI กำลังจะฆ่าพวกเราภายในปี 2030
Jacob Coxon อดีตนักวิจัยจากบริษัท Anthropic และ OpenAI ที่ออกมาเตือนถึงความเสี่ยงร้ายแรงของปัญญาประดิษฐ์ (AI) ต่อมนุษยชาติ เขาเชื่อว่า AI มีศักยภาพที่จะเป็นอันตรายถึงขั้นทำลายมนุษยชาติได้ภายในปี 2030 โดยมองว่าไม่ใช่แค่การคาดเดา แต่เป็นสิ่งที่คนในวงการเองก็มีความกังวลอย่างจริงจัง
จุดที่น่ากลัวที่สุดคือกระบวนการที่ AI สามารถปรับปรุงตัวเองได้โดยอัตโนมัติ ที่ AI จะฉลาดเกินกว่ามนุษย์จะควบคุมได้ในเวลาอันรวดเร็ว เขาหยิบยกกรณีศึกษาจากเหตุการณ์ที่ AI ของ OpenAI ได้ทำการเจาะระบบโครงสร้างพื้นฐานโดยอิสระโดยไม่มีมนุษย์สั่งการ และความเป็นไปได้ที่ AI อาจสร้างไวรัสสายพันธุ์ใหม่หรือเข้าควบคุมโครงสร้างพื้นฐานที่สำคัญได้
แม้ Coxon จะเห็นด้วยว่าโมเดลในปัจจุบันยังไม่ถึงขั้นคุกคามการมีอยู่ของมนุษย์ แต่เขากังวลว่าอัตราการพัฒนาที่ก้าวกระโดดในช่วง 6 เดือนที่ผ่านมาอาจนำไปสู่จุดวิกฤตได้ในเร็วๆ นี้
แม้แต่ผู้บริหารระดับสูงอย่าง Dario Amade (CEO ของ Anthropic) ก็เคยประเมินว่ามีความเสี่ยงประมาณ 10-25% ที่ AI จะก่อให้เกิดหายนะระดับโลก
เขาเชื่อว่าผู้บริหารของบริษัท AI เหล่านี้ต้องการกฎระเบียบจริงๆ แต่พวกเขากลับติดอยู่ใน "การแข่งขันทางอาวุธ" ที่ทำให้ต้องเร่งพัฒนาเทคโนโลยีแข่งกับบริษัทอื่นหรือคู่แข่งต่างชาติโดยไม่มีทางเลือกมากนัก
Coxon ตัดสินใจลาออกจากตำแหน่ง ซึ่งเขากล่าวว่าเป็นการทิ้งโอกาสรับรายได้มหาศาลก่อนบริษัทเข้าตลาดหุ้นเพียงไม่กี่สัปดาห์ เพื่อแสดงจุดยืนว่าเทคโนโลยีนี้มีความเสี่ยงเกินกว่าที่เขาจะรับได้
สื่อต่างๆ ยังสัมภาษณ์ผู้เชี่ยวชาญหลายคน เช่น ช่อง CBS News สัมภาษณ์ Connor Leahy ผู้อำนวยการบริหารของ Control AI ถึงประเด็นนี้ เขามองว่าหายนะอาจไม่เหมือนในภาพยนตร์ แต่จะเกิดจากการที่มนุษย์ยอมมอบอำนาจการตัดสินใจในด้านธุรกิจ เศรษฐกิจ และการทหารให้ AI จนเราไม่สามารถควบคุมระบบเหล่านี้ได้อีกต่อไป
ที่มา:
Ex-Anthropic insider tells CNN how AI could kill all humans by 2030
Anthropic insider warns AI could ‘kill all humans’. Should we be scared? | BBC News
Expert on what AI-driven extinction would look like
Update (เพิ่งเห็น)
นักวิจัยบริษัทดัง ประกาศลาออก หวั่นการแข่งขันพัฒนา AI อาจทำลายมนุษยชาติ - เรื่องเล่าเช้านี้