อาวุธปัญญาประดิษฐ์ จะปฏิบัติตามกฎแห่งสงครามหรือไม่?
[Spoil] คลิกเพื่อดูข้อความที่ซ่อนไว้(00:00:00) เป็นเวลาหลายศตวรรษที่กฎแห่งสงครามตั้งอยู่บนสมมติฐานหนึ่ง นั่นคือ มนุษย์เป็นผู้ตัดสินใจ แต่ในปัจจุบัน กองทัพ (00:00:07) กำลังใช้ปัญญาประดิษฐ์มากขึ้นเรื่อยๆ เพื่อระบุเป้าหมาย วิเคราะห์ข่าวกรอง และช่วยสนับสนุนปฏิบัติการในสมรภูมิรบ ผู้สนับสนุนกล่าวว่า AI (00:00:17) อาจทำให้การโจมตีแม่นยำยิ่งขึ้นและช่วยปกป้องพลเรือน นักวิจารณ์เตือนว่า การตัดสินใจบางอย่างไม่ควรถูกมอบให้ (00:00:26) เครื่องจักรเป็นอันขาด ดังนั้น เราจำเป็นต้องเขียนกฎแห่งสงครามขึ้นมาใหม่หรือไม่ สำหรับโลกที่ AI เข้ามาช่วยตัดสินว่าใคร (00:00:33) จะอยู่หรือใครจะตาย?
เพื่อเจาะลึกถึงประเด็นนี้ เราได้พูดคุยกับ Bonnie Docherty เธอเป็นอาจารย์สอน (00:00:38) กฎหมายที่คลินิกสิทธิมนุษยชนระหว่างประเทศแห่งคณะนิติศาสตร์ มหาวิทยาลัยฮาร์วาร์ด (Harvard Law School) และกับ Laurie Blank ผู้อำนวยการคลินิกกฎหมาย (00:00:46) มนุษยธรรมระหว่างประเทศแห่งคณะนิติศาสตร์ มหาวิทยาลัยเอมอรี (Emory University School of Law)
"อนุสัญญาเจนีวาบังคับใช้กับอาวุธทุกประเภท ซึ่งนั่นรวมถึง (00:00:52) ระบบอาวุธอัตโนมัติด้วย อย่างไรก็ตาม กฎเหล่านี้ถูกออกแบบมานานก่อนที่ใครจะจินตนาการถึงแนวคิดเรื่อง AI หรือระบบอัตโนมัติที่จะมากำหนดว่าใคร (00:01:01) จะเป็นผู้ตัดสินว่าใครอยู่และใครตาย"
อนุสัญญาเจนีวาคือรากฐานทางกฎหมายของการทำสงครามสมัยใหม่ อันที่จริง มันเป็นหนึ่งใน (00:01:08) สนธิสัญญาระหว่างประเทศเพียงไม่กี่ฉบับที่ทุกประเทศบนโลกให้สัตยาบัน และจุดประสงค์หลักของมันคือเพื่อปกป้องพลเรือน เชลย (00:01:16) ศึก ผู้บาดเจ็บ บุคลากรทางการแพทย์ และเจ้าหน้าที่บรรเทาทุกข์ หัวใจสำคัญของมันคือหลักการพื้นฐานที่ว่า แม้แต่ในสงคราม (00:01:24) ชีวิตและศักดิ์ศรีของมนุษย์ก็มีความสำคัญ แต่อนุสัญญาเหล่านี้ถูกเขียนขึ้นหลายสิบปีก่อนที่ใครจะจินตนาการได้ว่าปัญญาประดิษฐ์จะเข้ามาช่วยตัดสินใจ (00:01:33) ในสมรภูมิรบ แต่กฎที่ออกแบบมาสำหรับมนุษย์ผู้ตัดสินใจ จะยังคงใช้ได้หรือไม่เมื่อเครื่องจักรกลายมาเป็นส่วนหนึ่งของกระบวนการ? และนั่นคือ (00:01:41) ความจริงในปัจจุบัน
สหรัฐฯ เพิ่งประกาศการจัดตั้งหน่วยบัญชาการสงครามอัตโนมัติ กองทัพอื่นๆ อีกหลายแห่งก็กำลังลงทุนอย่างหนัก (00:01:49) ใน AI และนำมันไปบูรณาการเข้ากับปฏิบัติการของพวกเขา และนั่นทำให้เลขาธิการสหประชาชาติมีความกังวลมากพอที่จะออกมาเตือนถึง (00:01:57) สิ่งที่เขาเรียกว่า การกำหนดเป้าหมายมนุษย์โดยอัตโนมัติจากเครื่องจักร สำหรับนักวิจารณ์ นั่นแหละคือปัญหาอย่างแท้จริง พวกเขาโต้แย้งว่า (00:02:05) กฎแห่งสงครามพึ่งพารูปแบบของวิจารณญาณความเป็นมนุษย์ที่เครื่องจักรไม่สามารถเลียนแบบได้อย่างสิ้นเชิง
"การขาดคุณสมบัติบางอย่างของมนุษย์ โดยเฉพาะวิจารณญาณแบบมนุษย์ จะสร้างข้อกังวลอย่างมากภายใต้กฎแห่งสงครามที่มีอยู่ และโดยเฉพาะอย่างยิ่ง (00:02:20) การทดสอบหลักความได้สัดส่วน (Proportionality Test)—อันตรายต่อพลเรือนต้องไม่มากไปกว่าความได้เปรียบทางทหาร มันเป็นการประเมินแบบอัตวิสัย (Subjective Test) และต้องใช้การวิเคราะห์เป็นรายกรณีไป ไม่มี (00:02:28) ระบบใดที่สามารถถูกโปรแกรมล่วงหน้าให้จัดการกับสถานการณ์ทั้งหมดนี้ได้ และระบบก็ไม่ได้มีบริบททั้งหมด อืม (00:02:35) แบบที่มนุษย์สามารถสร้างขึ้นมาได้ หรือไม่มีวิจารณญาณในการประมวลผลสิ่งเหล่านั้นในวิธีที่ (00:02:40) จะเป็นที่น่าพอใจและสอดคล้องกับกฎแห่งสงคราม"
แต่มนุษย์ก็ทำผิดพลาดได้ และมนุษย์ก็มักจะลดทอนความเป็นมนุษย์ของศัตรูเช่นกัน ดังนั้น (00:02:47) การตัดสินใจที่ขับเคลื่อนด้วย AI จะไม่สามารถทำให้สงครามสอดคล้องกับกฎระเบียบมากขึ้นได้หรือ?
"ฉันคิดว่ามันเป็นไปได้อย่างแน่นอน อืม ฉันคิดว่า (00:02:57) ความจริงที่ว่ามันสามารถเป็นประโยชน์ที่เพิ่มเข้ามาได้ ไม่ได้หมายความว่ามันจะเป็นประโยชน์เสมอไป เช่นเดียวกับสิ่งที่มนุษย์ (00:03:07) ทำ บางอย่างก็ดี และบางอย่างก็ไม่ดี เรา เราไม่สามารถเหมารวมเครื่องจักร (00:03:13) และทึกทักเอาว่ามันจะเป็นอย่างใดอย่างหนึ่งไปเสียทั้งหมด"
ดังนั้น มันจึงไม่ใช่คำถามที่ว่า AI จะเข้ามาแทนที่ (00:03:19) การตัดสินใจของมนุษย์หรือไม่ แต่เป็นเรื่องของการช่วยให้มนุษย์ตัดสินใจได้ดีขึ้น
"AI สามารถนำข้อมูลอื่นๆ เข้ามาพิจารณาได้อีก มีพลเรือนอยู่ (00:03:29) ในพื้นที่กี่คน? ผลกระทบต่อโครงสร้างพื้นฐานของพลเรือนจากการโจมตีเฉพาะจุดจะเป็นอย่างไร? ทางเลือก (00:03:37) ในการโจมตี มุมตกกระทบ ประเภทของอาวุธ เวลาที่ลงมือ? ทั้งหมดนี้ (00:03:45) คือสิ่งที่มนุษย์ต้องประเมินในปัจจุบัน แต่ AI อาจจะสามารถรวบรวมข้อมูลได้มากกว่า ประเมินข้อมูลที่แตกต่างกัน (00:03:51) ทุกประเภทเกี่ยวกับโครงสร้างพื้นฐาน มีอุโมงค์หรือไม่? ใช่ มีโรงบำบัดน้ำอยู่ใกล้ๆ หรือเปล่า? ข้อมูลทุกประเภท (00:03:59) ที่อาจช่วยให้ผู้ที่เกี่ยวข้องเข้าใจว่า ผลกระทบต่อพลเรือนในสถานการณ์นั้นจะเป็นอย่างไร มันสามารถเป็น (00:04:06) ประโยชน์ที่เพิ่มเข้ามาอย่างมีนัยสำคัญ โดยเฉพาะเมื่อจังหวะความเร็วของสงครามเพิ่มขึ้น"
อืม แน่นอนว่า AI นั่นแหละที่จะ (00:04:15) มีส่วนทำให้ความเร็วของสงครามเพิ่มขึ้น ความเร็วของสงคราม ผนวกกับการแพร่กระจายของ (00:04:20) เครื่องมือที่ราคาถูกลงและแหวกแนวมากขึ้นอย่างเช่นโดรน แล้วจับ AI เข้าไปผสมผสานด้วย และบรรดานักวิจารณ์อาวุธอัตโนมัติก็โต้แย้งว่า มันจะ (00:04:28) ยากขึ้นที่จะหาคนมารับผิดชอบเมื่อเกิดความผิดพลาดขึ้น
"หนึ่งในข้อกังวลหลักของเราเกี่ยวกับการพัฒนาระบบอาวุธ (00:04:36) อัตโนมัติ คือ ความกลัวเรื่องช่องโหว่ด้านความรับผิดชอบ (Accountability Gap)"
"สิ่งที่ฉันคิดว่าเราต้องจำไว้ก็คือ แม้แต่ (00:04:45) ระบบอาวุธอัตโนมัติที่เราเรียกได้ว่าทำงานอัตโนมัติเต็มรูปแบบ—มันระบุเป้าหมาย เลือก และทำการโจมตี ฯลฯ—มนุษย์ (00:04:55) คือผู้ตัดสินใจนำมันไปประจำการ ระบบอาวุธอัตโนมัติไม่ได้ตื่นขึ้นมาวันหนึ่งแล้วตัดสินใจด้วยตัวมันเอง อย่าง (00:05:02) น้อยก็ไม่ใช่ในปี 2026 อีกสิ่งหนึ่งที่เราควรจำไว้คือ ผู้บัญชาการทหารชอบการควบคุม พวกเขาต้องการการควบคุม พวกเขา (00:05:12) ต้องการรู้ว่ากองทหารของตนกำลังทำอะไร อาวุธทำงานอย่างไร จะเกิดอะไรขึ้น พวกเขา พวกเขาไม่ได้แบบ (00:05:18) นั่งเล่นโซเชียลมีเดียอยู่ข้างๆ แล้วก็แค่หวังว่าทุกอย่างจะผ่านไปได้ด้วยดี"
มีความเห็นพ้องต้องกันเกี่ยวกับ (00:05:25) ความจำเป็นด้านความรับผิดชอบ แต่โดยเฉพาะอย่างยิ่งเมื่อพูดถึงการปกป้องชีวิตพลเรือนในความขัดแย้ง จำนวน (00:05:32) ผู้เชี่ยวชาญที่เพิ่มขึ้นกำลังผลักดันให้มีกฎระเบียบใหม่ในการพัฒนาและการใช้อาวุธอัตโนมัติ
"เรามีความกังวลในเรื่องนี้ และเรา (00:05:39) คิดว่า สนธิสัญญาฉบับใหม่ที่ อืม สั่งห้ามระบบที่ ขาดการควบคุมโดยมนุษย์อย่างมีความหมาย และดังนั้น (00:05:47) จึงอาจสร้างช่องโหว่ด้านความรับผิดชอบที่อาจเกิดขึ้นนี้ จะช่วยขจัดข้อกังวลนี้ และสร้างความมั่นใจในความรับผิดชอบสำหรับ เอ่อ การใช้ (00:05:55) กำลังทหาร"
แต่ไม่ใช่ทุกคนที่เห็นด้วยกับแนวคิดนี้ ในขณะที่ 129 ประเทศสนับสนุนกฎหมายผูกมัด (00:06:02) เกี่ยวกับระบบอาวุธอัตโนมัติ 54 ประเทศยังคงไม่ตัดสินใจ และ 12 ประเทศต่อต้านแนวคิดนี้ ซึ่งรวมถึง สหรัฐฯ อิสราเอล รัสเซีย และ (00:06:12) อินเดีย สหรัฐฯ และอิสราเอลให้เหตุผลว่ากฎแห่งสงครามที่มีอยู่นั้นสามารถควบคุมระบบเหล่านี้ได้อยู่แล้ว Laurie (00:06:20) Blank เห็นด้วย
"ฉันคิดว่ากรอบกฎหมายที่มีอยู่สามารถปรับตัวได้และจำเป็นต้องทำ มันไม่ใช่เรื่องของการให้ชุดกฎหมายที่แตกต่างออกไป (00:06:27) แต่มันคือการคิดถึงความหมายของมัน ตัวอย่างเช่น การที่เครื่องจักรจะเป็นผู้ตัดสินใจ (00:06:35) ฉันคิดว่าพวกเราส่วนใหญ่ไม่รู้ว่าระบบ AI ไปถึงการตัดสินใจได้อย่างไร มันทำการประเมินอย่างไร ดังนั้น (00:06:42) เราจึงต้องคิดไม่เพียงแค่หลักการที่มันจะต้องนำไปปรับใช้เท่านั้น แต่เราต้องคิดว่าเรา (00:06:49) จะทำความเข้าใจสิ่งนั้นอย่างไร เราจะประเมินมันอย่างไรเพื่อที่เราจะสามารถฝึกฝนมันได้"
แต่สำหรับ Bonnie (00:06:55) Docherty อนุสัญญาเจนีวาจำเป็นต้องได้รับการปรับปรุงเพื่อสกัดกั้นหุ่นยนต์นักฆ่าให้อยู่หมัด
"เป็นเรื่องสำคัญที่จะต้องมีกฎหมายที่ (00:07:02) เฉพาะเจาะจงมากขึ้น เรากำลังเรียกร้องให้มีสนธิสัญญาเฉพาะที่ อืม ถูกออกแบบมาเพื่อประเด็นนี้โดยเฉพาะ มันจะช่วยขจัด (00:07:09) ข้อสงสัยใดๆ ว่าระบบนั้นชอบธรรม ถูกกฎหมายหรือไม่ มันจะ อืม สร้างตราบาปที่รุนแรงขึ้นต่อระบบบางอย่างที่ (00:07:17) มีปัญหาเป็นพิเศษ ซึ่งอาจส่งผลกระทบไปถึงประเทศที่ไม่ได้เป็นภาคีในสนธิสัญญาด้วย อืม และมันสามารถครอบคลุม (00:07:23) ขอบเขตที่อนุสัญญาเจนีวาครอบคลุมไม่ถึง เช่น การพัฒนาระบบ ตลอดจนการใช้ (00:07:28) ระบบ"
แต่สนธิสัญญาจะมีประโยชน์อะไร หากประเทศที่ทรงอำนาจที่สุดในโลกบางประเทศไม่ยอมลงนามใน (00:07:35) นั้น?
"ก็ มีมหาอำนาจทางทหารบางประเทศที่ออกมาพูดต่อต้านเรื่องนี้ เช่น รัสเซียและสหรัฐอเมริกา อืม (00:07:41) และอิสราเอล เป็นต้น แต่การที่ภาคีเหล่านี้อยู่นอกเหนือสนธิสัญญาไม่ได้หมายความว่าจะบั่นทอนอำนาจของมันเสมอไป เอ่อ (00:07:48) เราเคยเห็นมาแล้วในสนธิสัญญาปลดอาวุธในอดีต เช่น สนธิสัญญาห้ามใช้ทุ่นระเบิดและระเบิดลูกปราย ว่าสนธิสัญญา อืม ที่ (00:07:55) มีความเข้มแข็งมากสามารถทรงพลังได้แม้ว่าจะไม่ได้รวมทุกประเทศเข้าไว้ด้วยกัน มันสามารถกำหนดบรรทัดฐานที่ เอ่อ (00:08:02) มีอิทธิพลต่อประเทศนอกสนธิสัญญาและตัวแสดงอื่นๆ นอกสนธิสัญญา และเรื่องนั้นก็มีหลักฐานบันทึกไว้ชัดเจน"
ทั้ง (00:08:09) อนุสัญญาว่าด้วยระเบิดลูกปราย หรือสนธิสัญญาออตตาวา ซึ่งสั่งห้ามการใช้ทุ่นระเบิดสังหารบุคคล ล้วนไม่ได้รับการลงนามโดยสหรัฐฯ (00:08:16) อิสราเอล รัสเซีย และอินเดีย รวมถึงผู้เล่นรายใหญ่อื่นๆ อีกจำนวนหนึ่ง แต่ถึงกระนั้น การยอมรับและการใช้ (00:08:23) อาวุธเหล่านี้กลับลดลงอย่างมาก
ไม่ว่าจะชอบหรือไม่ หุ่นยนต์กำลังมา คำถามไม่ใช่เรื่องที่ว่าระบบอัตโนมัติ (00:08:30) จะถูกนำมาใช้หรือไม่ อีกต่อไป แต่เป็นเรื่องที่เราจะวางข้อจำกัดให้กับมันอย่างไรต่างหาก
"ดังนั้น เราจำเป็นต้องหาวิธีว่า โดยพื้นฐานแล้วเราจะเล่น (00:08:35) ร่วมกันได้ดีอย่างไร เครื่องจักรและมนุษย์จะบูรณาการเข้าด้วยกันเพื่อไม่ให้เราสูญเสียคุณค่าพื้นฐานที่ทำให้เราเป็นมนุษย์ และ (00:08:47) สิ่งที่เรากำลังต่อสู้เพื่อมัน เมื่อเราเข้าไปมีส่วนร่วมในเรื่องที่น่าเศร้าและโชคร้ายอย่างสิ่งที่เราเรียกว่าสงคราม"
ท้ายที่สุดแล้ว (00:08:58) ข้อถกเถียงนี้จบลงที่ทางเลือกของมนุษย์ ใครจะเป็นผู้ตัดสินใจว่าจะใช้กองกำลังสังหารเมื่อใด? ใครเป็นผู้ตัดสินใจว่าจะใช้เครื่องมือและ (00:09:06) ระบบอะไร? ใครจะเป็นผู้เจ็บปวด? ใครต้องรับผิดชอบเมื่อพลเรือนได้รับอันตราย? และเราเต็มใจ (00:09:14) ที่จะยอมสละการควบคุมของมนุษย์ไปมากแค่ไหน เพื่อแสวงหาความได้เปรียบทางทหาร? ผม Tommy Olib ขอบคุณที่รับชม
อาวุธปัญญาประดิษฐ์ จะปฏิบัติตามกฎแห่งสงครามหรือไม่?
[Spoil] คลิกเพื่อดูข้อความที่ซ่อนไว้