Anthropic เตือนโลกเบรก AI หลังไม่ง้อมนุษย์

“แอนธรอปิก” (Anthropic) บริษัทผู้พัฒนาปัญญาประดิษฐ์ (AI) รายใหญ่ ระบุในรายงานล่าสุดว่า

ทั่วโลกควรแตะเบรกการพัฒนาระบบ AI ที่ทรงพลัง เนื่องจากโมเดลล่าสุดเริ่มส่งสัญญาณว่า AI อาจหลุดพ้นจากการควบคุมของมนุษย์

AFP รายงานว่า คำเตือนดังกล่าวมีขึ้นหลังมีข้อมูลภายในที่แสดงให้เห็นว่า AI กำลังเร่งการพัฒนาตัวเอง

โดยนำผลลัพธ์จากการใช้งานกลับมาประเมินและปรับปรุงให้ฉลาดขึ้น โดยไม่ต้องอาศัยความช่วยเหลือจากมนุษย์มากนัก

“แอนธรอปิก” ซึ่งเป็นผู้พัฒนาโมเดล “คล็อด” (Claude) ระบุว่า การชะลอการพัฒนา AI ที่ล้ำสมัยทั่วโลกน่าจะเป็นเรื่องที่ดี แต่เตือนว่าหากมีเพียงบริษัทเดียวที่หยุด บรรดาบริษัทคู่แข่งก็จะเร่งเครื่องแซงหน้าไป ดังนั้น ทั่วโลกจึงควรมีทางเลือกในการชะลอหรือหยุดชั่วคราว

เพื่อให้โครงสร้างทางสังคมและการวิจัยสามารถรองรับความก้าวหน้าของเทคโนโลยี AI 

โดยการระงับการพัฒนาอย่างแท้จริงจะต้องอาศัยบริษัท AI ขนาดใหญ่หลายแห่งในประเทศต่าง ๆ

โดยเฉพาะสหรัฐฯ และจีน ซึ่งตกลงจะเบรกการพัฒนาพร้อมกันภายใต้กฎเกณฑ์ที่ทุกคนสามารถตรวจสอบได้ 

แต่หากไม่มีกลไกการประสานงานระดับโลก ทั้งบริษัทและรัฐบาลต่าง ๆ

จะต้องเผชิญการตัดสินใจที่ยากลำบากเกี่ยวกับความปลอดภัย ท่ามกลางแรงกดดันในการแข่งขันและภูมิรัฐศาสตร์

ทั้งนี้ “แอนธรอปิก” เผชิญกับแรงต้านจากคู่แข่งในอุตสาหกรรมเดียวกัน รวมถึงเจ้าหน้าที่ในทำเนียบขาว

ซึ่งมองว่าคำเตือนถึงสถานการณ์เลวร้ายที่สุดนั้นเป็นการประเมินความเสี่ยงสูงเกินไป

และเป็นกลยุทธ์ในการชะลอคู่แข่งโดยใช้ข้ออ้างเรื่องความปลอดภัย

อย่างไรก็ตาม ทำเนียบขาวได้ยอมรับถึงศักยภาพของโมเดล AI “ไมทอส” (Mythos) ของ “แอนธรอปิก”

ซึ่งยังไม่เผยแพร่ต่อสาธารณะ เนื่องจากความสามารถด้านความปลอดภัยทางไซเบอร์

และปัจจุบันถูกใช้งานเฉพาะในองค์กรที่ได้รับการตรวจสอบแล้วเพียงไม่กี่แห่ง