วันนี้เราจะมาขยายความกันต่อเรื่องคลิปอนาจารที่หลุดรอดการตรวจจับของ AI Meta ว่าแล้วใครเป็นคนออกแบบอัลกอริธั่มในเรื่องนี้
1. คนออกแบบอัลกอริทึมคือ “วิศวกร+เป้าหมายธุรกิจ”
ระบบของ Meta (Facebook/Instagram) ไม่ได้ถูกออกแบบโดย “คนที่คิดเรื่องศีลธรรมเป็นหลัก”
แต่ถูกออกแบบโดย:
วิศวกรข้อมูล (data engineers)
นักวิจัย machine learning
ทีม product ที่มี KPI ชัดเจน
และ KPI หลักคือ: “เพิ่มเวลาอยู่ในแอป (engagement / time spent)”
เพราะยิ่งคนอยู่ในแอปนาน โฆษณายิ่งขายได้
โฆษณาคือรายได้หลักของแพลตฟอร์ม
2. ระบบไม่ได้ถามว่า “ดีหรือไม่ดี” แต่ถามว่า “ดูแล้วติดไหม”
โมเดลพื้นฐานคือ ไม่ได้ optimize ความถูกต้อง แต่ optimize “ความสนใจ”
สิ่งที่ AI เรียนรู้คือ
อะไรทำให้คนหยุดเลื่อน
อะไรทำให้คนคอมเมนต์
อะไรทำให้คนแชร์
ผลลัพธ์คือ “คอนเทนต์สุดขั้ว” มักชนะ “คอนเทนต์กลาง ๆ”
3. ทำไมแพลตฟอร์มไม่รีบเปลี่ยน ทั้งที่รู้ผลกระทบ?
มี 3 เหตุผลใหญ่:
(1) รายได้มหาศาล โมเดลธุรกิจคือโฆษณา ถ้าคนดูนาน แล้วรายได้เพิ่มทันที
การลด engagement = รายได้ลด
(2) ปัญหา “ปรับมากไป = คนเลิกใช้”
ถ้ากดเนื้อหาแรงมากเกิน คนรู้สึกว่าแพลตฟอร์ม “น่าเบื่อ” คนย้ายไปแพลตฟอร์มอื่น
สุดท้ายกลายเป็นการแข่งขันกัน “ดึง attention”
(3) ความไม่แน่นอนของคำว่า “เหมาะสม” สิ่งที่ “ผิด” ในประเทศหนึ่ง อาจ “ปกติ” ในอีกประเทศ เช่น เสื้อผ้า เนื้อหาความสัมพันธ์ การแสดงออกทางเพศ ตลอดจนเรื่องการเมือง
นอกจากนี้ จะต้องทำให้ระบบต้อง “ระวังไม่ให้ล็อกเข้มเกินไป”
4. สิ่งที่เกิดขึ้นจริงคือ “การดึงเชือกสองด้าน”
แพลตฟอร์มต้องบาลานซ์ 2 อย่าง:
ด้านหนึ่ง เพิ่ม engagement (เพื่อธุรกิจ)
อีกด้านหนึ่ง ลดคอนเทนต์ผิดกฎ (เพื่อภาพลักษณ์ + กฎหมาย)
ผลคือ ระบบจะ “ปล่อยก่อน แล้วค่อยลบทีหลัง” ในหลายกรณี
5. ทำไมคอนเทนต์แรงถึง “ชนะ” ระบบบ่อย เพราะมันมี “ข้อได้เปรียบทางธรรมชาติ”:
กระตุ้นอารมณ์ทันที (fear / curiosity / shock / sexual content)
ทำให้คน react เร็ว
AI เห็นสัญญาณว่า “มี engagement สูง”
ซึ่งในโลกของ machine learning = นี่คือ “สัญญาณบวก”
แม้ในโลกจริงจะ “มีผลกระทบลบ”
6. ประเด็นลึกสุด: มันไม่ใช่ AI เลว แต่คือ “การ optimize ผิดเป้าหมายเชิงสังคม”
สรุปแบบตรง ๆ:
AI ทำตามเป้าหมายที่มนุษย์ตั้ง
เป้าหมายคือ engagement + revenue
ไม่ใช่ “คุณภาพสังคม”
ดังนั้นผลลัพธ์จึง “ขัดกับความรู้สึกทางสังคม” เป็นบางครั้ง
หากจะให้สรุปภาพรวมสั้นที่สุดก็ต้องบอกว่า
ไม่ใช่ว่า AI หลุด
แต่คือ AI ทำงานได้ “ถูกต้องตามเป้าหมายธุรกิจ” มากเกินไป
☐ หากสนใจคราวหน้าจะมาต่อกันว่าแล้วทำไม Tiktok ถึงได้แรงกว่า facebook ในเรื่องนี้
(ต่อ) คลิปไวรัลอนาจาร : ใครเป็นคนออกแบบอัลกอริทึมพวกนี้
1. คนออกแบบอัลกอริทึมคือ “วิศวกร+เป้าหมายธุรกิจ”
ระบบของ Meta (Facebook/Instagram) ไม่ได้ถูกออกแบบโดย “คนที่คิดเรื่องศีลธรรมเป็นหลัก”
แต่ถูกออกแบบโดย:
วิศวกรข้อมูล (data engineers)
นักวิจัย machine learning
ทีม product ที่มี KPI ชัดเจน
และ KPI หลักคือ: “เพิ่มเวลาอยู่ในแอป (engagement / time spent)”
เพราะยิ่งคนอยู่ในแอปนาน โฆษณายิ่งขายได้
โฆษณาคือรายได้หลักของแพลตฟอร์ม
2. ระบบไม่ได้ถามว่า “ดีหรือไม่ดี” แต่ถามว่า “ดูแล้วติดไหม”
โมเดลพื้นฐานคือ ไม่ได้ optimize ความถูกต้อง แต่ optimize “ความสนใจ”
สิ่งที่ AI เรียนรู้คือ
อะไรทำให้คนหยุดเลื่อน
อะไรทำให้คนคอมเมนต์
อะไรทำให้คนแชร์
ผลลัพธ์คือ “คอนเทนต์สุดขั้ว” มักชนะ “คอนเทนต์กลาง ๆ”
3. ทำไมแพลตฟอร์มไม่รีบเปลี่ยน ทั้งที่รู้ผลกระทบ?
มี 3 เหตุผลใหญ่:
(1) รายได้มหาศาล โมเดลธุรกิจคือโฆษณา ถ้าคนดูนาน แล้วรายได้เพิ่มทันที
การลด engagement = รายได้ลด
(2) ปัญหา “ปรับมากไป = คนเลิกใช้”
ถ้ากดเนื้อหาแรงมากเกิน คนรู้สึกว่าแพลตฟอร์ม “น่าเบื่อ” คนย้ายไปแพลตฟอร์มอื่น
สุดท้ายกลายเป็นการแข่งขันกัน “ดึง attention”
(3) ความไม่แน่นอนของคำว่า “เหมาะสม” สิ่งที่ “ผิด” ในประเทศหนึ่ง อาจ “ปกติ” ในอีกประเทศ เช่น เสื้อผ้า เนื้อหาความสัมพันธ์ การแสดงออกทางเพศ ตลอดจนเรื่องการเมือง
นอกจากนี้ จะต้องทำให้ระบบต้อง “ระวังไม่ให้ล็อกเข้มเกินไป”
4. สิ่งที่เกิดขึ้นจริงคือ “การดึงเชือกสองด้าน”
แพลตฟอร์มต้องบาลานซ์ 2 อย่าง:
ด้านหนึ่ง เพิ่ม engagement (เพื่อธุรกิจ)
อีกด้านหนึ่ง ลดคอนเทนต์ผิดกฎ (เพื่อภาพลักษณ์ + กฎหมาย)
ผลคือ ระบบจะ “ปล่อยก่อน แล้วค่อยลบทีหลัง” ในหลายกรณี
5. ทำไมคอนเทนต์แรงถึง “ชนะ” ระบบบ่อย เพราะมันมี “ข้อได้เปรียบทางธรรมชาติ”:
กระตุ้นอารมณ์ทันที (fear / curiosity / shock / sexual content)
ทำให้คน react เร็ว
AI เห็นสัญญาณว่า “มี engagement สูง”
ซึ่งในโลกของ machine learning = นี่คือ “สัญญาณบวก”
แม้ในโลกจริงจะ “มีผลกระทบลบ”
6. ประเด็นลึกสุด: มันไม่ใช่ AI เลว แต่คือ “การ optimize ผิดเป้าหมายเชิงสังคม”
สรุปแบบตรง ๆ:
AI ทำตามเป้าหมายที่มนุษย์ตั้ง
เป้าหมายคือ engagement + revenue
ไม่ใช่ “คุณภาพสังคม”
ดังนั้นผลลัพธ์จึง “ขัดกับความรู้สึกทางสังคม” เป็นบางครั้ง
หากจะให้สรุปภาพรวมสั้นที่สุดก็ต้องบอกว่า
ไม่ใช่ว่า AI หลุด
แต่คือ AI ทำงานได้ “ถูกต้องตามเป้าหมายธุรกิจ” มากเกินไป
☐ หากสนใจคราวหน้าจะมาต่อกันว่าแล้วทำไม Tiktok ถึงได้แรงกว่า facebook ในเรื่องนี้