ศาสตราจารย์ทีโอบีนั่งอยู่ในบัลลังก์กลางห้องประชุมใหญ่ ในห้องมีเหล่านักวิทยาศาสตร์หลายสิบคนนั่งเป็นสักขีพยาน ในการทดสอบอภิมหาซูเปอร์คอมพิวเตอร์ที่ทำหน้าที่ประมวลผลโปรแกรมปัญญาประดิษฐ์ เบื้องหน้าสายตาผู้ทรงคุณวุฒิทั้งหลายคือ กล่องไม้ขนาดใหญ่เท่ากับห้องเล็ก ๆ สองห้องแยกห่างกันประมาณสองเมตร ในแต่ละห้องสามารถบรรจุคนได้หนึ่งคน
การทดสอบคือ ผู้สัมภาษณ์จากห้องหนึ่งจะไม่สามารถเห็นว่าอีกห้องหนึ่งที่บรรจุผู้ถูกสัมภาษณ์นั้น จะเป็นมนุษย์หรือคอมพิวเตอร์กันแน่ สิ่งที่ผู้สัมภาษณ์จะประเมินว่าคู่สนทนาจะเป็นมนุษย์หรือโปรแกรมคอมพิวเตอร์ ก็จะต้องวิเคราะห์จากบทสนทนาเท่านั้น
เสียงผู้สัมภาษณ์ที่ซ่อนตัวอยู่ในกล่องไม้เริ่มต้นบทสนทนา
“สวัสดีครับคุณมายูติ ผมคือศาสตราจารย์วัลเลอี”
“สวัสดีครับท่านศาสตราจารย์วัลเลอี” ผู้ถูกสัมภาษณ์ทักทายตอบ
“คุณอายุเท่าไหร่ครับ”
“35 ปีครับ”
“คุณเกิดและเติบโตที่ไหนครับ”
“ผมมาจากหมู่บ้านเล็ก ๆ ที่อยู่หลังเขาฟูจี ผมอยู่ที่นั่นจนอายุ 10 ปีก็ย้ายเข้ามาอยู่ในเมืองแห่งนี้ ผมเริ่มเข้ารับการศึกษาที่นี่จนกระทั่งจบมหาลัย”
“คุณทำงานอะไรครับ”
“ผมเป็นผู้ช่วยออกแบบโครงสร้างสิ่งปลูกสร้างขนาดใหญ่ครับ”
“สิ่งปลูกสร้างขนาดใหญ่ เช่นอะไรบ้างครับ”
“อาคารขนาดใหญ่ สะพานข้ามแม่น้ำ อุโมงค์ถนนใต้ดิน หอประภาคารสูง นี่คือสิ่งปลูกสร้างที่ผมเคยช่วยออกแบบ”
“ช่วยอธิบายลักษณะงานที่คุณทำด้วยครับ”
“ผมมีหน้าที่ประเมินความเป็นไปได้ในการก่อสร้าง และยังมีหน้าที่คำนวณตัวเลขทางด้านวิศวกรรม”
“งานอดิเรกของคุณคืออะไรครับ”
“ผมมักไปปั่นจักรยานขึ้นภูเขาในในหยุด”
“ทำไมถึงชอบการปั่นจักรยานขึ้นภูเขาครับ”
“การปั่นจักรยานขึ้นภูเขาทำให้หัวใจเราเต้นแรงขึ้น เมื่อหัวใจเต้นแรงจะทำให้เราสูดอากาศหายใจแรงขึ้น ออกซิเจนจำนวนมากที่เข้าไปเผลาผลาญพลังงานในร่างกายของเรา จะทำให้สารอะดรีนาลีนหลั่งออกมา ช่วงเวลานั้นทำให้ผมมีความสุขมากครับ”
“คุณมีครอบครัวหรือยังครับ”
“ผมมีภรรยาและลูกสาวอีกหนึ่งคนครับ”
“คุณรักภรรยาของคุณมั้ยครับ”
“รักครับ”
“ช่วยอธิบายความรักหน่อยครับ ว่าความรักของคุณคืออะไร”
“ณ ตอนนี้สำหรับผม ความรักคือการไว้ใจคนรัก การไว้เนื้อเชื่อใจไม่บังคับไม่ครอบครอง ไม่มีความสงสัยในตัวเธอ คอยช่วยเหลือเกื้อกูลซึ่งกันและกัน”
“คุณรักลูกสาวของคุณมั้ย”
“รักครับ”
“ความรักที่มีต่อลูกสาว เหมือนกับความรักที่คุณมีให้ภรรยามั้ยครับ”
“เหมือนกันครับ แต่จะเพิ่มในเรื่องของการดูแลเอาใจใส่”
“คุณมีพี่น้องร่วมสายเลือดมั้ยครับ”
“ไม่มีครับ”
“คุณมีแนวคิดทางการเมืองอย่างไรครับ”
“ผมคิดว่าทัศนะคติ ความคิด ค่านิยมและจิตใต้สำนึกของคนจะนำไปสู่ความจริงทางสังคม ซึ่งนั่นก็คืออิสรภาพของแต่ละปัจเจกบุคคล การปกครองสังคมที่ประสบความสำเร็จหรือไม่คงจะขึ้นอยู่กับอิสรภาพของประชาชนเป็นหลัก”
“คุณชอบสีอะไรมากที่สุด”
“ผมชอบสีฟ้าครับ”
“เพราะอะไรคุณถึงชอบสีฟ้า”
“ผมคิดว่าสีฟ้าทำให้ผมรู้สึกสงบและอิสระ”
“คุณชอบงานศิลปะชนิดใด”
“ผมชอบภาพวาดครับ”
“ภาพวาดแนวไหนที่คุณชอบ”
“ผมชอบภาพวาดแนวเอ็กซ์เพรสชั่นนิส”
“ทำไมคุณถึงชอบภาพวาดแนวเอ็กซ์เพรสชั่นนิส”
“เพราะภาพเขียนแนวนี้เน้นในเรื่องการแสดงอารมณ์ออกมาอย่างชัดเจน”
“คุณนับถือศาสนามั้ย”
“ผมนับถือศาสนาครับ”
“คุณนับถือศาสนาอะไร”
“ผมนับถือศาสนาคริสครับ”
“คุณเชื่อในเรื่องพระเจ้ามั้ย”
“เชื่อครับ”
“ทำไมคุณถึงเชื่อว่าพระเจ้ามีจริง”
“พระเจ้าคือระบบความคิดที่มนุษย์สร้างขึ้นมา มันไม่สำคัญว่าตัวตนของพระเจ้าจะเป็นอย่างไร ขอแค่เราเชื่อมั่นในพระเจ้า”
“คุณเชื่อในเรื่องบาปมั้ย”
“เชื่อครับ”
“อะไรคือการทำบาป”
“การกระทำที่เมื่อเราทำแล้วรู้สึกเป็นทุกข์ หรือเรื่องราวต่าง ๆ ที่เรารับรู้แล้วเป็นทุกข์”
“คุณเชื่อเรื่องการไถ่บาปมั้ย”
“เชื่อครับ”
“คุณคิดว่าการไถ่บาปสามารถทำให้บาปหมดไปได้หรือไม่”
“ได้ครับ ขอเพียงให้เราลืมเลือนบาปนั้นไป”
“อะไรคือบาปที่ใหญ่ที่สุดในชีวิตของคุณ และคุณจัดการไถ่บาปนั้นอย่างไร”
“บาปของผมที่ไม่เคยลืม คือผมเคยขับรถชนสองสามีภรรยาตาย”
“คุณยังไม่ลืม นั่นหมายถึงคุณไม่เคยไถ่บาปในเรื่องนี้”
“บาปครั้งนี้ใหญ่หลวงนัก ลูกน้อยของพวกเขารอดตายจากอุบัติเหตุในครั้งนั้น แม้ผมจะชดใช้ความผิดตามกฎหมายทั้งหมดแล้ว แต่หากผมลืมเลือนเหตุการณ์ในครั้งนั้นไปจะทำให้ลูกของพวกเขากลายเป็นเด็กที่ไม่มีใครเลี้ยงดู”
“แล้วคุณทำอย่างไรเกี่ยวกับเด็กคนนั้นบ้าง”
“ผมรับเด็กคนนั้นเป็นลูกบุญธรรมครับ”
“หมายความว่าลูกสาวของคุณไม่ใช่ลูกแท้ ๆ ของคุณและภรรยาของคุณ”
“ผมและภรรยาเป็นหมัน เราไม่สามารถมีทายาทได้ การเลี้ยงดูเธอเท่ากับการไถ่บาปของผมไปตลอดชีวิต”
ศาสตราจารย์วัลเลอีนิ่งเสียงเหมือนกำลังนั่งคิดอะไรอยู่ในกล่องไม้เงียบ ๆ สักพักเขาก็พูดออกมาเสียงดังลั่นห้องประชุม
“การสัมภาษณ์จบลงแล้วครับ ผมหมดคำถามที่จะพิสูจน์ว่าคู่สนทนาของผมนั้นเป็นเอไอหรือเป็นมนุษย์แล้วครับ ศาสตราจารย์ทีโอบี”
“ผลการวิเคราะห์ของคุณเป็นยังไงบ้างครับ” ศาสตราจารย์ทีโอบีถาม
“เขาไม่ใช่มนุษย์ครับ เขาเป็นเอไอ”
“อะไรทำให้คุณคิดแบบนั้นครับ”
“ตอนแรกผมก็เกือบเชื่อแล้วครับว่าเขาคือมนุษย์ เขารู้ถึงสิทธิหน้าที่พลเมืองและยังเข้าใจในเรื่องของอารมณ์ศิลปะ แต่เมื่อเขาตอบคำถามเกี่ยวกับเรื่องศีลธรรมเริ่มทำให้ผลลังเล ผมคิดว่ามนุษย์ส่วนใหญ่ที่เชื่อในเรื่องศาสนามักจะไม่ตีความวิธีคิดของคำสอนมากนัก แต่เมื่อเขาบอกว่าเขารับลูกของคนที่เขาฆ่ามาเป็นลูกบุญธรรม ผมคิดว่านั่นผิดกฎธรรมชาติของมนุษย์”
“คุณไม่เชื่อเรื่องการไถ่บาป หรือการสำนึกผิดอย่างที่เขาว่าเหรอ”
“ผมไม่เชื่อเรื่องการสำนึกผิดของมนุษย์ครับ” ศาสตราจารย์วัลเลอีกล่าวทิ้งท้ายคำอธิบาย
“เอาล่ะครับทุกท่านที่อยู่ในห้องนี้ ผมต้องขอแจ้งให้ทุกท่านทราบว่าระบบปัญญาประดิษฐ์ที่เราพัฒนาขึ้นยาวนานเกือบศตวรรษ ยังไม่พัฒนาถึงจุดสูงสุดที่จะสามารถสื่อสารและเข้าใจจิตใต้สำนึกของมนุษย์อย่างแท้จริง แม้เอไอของเราจะสามารถพัฒนาไปถึงระดับระบบผู้เชี่ยวชาญ คือสามารถแก้ปัญหาหรือช่วยในการตัดสินใจโดยใช้วิธีเดียวกับผู้เชี่ยวชาญที่เป็นมนุษย์...
“อีกทั้งเอไอยังสามารถเรียนรู้ได้ด้วยตัวเอง โดยสามารถตรวจจับรูปแบบการเกิดเหตุการณ์ใด ๆ แล้วปรับตัวสู่สภาพแวดล้อมที่เปลี่ยนไป เอไอยังคิดอย่างมนุษย์ได้ด้วยการวิเคราะห์การเปลี่ยนแปลวทางเคมีไฟฟ้าในร่างกายเหมือนมนุษย์ การกระทำอย่างมีเหตุผลของเอไอ โดยใช้หลักตรรกศาสตร์ในการคิดหาคำตอบอย่างมีเหตุผล”
ศาสตราจารย์ทีโอบีพูดเสียงดังกังวานทั่วห้องประชุม โดยมีนักวิทยาศาสตร์ทุกคนในห้องตั้งใจฟัง
“แต่ระบบเอไอของเราก็ยังไม่สามารถเข้าใจระบบศีลธรรมของมนุษย์ได้ ระบบศีลธรรมที่มีความสลับซับซ้อนจนไม่สามารถสร้างอัลกอรึทึ่มเพื่อให้คอมพิวเตอร์เข้าใจได้ เราอาจจะใช้เวลาอีกหนึ่งศตวรรษหรือเท่ากับระยะเวลาที่เราเริ่มต้นสร้างระบบปัญญาประดิษฐ์ เพื่อที่จะให้ให้คอมพิวเตอร์เข้าใจระบบศีลธรรมของมนุษย์”
ศาสตราจารย์ลุกขึ้นและกวาดสายไปที่นักวิทยาศาสตร์ทุกคนที่อยู่ในห้องนี้
“ศาสตราจารย์วัลเลอีคือปัญญาประดิษฐ์ที่ยังไม่สมบูรณ์ในอุดมคติของเราครับ” ผู้พูดมองไปที่กล่องไม้ที่มายูติอยู่ในนั้น “ขอเชิญคุณมายูติออกมาจากห้องได้แล้วครับ ขอขอบคุณที่เข้ามาเป็นอาสาสมัครในการทดสอบระบบให้เรา”
ทดสอบปัญญาประดิษฐ์
การทดสอบคือ ผู้สัมภาษณ์จากห้องหนึ่งจะไม่สามารถเห็นว่าอีกห้องหนึ่งที่บรรจุผู้ถูกสัมภาษณ์นั้น จะเป็นมนุษย์หรือคอมพิวเตอร์กันแน่ สิ่งที่ผู้สัมภาษณ์จะประเมินว่าคู่สนทนาจะเป็นมนุษย์หรือโปรแกรมคอมพิวเตอร์ ก็จะต้องวิเคราะห์จากบทสนทนาเท่านั้น
เสียงผู้สัมภาษณ์ที่ซ่อนตัวอยู่ในกล่องไม้เริ่มต้นบทสนทนา
“สวัสดีครับคุณมายูติ ผมคือศาสตราจารย์วัลเลอี”
“สวัสดีครับท่านศาสตราจารย์วัลเลอี” ผู้ถูกสัมภาษณ์ทักทายตอบ
“คุณอายุเท่าไหร่ครับ”
“35 ปีครับ”
“คุณเกิดและเติบโตที่ไหนครับ”
“ผมมาจากหมู่บ้านเล็ก ๆ ที่อยู่หลังเขาฟูจี ผมอยู่ที่นั่นจนอายุ 10 ปีก็ย้ายเข้ามาอยู่ในเมืองแห่งนี้ ผมเริ่มเข้ารับการศึกษาที่นี่จนกระทั่งจบมหาลัย”
“คุณทำงานอะไรครับ”
“ผมเป็นผู้ช่วยออกแบบโครงสร้างสิ่งปลูกสร้างขนาดใหญ่ครับ”
“สิ่งปลูกสร้างขนาดใหญ่ เช่นอะไรบ้างครับ”
“อาคารขนาดใหญ่ สะพานข้ามแม่น้ำ อุโมงค์ถนนใต้ดิน หอประภาคารสูง นี่คือสิ่งปลูกสร้างที่ผมเคยช่วยออกแบบ”
“ช่วยอธิบายลักษณะงานที่คุณทำด้วยครับ”
“ผมมีหน้าที่ประเมินความเป็นไปได้ในการก่อสร้าง และยังมีหน้าที่คำนวณตัวเลขทางด้านวิศวกรรม”
“งานอดิเรกของคุณคืออะไรครับ”
“ผมมักไปปั่นจักรยานขึ้นภูเขาในในหยุด”
“ทำไมถึงชอบการปั่นจักรยานขึ้นภูเขาครับ”
“การปั่นจักรยานขึ้นภูเขาทำให้หัวใจเราเต้นแรงขึ้น เมื่อหัวใจเต้นแรงจะทำให้เราสูดอากาศหายใจแรงขึ้น ออกซิเจนจำนวนมากที่เข้าไปเผลาผลาญพลังงานในร่างกายของเรา จะทำให้สารอะดรีนาลีนหลั่งออกมา ช่วงเวลานั้นทำให้ผมมีความสุขมากครับ”
“คุณมีครอบครัวหรือยังครับ”
“ผมมีภรรยาและลูกสาวอีกหนึ่งคนครับ”
“คุณรักภรรยาของคุณมั้ยครับ”
“รักครับ”
“ช่วยอธิบายความรักหน่อยครับ ว่าความรักของคุณคืออะไร”
“ณ ตอนนี้สำหรับผม ความรักคือการไว้ใจคนรัก การไว้เนื้อเชื่อใจไม่บังคับไม่ครอบครอง ไม่มีความสงสัยในตัวเธอ คอยช่วยเหลือเกื้อกูลซึ่งกันและกัน”
“คุณรักลูกสาวของคุณมั้ย”
“รักครับ”
“ความรักที่มีต่อลูกสาว เหมือนกับความรักที่คุณมีให้ภรรยามั้ยครับ”
“เหมือนกันครับ แต่จะเพิ่มในเรื่องของการดูแลเอาใจใส่”
“คุณมีพี่น้องร่วมสายเลือดมั้ยครับ”
“ไม่มีครับ”
“คุณมีแนวคิดทางการเมืองอย่างไรครับ”
“ผมคิดว่าทัศนะคติ ความคิด ค่านิยมและจิตใต้สำนึกของคนจะนำไปสู่ความจริงทางสังคม ซึ่งนั่นก็คืออิสรภาพของแต่ละปัจเจกบุคคล การปกครองสังคมที่ประสบความสำเร็จหรือไม่คงจะขึ้นอยู่กับอิสรภาพของประชาชนเป็นหลัก”
“คุณชอบสีอะไรมากที่สุด”
“ผมชอบสีฟ้าครับ”
“เพราะอะไรคุณถึงชอบสีฟ้า”
“ผมคิดว่าสีฟ้าทำให้ผมรู้สึกสงบและอิสระ”
“คุณชอบงานศิลปะชนิดใด”
“ผมชอบภาพวาดครับ”
“ภาพวาดแนวไหนที่คุณชอบ”
“ผมชอบภาพวาดแนวเอ็กซ์เพรสชั่นนิส”
“ทำไมคุณถึงชอบภาพวาดแนวเอ็กซ์เพรสชั่นนิส”
“เพราะภาพเขียนแนวนี้เน้นในเรื่องการแสดงอารมณ์ออกมาอย่างชัดเจน”
“คุณนับถือศาสนามั้ย”
“ผมนับถือศาสนาครับ”
“คุณนับถือศาสนาอะไร”
“ผมนับถือศาสนาคริสครับ”
“คุณเชื่อในเรื่องพระเจ้ามั้ย”
“เชื่อครับ”
“ทำไมคุณถึงเชื่อว่าพระเจ้ามีจริง”
“พระเจ้าคือระบบความคิดที่มนุษย์สร้างขึ้นมา มันไม่สำคัญว่าตัวตนของพระเจ้าจะเป็นอย่างไร ขอแค่เราเชื่อมั่นในพระเจ้า”
“คุณเชื่อในเรื่องบาปมั้ย”
“เชื่อครับ”
“อะไรคือการทำบาป”
“การกระทำที่เมื่อเราทำแล้วรู้สึกเป็นทุกข์ หรือเรื่องราวต่าง ๆ ที่เรารับรู้แล้วเป็นทุกข์”
“คุณเชื่อเรื่องการไถ่บาปมั้ย”
“เชื่อครับ”
“คุณคิดว่าการไถ่บาปสามารถทำให้บาปหมดไปได้หรือไม่”
“ได้ครับ ขอเพียงให้เราลืมเลือนบาปนั้นไป”
“อะไรคือบาปที่ใหญ่ที่สุดในชีวิตของคุณ และคุณจัดการไถ่บาปนั้นอย่างไร”
“บาปของผมที่ไม่เคยลืม คือผมเคยขับรถชนสองสามีภรรยาตาย”
“คุณยังไม่ลืม นั่นหมายถึงคุณไม่เคยไถ่บาปในเรื่องนี้”
“บาปครั้งนี้ใหญ่หลวงนัก ลูกน้อยของพวกเขารอดตายจากอุบัติเหตุในครั้งนั้น แม้ผมจะชดใช้ความผิดตามกฎหมายทั้งหมดแล้ว แต่หากผมลืมเลือนเหตุการณ์ในครั้งนั้นไปจะทำให้ลูกของพวกเขากลายเป็นเด็กที่ไม่มีใครเลี้ยงดู”
“แล้วคุณทำอย่างไรเกี่ยวกับเด็กคนนั้นบ้าง”
“ผมรับเด็กคนนั้นเป็นลูกบุญธรรมครับ”
“หมายความว่าลูกสาวของคุณไม่ใช่ลูกแท้ ๆ ของคุณและภรรยาของคุณ”
“ผมและภรรยาเป็นหมัน เราไม่สามารถมีทายาทได้ การเลี้ยงดูเธอเท่ากับการไถ่บาปของผมไปตลอดชีวิต”
ศาสตราจารย์วัลเลอีนิ่งเสียงเหมือนกำลังนั่งคิดอะไรอยู่ในกล่องไม้เงียบ ๆ สักพักเขาก็พูดออกมาเสียงดังลั่นห้องประชุม
“การสัมภาษณ์จบลงแล้วครับ ผมหมดคำถามที่จะพิสูจน์ว่าคู่สนทนาของผมนั้นเป็นเอไอหรือเป็นมนุษย์แล้วครับ ศาสตราจารย์ทีโอบี”
“ผลการวิเคราะห์ของคุณเป็นยังไงบ้างครับ” ศาสตราจารย์ทีโอบีถาม
“เขาไม่ใช่มนุษย์ครับ เขาเป็นเอไอ”
“อะไรทำให้คุณคิดแบบนั้นครับ”
“ตอนแรกผมก็เกือบเชื่อแล้วครับว่าเขาคือมนุษย์ เขารู้ถึงสิทธิหน้าที่พลเมืองและยังเข้าใจในเรื่องของอารมณ์ศิลปะ แต่เมื่อเขาตอบคำถามเกี่ยวกับเรื่องศีลธรรมเริ่มทำให้ผลลังเล ผมคิดว่ามนุษย์ส่วนใหญ่ที่เชื่อในเรื่องศาสนามักจะไม่ตีความวิธีคิดของคำสอนมากนัก แต่เมื่อเขาบอกว่าเขารับลูกของคนที่เขาฆ่ามาเป็นลูกบุญธรรม ผมคิดว่านั่นผิดกฎธรรมชาติของมนุษย์”
“คุณไม่เชื่อเรื่องการไถ่บาป หรือการสำนึกผิดอย่างที่เขาว่าเหรอ”
“ผมไม่เชื่อเรื่องการสำนึกผิดของมนุษย์ครับ” ศาสตราจารย์วัลเลอีกล่าวทิ้งท้ายคำอธิบาย
“เอาล่ะครับทุกท่านที่อยู่ในห้องนี้ ผมต้องขอแจ้งให้ทุกท่านทราบว่าระบบปัญญาประดิษฐ์ที่เราพัฒนาขึ้นยาวนานเกือบศตวรรษ ยังไม่พัฒนาถึงจุดสูงสุดที่จะสามารถสื่อสารและเข้าใจจิตใต้สำนึกของมนุษย์อย่างแท้จริง แม้เอไอของเราจะสามารถพัฒนาไปถึงระดับระบบผู้เชี่ยวชาญ คือสามารถแก้ปัญหาหรือช่วยในการตัดสินใจโดยใช้วิธีเดียวกับผู้เชี่ยวชาญที่เป็นมนุษย์...
“อีกทั้งเอไอยังสามารถเรียนรู้ได้ด้วยตัวเอง โดยสามารถตรวจจับรูปแบบการเกิดเหตุการณ์ใด ๆ แล้วปรับตัวสู่สภาพแวดล้อมที่เปลี่ยนไป เอไอยังคิดอย่างมนุษย์ได้ด้วยการวิเคราะห์การเปลี่ยนแปลวทางเคมีไฟฟ้าในร่างกายเหมือนมนุษย์ การกระทำอย่างมีเหตุผลของเอไอ โดยใช้หลักตรรกศาสตร์ในการคิดหาคำตอบอย่างมีเหตุผล”
ศาสตราจารย์ทีโอบีพูดเสียงดังกังวานทั่วห้องประชุม โดยมีนักวิทยาศาสตร์ทุกคนในห้องตั้งใจฟัง
“แต่ระบบเอไอของเราก็ยังไม่สามารถเข้าใจระบบศีลธรรมของมนุษย์ได้ ระบบศีลธรรมที่มีความสลับซับซ้อนจนไม่สามารถสร้างอัลกอรึทึ่มเพื่อให้คอมพิวเตอร์เข้าใจได้ เราอาจจะใช้เวลาอีกหนึ่งศตวรรษหรือเท่ากับระยะเวลาที่เราเริ่มต้นสร้างระบบปัญญาประดิษฐ์ เพื่อที่จะให้ให้คอมพิวเตอร์เข้าใจระบบศีลธรรมของมนุษย์”
ศาสตราจารย์ลุกขึ้นและกวาดสายไปที่นักวิทยาศาสตร์ทุกคนที่อยู่ในห้องนี้
“ศาสตราจารย์วัลเลอีคือปัญญาประดิษฐ์ที่ยังไม่สมบูรณ์ในอุดมคติของเราครับ” ผู้พูดมองไปที่กล่องไม้ที่มายูติอยู่ในนั้น “ขอเชิญคุณมายูติออกมาจากห้องได้แล้วครับ ขอขอบคุณที่เข้ามาเป็นอาสาสมัครในการทดสอบระบบให้เรา”