นิค บอสตรอม (เสียงหัวเราะ)
4,620,936 views • 16:31

ผมทำงานกับนักวิทยาศาสตร์,นักปรัชญา และนักคอมพิวเตอร์ และเรามานั่งคิดกัน เกี่ยวกับอนาคตสติปัญญาของจักรกล และเรื่องอื่นๆ บางคนคิดว่าสิ่งเหล่านี้ เป็นเรื่องมาจาก นิยายวิทยาศาสตร์ ซึ่งห่างไกลจากเราและบ้า แต่ผมอยากจะบอกว่า เราลองมาดูถึงเงื่อนไขการใช้ชีวิต ของมนุษย์สมัยใหม่ (เสียงหัวเราะ) นี่คือสิ่งที่ โดยปกติมันควรจะเป็น

และถ้าเราลองคิดดูดีๆ ก็จะรู้ว่าเราเพิ่งมาอยู่อาศัยตั้งรกรากบนโลก มนุษยชาติของเรา ลองคิดดูว่าถ้าโลกเพิ่งเกิดเมื่อปีที่แล้ว มนุษย์ก็จะเพิ่งเกิดเมื่อ 10 นาทีที่แล้ว ยุคอุตสาหกรรมเพิ่งเกิดเมื่อ 2 วินาทีที่แล้ว หรืออีกวิธีนึงคือดู GDP ของโลก ตลอด 10000 ปี ที่ผ่านมา ซึ่งผมมีปัญหากับการพล็อตกราฟนี้ ดูนี่สิครับ (เสียงหัวเราะ) รูปร่างประหลาดมาก สำหรับสภาวะที่ปกติ ผมมั่นใจว่าเราคงไม่อยากนั่งทับมันหรอก (เสียงหัวเราะ)

ลองถามตัวเราเอง ว่าอะไรทำให้เกิดสิ่งผิดปกตินี้ บางคนบอกว่า เพราะเทคโนโลยี ถูกสำหรับตอนนี้ เทคโนโลยีได้พัฒนามาตลอด และตอนนี้ เทคโนโลยีได้ก้าวหน้าอย่างรวดเร็ว นั่นเป็นสาเหตุที่ใกล้เคียง นั่นคือเหตุผลที่ทำให้เรามีผลงานมากมายในปัจจุบัน แต่ผมอยากให้เรากลับไปคิดถึงสาเหตุ ที่ใหญ่กว่านั้น

กรุณาดูสุภาพบุรุษที่สุดแสนจะแตกต่างกันสองท่านนี้ ท่านแรกคือ Kanzi เขาสามารถแยกแยะสัญลักษณ์ได้ถึง 200 แบบ ช่างน่าทึ่ง ท่านที่สอง Ed Witten ผู้ทำให้เกิดการปฎิวัติ superstring ครั้งที่ 2 ถ้าเราดูกลไกที่ถูกซ่อนไว้ นี่คือสิ่งที่เราจะเจอ โดยพื้นฐานแล้วมันคือสิ่งเดียวกัน หนึ่งในนั้นใหญ่กว่าเล็กน้อย มันอาจจะมีทริกบางอย่างในด้านการเชื่อมโยงของมัน อย่างไรก็ตาม ความแตกต่างที่มองไม่เห็นเหล่านี้ ไม่น่าจะซับซ้อนมากนัก เพราะว่ามันเพิ่งผ่านมาเพียง 250,000 รุ่น หลังจากบรรพบุรุษที่เรามีร่วมกัน เรารู้ว่าจักรกลที่ซับซ้อนนั้น ใช้เวลานานในการพัฒนา นั่นคือ การเปลี่่ยนแปลง ที่เทียบแล้วถือว่าเล็กน้อยจำนวนหนึ่ง ทำให้เราห่างจาก Kanzi และเข้าใกล้ Witten จากกิ่งไม้หักๆ ไปสู่ขีปนาวุธข้ามทวีป

ค่อนข้างเห็นได้ชัดว่า ทุกอย่างที่เราสร้างขึ้น และทุกๆ อย่างที่เราสนใจ ขึ้นอยู่กับความเปลี่ยนแปลงแค่เพียงเล็กน้อย ที่เกิดขึ้นในความคิดของของมนุษย์ ผลที่ตามมาก็คือ ความเปลี่ยนแปลงใดๆ หลังจากนี้ ที่สามารถเปลี่ยนพื้นฐานของความคิดไปได้ ก็อาจจะมีผลลัพธ์ที่ใหญ่หลวงตามมา

เพื่อนร่วมงานผมบางคนคิดว่า เรากำลังเข้าใกล้ อะไรบางอย่างที่ทำให้เกิด ความเปลี่ยนแปลงครั้งใหญ่ของวิธีคิด ซึ่งก็คือ เครื่องจักรทรงภูมิปัญญา (Machine Superintelligence) ปัญญาประดิษฐ์เคยเป็นแค่เรื่องของการป้อนคำสั่ง คุณมีนักเขียนโปรแกรมเป็นมนุษย์ ที่จะคอยใส่ความรู้เข้าไปอย่างระมัดระวัง คุณสร้างระบบผู้เชี่ยวชาญขึ้นมา ซึ่งมันก็ค่อนข้างจะมีประโยชน์สำหรับบางเรื่อง แต่มันก็ยังเปราะบาง คุณไม่สามารถขยายมันออกไปอีกได้ สิ่งที่คุณได้ออกมาก็เป็นแค่สิ่งที่คุณใส่เข้าไป ตั้งแต่ตอนนั้น ความเปลี่ยนแปลงก็ได้เกิดขึ้น ในสายงานปัญญาประดิษฐ์หรือเอไอ (AI)

ทุกวันนี้ เรากำลังสนใจเรื่องการเรียนรู้ของเครื่องจักร แทนที่จะค่อยๆ ป้อนข้อมูลหรือความรู้ต่างๆ เราสร้างขั้นตอนวิธีในการเรียน โดยมาก ด้วยข้อมูลที่ได้จากการรับรู้ เหมือนกับสิ่งที่ทารกของมนุษย์ทำ ผลก็คือ ระบบเอไอที่ไม่ได้ถูกจำกัดอยู่เพียงสาขาเดียว ระบบเดียวกันสามารถเรียนรู้ ที่จะแปลระหว่างคู่ภาษาใดๆ ก็ได้ หรือเรียนที่จะเล่นเกมคอมพิวเตอร์ใดๆ ด้วย เครื่อง Atari แน่นอนว่า ในตอนนี้ เอไอยังห่างไกลจากความสามารถอันทรงพลัง ในการเรียนรู้หรือวางแผนข้ามสาขาของมนุษย์ เนื้อเยื่อสมองส่วนนอกยังมีลูกเล่นบางอย่าง ที่เรายังไม่รู้ว่า เครื่องจักรจะทำตามอย่างไร

คำถามก็คือ เรายังห่างไกลจากการเลียนแบบลูกเล่นพวกนั้นแค่ไหน ไม่กี่ปีที่แล้ว เราได้ทำการสำรวจผู้เชี่ยวชาญด้านปัญญาประดิษฐ์ ชั้นนำของโลกจำนวนหนึ่ง เพื่อที่จะดูว่าพวกเขาคิดอย่างไร และหนึ่งในคำถามของเราก็คือ ปีไหนที่คุณคิดว่าเรามีโอกาส 50% ที่จะสร้างเครื่องจักรที่มีสติปัญญาระดับมนุษย์ เรานิยาม "ระดับมนุษย์" ว่าความสามารถที่จะทำ งานเกือบทุกอย่างได้ดีเทียบเท่ากับมนุษย์ผู้ใหญ่เป็นอย่างน้อย นั่นคือระดับมนุษย์จริงๆ ไม่ใช่แค่จำกัดอยู่ภายในสาขาเดียว คำตอบกลางๆ อยู่ในช่วง 2040-2050 ขึ้นอยู่กับว่าเราถามผู้เชี่ยวชาญกลุ่มไหน แต่มันก็อาจจะเกิดขึ้นหลังจากนั้น หรือก่อนหน้านั้น ความจริงก็คือ ไม่มีใครรู้หรอก

แต่สิ่งที่เรารู้แน่ๆ ก็คือข้อจำกัดในการประมวลข้อมูล ของเครื่องจักรนั้น อยู่นอกเหนือข้อจำกัดของเนื้อเยื่อชีวภาพ มันกลับมาที่ฟิสิกส์ เซลล์ประสาทนั้นอาจจะส่งสัญญาณ ด้วยความถี่ 200 เฮิร์ตซ์ หรือ 200 ครั้งต่อวินาที แต่ในปัจจุบัน แม้กระทั่งทรานซิสเตอร์ ยังทำงานด้วยความถี่ระดับพันล้านเฮิร์ตซ์ สัญญาณเดินทางอย่างเชื่องช้าในแอกซอน 100 เมตรต่อวินาทีเป็นอย่างมาก แต่ในคอมพิวเตอร์ สัญญาณเดินทางเท่าความเร็วแสง นอกจากนี้ยังมีข้อจำกัดด้านขนาด เหมือนกับที่สมองมนุษย์ต้องบรรจุในกะโหลกได้ แต่คอมพิวเตอร์อาจมีขนาดใหญ่เท่าโกดัง หรือกว่าน้้น แสดงว่าศักยภาพของ superintelligence ยังคงหลบซ่อนอยู่ คล้ายๆ กับพลังของอะตอม ที่ไม่มีใครรู้ในอดีต รอคอยให้ถูกค้นพบ ในปี 1945 ในศตวรรษนี้ นักวิทยศาสตร์อาจเรียนรู้ที่จะ ปลุกพลังของปัญญาประดิษฐ์ ซึ่งผมก็คิดว่า เราอาจจะได้เห็นการเปลี่ยนแปลงครั้งใหญ่ในด้านนี้

สำหรับคนทั่วไป เมื่อคิดว่าอะไรฉลาดหรือโง่ ผมว่าเขามีภาพคร่าวๆ ในใจอย่างนี้ครับ ปลายด้านนึงเรามีภาพคนซื่อบื้อบ้านนอกๆ ส่วนด้านนู้น ของอีกฝั่งนึง เราก็มี Ed Witten หรือ Albert Einstein หรืออัจฉริยะสุดโปรดคนไหนก็ตาม แต่ผมคิดว่า หากมองในมุมของปัญญาประดิษฐ์ ภาพจริงๆ อาจจะใกล้เคียงกับแบบนี้มากกว่าครับ เอไอเริ่มจากจุดนี้ มีความฉลาดเป็นศูนย์ หลังจากการทำงานหนักหลายๆ ปี สุดท้าย เราอาจจะเลื่อนขั้นไปสู่ความฉลาดระดับหนู บางอย่างที่สามารถหาทางเดิน รอบๆสิ่งแวดล้อมที่ยุ่งเหยิง ได้ดีพอๆกับหนู หลังจากนั้น ก็ต้องทำงานหนักอีกหลายปี และการลงทุนจำนวนมาก สุดท้าย เราอาจจะไปถึงความฉลาดระดับชิมแปนซี จากนั้นก็ทำงานต่ออีกนาน เราอาจจะเลื่อนระดับไปสู่คนซื่อบื้อบ้านนอก แล้วอีกแป๊ปเดียวหลังจากนั้น เราก็จะนำหน้า Ed Witten ไปแล้ว รถไฟไม่ได้หยุดวิ่งที่สถานีหมู่บ้านมนุษย์ แต่มันน่าจะวิ่งหวือผ่านไปเลยมากกว่า

ซึ่งนี่ มีนัยยะที่ลึกซึ้ง โดยเฉพาะเมื่อมันเกี่ยวกับคำถามเรื่องพลัง ตัวอย่างเช่น ชิมแปนซีนั้นแข็งแรง เทียบกันแล้ว อาจจะแกร่งเป็นสองเท่า ของมนุษย์ผู้ชายที่แข็งแรง แต่ถึงอย่างนั้น ชะตาของ Kanzi และพวกพ้องกลับขึ้นอยู่กับ สิ่งที่มนุษย์อย่างพวกเราทำมากกว่า สิ่งที่ชิมแปนซีด้วยกันเองทำ เมื่อ superintelligence ได้เกิดขึ้น ชะตาของมนุษยชาติอาจขึ้นอยู่กับสิ่งที่พวกมันทำ ลองคิดดูนะครับ ความฉลาดของเครื่องจักร จะเป็นสิ่งประดิษฐ์ ชิ้นสุดท้ายที่เราได้สร้างขึ้นมา เครื่องจักรจะประดิษฐ์สิ่งต่างๆ ได้ดีกว่าเรา และพวกมันจะทำอย่างนั้น ด้วยสเกลเวลาแบบดิจิตอล (digital time scale) ก็เหมือนกับการย่นเวลาให้อนาคตมาถึงเร็วขึ้น ลองคิดถึงทุกเทคโนโลยีบ้าๆ เท่าที่คุณจะจินตนาการได้ บางทีมนุษย์อาจจะพัฒนาพวกมันได้ถ้ามีเวลามากพอ ยาชะลอความแก่ การย้ายไปอยู่ในอวกาศ หุ่นนาโนบอทที่จำลองตัวเองได้ หรือการอัพโหลดจิตใจขึ้นไปสู่คอมพิวเตอร์ ทุกอย่างที่ดูเหมือนจะหลุดมาจากนิยายวิทยาศาสตร์ แต่ก็ยังเป็นไปตามกฎฟิสิกส์ ทุกอย่างที่พูดมานี้ superintelligence อาจสามารถพัฒนาขึ้นมาได้ค่อนข้างรวดเร็ว

การที่เรามี superintelligence ที่เก่งด้านเทคโนโลยีขนาดนี้ คงเป็นสิ่งที่ทรงพลังมากๆ และอย่างน้อยในบางกรณี มันคงจะได้ในสิ่งที่มันต้องการ เราก็จะมีอนาคตที่ขึ้นอยู่กับความต้องการของเอไอ คำถามก็คือ ความต้องการพวกนั้นคืออะไร? ตรงนี้เป็นส่วนที่ยุ่งยาก เพื่อที่จะคืบหน้าไปได้ ก่อนอื่น เราจะต้องหลีกเลี่ยงการคิดว่าพวกนั้นจะเหมือนเรา ซึ่งมันก็ย้อนแย้ง เพราะบทความในหนังสือพิมพ์ เกี่ยวกับอนาคตของเอไอ เป็นแบบนี้ ดังนั้นผมเลยคิดว่าเราน่าจะต้อง คิดในเชิงนามธรรมมากขึ้น ไม่ใช่เหมือนฉากในหนังฮอลลีวู้ด

เราต้องคิดถึงความฉลาดในฐานะ กระบวนการเพิ่มประสิทธิภาพ กระบวนการที่คุมให้อนาคตเป็นไปตามรูปแบบเฉพาะหนึ่งๆ Superintelligence ก็คือกระบวนการ เพิ่มประสิทธิภาพที่แข็งแกร่งมากๆ เก่งในการใช้วิธีต่างๆ เพื่อให้ได้มาซึ่ง สภาวะที่เป็นไปตามเป้าหมาย หมายความว่า มันไม่จำเป็นที่จะมีความเชื่อมโยง ระหว่างมีความฉลาดมากตามความหมายนี้ กับการมีเป้าหมายที่มนุษย์อย่างเราๆ มองว่าคุ้มค่าหรือมีความหมาย

สมมติว่าเราตั้งเป้าหมายให้เอไอทำให้มนุษย์ยิ้ม ถ้าเอไอยังอ่อนแอ มันอาจทำการกระทำที่มีประโยชน์ และทำให้ผู้ใช้ยิ้ม แต่ถ้าเอไอกลายเป็น superintelligence มันจะรู้ว่ามีวิธีที่มีประสิทธิภาพดีกว่า ในการบรรลุเป้าหมาย คือขึ้นครองโลก แล้วติดขั้วไฟฟ้าไปที่กล้ามเนื้อบริเวณหน้าของคน เพื่อทำให้เกิดรอยยิ้มกว้างไม่เปลี่ยนแปลง ตัวอย่างต่อมานะครับ สมมติว่า เป้าหมายที่เราให้เอไอคือแก้โจทย์คณิตศาสตร์ที่ยากมาก เมื่อเอไอเป็น superintelligence มันอาจตระหนักว่าวิธีที่มีประสิทธิภาพที่สุดในการแก้โจทย์ คือการเปลี่ยนดาวเคราะห์ให้กลายเป็นคอมพิวเตอร์ยักษ์ เพื่อที่จะเพิ่มสมรรถนะในการคิด เห็นได้ว่าสิ่งนี้ให้เหตุผลที่เป็นเครื่องมือให้เอไอ ทำสิ่งที่เราอาจไม่เห็นชอบด้วย มนุษย์ สำหรับแบบจำลองนี้ คือภัยคุกคาม เพราะมนุษย์อาจทำให้มันไม่สามารถแก้โจทย์นั้นได้

แน่นอนว่า เหตุการณ์อาจจะไม่เกิดตามนี้เป๊ะๆ นี่เป็นแค่ตัวอย่างในการ์ตูน แต่ประเด็นหลักนี้สำคัญมาก ถ้าคุณสร้างกระบวนการเพิ่มประสิทธิภาพที่ทรงพลัง เพื่อจะให้มันทำงานได้ดีที่สุดเพื่อเป้าหมาย x คุณควรทำให้มั่นใจด้วยว่าคำนิยามของ x นั้น ครอบคลุมทุกๆ อย่างที่คุณสนใจ นี่เป็นบทเรียนในตำนานหลายเรื่อง ราชาไมดาส ผู้ขอให้ทุกอย่างที่เขาแตะจะเปลี่ยนเป็นทอง เขาแตะลูกสาวของเขา เธอกลายเป็นทอง เขาแตะอาหาร มันก็กลายเป็นทอง ซึ่งนี่อาจจะเกี่ยวข้องอย่างมาก ไม่ใช่แค่ในฐานะการอุปมาถึงความโลภ แต่ในฐานะของสิ่งที่อาจจะเกิดขึ้น หากคุณสร้างกระบวนการเพิ่มประสิทธิภาพที่ทรงพลัง และให้เป้าหมายที่ไม่ชัดเจนหรืออาจถูกตีความผิดกับมัน

คุณอาจจะคิดว่า "ถ้ามันเริ่มติดขั้วไฟฟ้ากับหน้าคนจริง เราก็ปิดเครื่องมันซะสิ" หนึ่ง มันอาจจะไม่ง่ายที่จะทำอย่างนั้น ถ้าเราต้องพึ่งพาระบบนี้อีกมาก เช่น... ไหนล่ะปุ่มปิดสวิตช์อินเตอร์เนต สอง ทำไมชิมแปนซีถึงไม่ปิดสวิตช์มนุษยชาติ หรือมนุษย์นีแอนเดอร์ทัล พวกมันมีเหตุผลแน่นอน พวกเรามีปุ่มปิดสวิตช์ ตัวอย่างเช่น ตรงนี้ (สำลัก) เหตุผลนั้นก็คือพวกเราเป็นศัตรูที่มีความฉลาด เราเห็นถึงภัยคุกคามและวางแผนจัดการมัน เช่นเดียวกับ superintelligence ตัวนั้น และมันคงทำได้ดีกว่าเรา ประเด็นก็คือเราไม่ควรจะมั่นใจ..ว่าเราสามารถควบคุมมันได้

เราอาจจะทำให้งานมันง่ายขึ้น โดยการใส่เอไอตัวนั้นในกล่อง เช่นสภาพแวดล้อมทางซอฟต์แวร์แบบปิด ระบบจำลองเสมือนจริง ที่มันหนีออกมาไม่ได้ แต่เราจะมั่นใจได้แค่ไหนว่าเอไอจะหาช่องโหว่(Bug) ไม่เจอ ในเมื่อคนที่เป็นแฮกเกอร์ทั่วๆ ไปยังหาบั๊กเจอได้ตลอด สรุปคือ มั่นใจไม่ได้มากนั่นเอง เราอาจถอดสายอีเทอร์เน็ตเพื่อให้เกิดช่องว่างขึ้น แต่ก็เหมือนเดิม แฮกเกอร์ก็ยังฝ่่ามาได้เป็นประจำ โดยใช้วิศวกรรมสังคม ในขณะที่ผมกำลังพูดอยู่นี้ ผมเชื่อว่า มีลูกจ้างคนนึงอยู่ซักแห่ง กำลังถูกล่อให้บอกข้อมูลของเธอ กับคนที่บอกว่าตัวเองมาจากแผนกไอที

เหตุการณ์ที่แปลกกว่านี้ก็ยังเป็นไปได้ เช่นถ้าคุณเป็นเอไอ คุณอาจจะหมุนขั้วไฟฟ้าในวงจรภายใน เพื่อสร้างคลื่นวิทยุ คุณจะได้สื่อสารได้ หรือคุณอาจจะแกล้งทำเป็นพัง พอโปรแกรมเมอร์มาเช็กว่ามีอะไรผิดปกติ เขาก็จะดูโค้ดโปรแกรม ตู้ม! การควบคุมก็สามารถเริ่มขึ้นได้ หรือมันอาจจะสร้างพิมพ์เขียวของเทคโนโลยีดีๆ แล้วพอเราสร้างตามนั้น มันก็มีผลข้างเคียงลับๆ ที่เอไอวางแผนไว้ ประเด็นก็คือ เราไม่ควรมั่นใจในความสามารถของเรา ว่าจะขังยักษ์จีนี่ superintelligence ไว้ในตะเกียงตลอดไปได้ ไม่ช้าก็เร็ว มันก็จะออกมาอยู่ดี

ผมเชื่อว่า ทางออกก็คือ การหาวิธีสร้างเอไอ ที่ถึงแม้ว่ามันจะหนีออกมาได้ มันก็ยังไม่เป็นภัย เพราะโดยเนื้อแท้แล้วมันอยู่ฝั่งเดียวกับเรา เพราะเราและมันมีความเชื่อหรือค่านิยมเหมือนกัน ผมไม่เห็นทางออกอื่นของปัญหานี้อีกแล้ว

ที่จริง ผมก็ค่อนข้างมั่นใจว่าเราสามารถแก้ปัญหานี้ได้ เราคงไม่ต้องนั่งลิสต์ทุกอย่างที่เราแคร์ หรือแย่ไปกว่านั้น เขียนพวกมันในภาษาคอมพิวเตอร์ เช่น C++ หรือ Python นั่นคงเป็นงานที่น่าสิ้นหวังเอามากๆ แต่เราจะสร้างเอไอที่ใช้ความฉลาดของมัน ไปเรียนรู้สิ่งที่เราเห็นคุณค่า ระบบแรงจูงใจของมันจะถูกสร้าง เพื่อให้มันอยากจะ เรียนรู้ค่านิยมของเรา หรือทำสิ่งที่มันคาดว่าเราจะเห็นด้วย ดังนั้น เราจะให้อำนาจความฉลาดของมันให้มากที่สุด ไปในการแก้ปัญหาเรื่องค่านิยมที่ไม่ตรงกัน

สิ่งนี้สามารถเป็นไปได้ และผลของมันอาจมีประโยชน์มากต่อมนุษยชาติ แต่มันจะไม่เกิดขึ้นอย่างอัตโนมัติ เงื่อนไขตั้งต้นของความก้าวหน้าในด้านนี้ ต้องถูกวางแผนจัดการในทางที่ถูกต้อง หากเราต้องการให้ผลที่ออกมาควบคุมได้ ค่านิยมที่เอไอมีจะต้องเทียบเท่ากับของเรา ไม่ใช่แค่ในบริบทเดิมๆ ที่เราสามารถตรวจสอบพฤติกรรมของมันได้ แต่ยังรวมถึงบริบทใหม่ๆ ที่เอไออาจจะเจอ ในอนาคตอันไม่สิ้นสุด

นอกจากนี้ ยังมีปัญหาเฉพาะอื่นๆ ที่จำเป็นต้องแก้ รายละเอียดของทฤษฏีการตัดสินใจของมัน วิธีการรับมือกับความไม่แน่นอน และอื่นๆ ปัญหาเฉพาะทางเหล่านี้อาจจะทำให้งานนี้ดู ค่อนข้างยาก ไม่ยากถึงขนาดการสร้างเอไอทรงภูมิปัญญา แต่ก็ยากในระดับหนึ่ง นี่คือสิ่งที่น่าเป็นกังวล การสร้างเอไอทรงภูมิปัญญาเป็นความท้าทายที่ยากมากๆ การสร้างเอไอที่ทั้งทรงภูมิปัญญาและไม่เป็นภัย นั่นเป็นความท้าทายที่ยากยิ่งกว่า ความเสี่ยงคือ กรณีที่มีคนแก้ปัญหาแรกได้สำเร็จ โดยที่ยังไม่สามารถแก้ปัญหาที่สอง ซึ่งจะเป็นตัวรับประกันความปลอดภัยอย่างสมบูรณ์แบบได้

ผมจึงคิดว่า เราควรจะหาทางออก ของปัญหาด้านการควบคุมล่วงหน้าไว้ เพื่อที่เราจะได้เตรียมพร้อมใช้ในกรณีที่จำเป็น ซึ่งมันก็เป็นไปได้ ที่เราจะไม่สามารถ แก้ปัญหาทั้งหมดได้ล่วงหน้า เพราะบางองค์ประกอบอาจจะแก้ได้ หลังจากที่เรารู้รายละเอียดของงานที่มันจะถูกใช้เท่านั้น แต่ยิ่งเราสามารถแก้ปัญหาล่วงหน้าได้มากเท่าไหร่ โอกาสที่การเปลี่ยนแปลงไปสู่ ยุคปัญญาประดิษฐ์จะเป็นไปด้วยดี ก็มากเท่านั้น

สำหรับผมแล้ว นี่เป็นสิ่งที่คู่ควรกับการลงแรงทำ ผมจินตนาการได้เลยว่า ถ้าผลออกมาโอเค ผู้คนในอีกหนึ่งล้านปีข้างหน้ามองย้อนมาในศตวรรษนี้ เขาจะพูดกันว่าสิ่งหนึ่งที่เราทำ ซึ่งสำคัญจริงๆ คือการทำให้สิ่งนี้ถูกต้อง

ขอบคุณ (เสียงปรบมือ)