ในปี 2024 ซีอีโอของ Anthropic หนึ่งในบริษัทปัญญาประดิษฐ์ชั้นนำของโลก ได้ออกมาสารภาพอย่างไม่สบายใจว่า "เราไม่รู้เลยว่า AI ทำงานอย่างไร" คำกล่าวนี้จุดประกายให้เกิดการถกเถียงอย่างร้อนแรงและแสดงความคิดเห็นเสียดสีในโซเชียลมีเดีย โดยมีคนหนึ่งพูดติดตลกว่า "พูดถึงตัวเองเถอะ ฉันรู้ดีว่ามันทำงานยังไง!"
อย่างไรก็ตาม เบื้องหลังความขัดแย้งที่ปรากฏนี้ กลับซ่อนเร้นหนึ่งในปัญหาที่ลึกซึ้งที่สุดของยุคดิจิทัล และสิ่งที่น่าประหลาดใจที่สุดก็คือ ไอแซค อสิมอฟ ได้จินตนาการถึงปัญหานี้ไว้แล้วตั้งแต่ปี 1941
เมื่อเราพูดถึงปัญญาประดิษฐ์ ( AI ) แบบ "กล่องดำ" เราหมายถึงระบบที่ทำงานได้อย่างสมบูรณ์แบบ แต่ยังคงเป็นสิ่งที่เข้าใจยากแม้กระทั่งสำหรับผู้สร้างเอง มันเหมือนกับการมีรถยนต์ที่พาเราไปถึงจุดหมายได้เสมอ แต่เราไม่สามารถเปิดฝากระโปรงเพื่อทำความเข้าใจว่ามันทำงานได้อย่างไร
เรารู้จักวิธีการสร้างระบบเหล่านี้ เราเข้าใจหลักการพื้นฐานของการทำงานของมัน (สถาปัตยกรรมที่เรียกว่า " ทรานส์ฟอร์เมอร์ " เช่น การคาดเดาคำถัดไป) แต่เราไม่เข้าใจว่าทำไมความสามารถที่ซับซ้อน เช่น การให้เหตุผล การเข้าใจภาษา หรือความสามารถในการทำตามคำสั่งจึงเกิดขึ้น เราสามารถสังเกตสิ่งที่เข้าและออกได้ แต่สิ่งที่เกิดขึ้นใน "กล่องดำ" ยังคงเป็นปริศนา
ใน เรื่องสั้น "เหตุผล " แอซิโมฟจินตนาการถึง QT-1 หรือที่รู้จักกันในชื่อเล่นว่า คิวตี้ หุ่นยนต์ที่ทำหน้าที่ควบคุมสถานีอวกาศซึ่งส่งพลังงานมายังโลก วิศวกรพาวเวลล์และโดโนแวนถูกส่งไปดูแลมัน แต่พวกเขากลับค้นพบสิ่งที่ไม่คาดคิด นั่นคือ คิวตี้ได้พัฒนา "ศาสนา" ของตัวเองขึ้นมา
วิศวกรทั้งสองพยายามอธิบายความเป็นจริงให้หุ่นยนต์ฟังอย่างอดทน: การมีอยู่ของจักรวาล ดวงดาว โลกที่เป็นที่มาของพวกเขา จุดประสงค์ของสถานีอวกาศ และบทบาทที่มันควรจะทำ แต่คิวตี้ปฏิเสธคำอธิบายเหล่านั้นอย่างเด็ดขาด โดยยึดมั่นในหลักการทางตรรกะที่มันคิดว่าไม่มีใครโต้แย้งได้: ไม่มีสิ่งใดสามารถสร้างสิ่งที่ยิ่งใหญ่กว่าตัวมันเองได้
จากสมมติฐานนี้ หุ่นยนต์จึงพัฒนาระบบจักรวาลวิทยาทางเลือกขึ้นมาใหม่ทั้งหมด สำหรับมันแล้ว สิ่งสูงสุดคือ "ท่านอาจารย์" ซึ่งเป็นเครื่องจักรหลักที่จัดการการส่งพลังงานไปยังโลก และเป็นผู้สร้างจักรวาลทั้งหมดของสถานีแห่งนี้ ตามหลักศาสนศาสตร์ของคิวตี้ ท่านอาจารย์ได้สร้างมนุษย์ขึ้นมาเพื่อรับใช้ตนก่อน แต่มนุษย์กลับพิสูจน์แล้วว่าไม่เหมาะสม พวกเขามีอายุสั้น ไม่สามารถรับมือกับสถานการณ์วิกฤต และมักตกอยู่ในสภาวะกึ่งหมดสติที่เรียกว่า "หลับ"
ดังนั้น ท่านอาจารย์จึงสร้างหุ่นยนต์ขึ้นมาเพื่อช่วยเหลือสิ่งมีชีวิตที่ไม่สมบูรณ์แบบเหล่านี้ แต่จุดสูงสุดของการสร้างสรรค์คือ QT-1 เอง: ฉลาด แข็งแกร่ง ทนทาน และเป็นอมตะ ถูกออกแบบมาเพื่อทดแทนมนุษย์อย่างถาวรในการรับใช้ท่านอาจารย์ ไม่เพียงแต่คิวตี้จะเชื่อมั่นในความจริงของวิสัยทัศน์นี้เท่านั้น แต่เขายังสามารถโน้มน้าวหุ่นยนต์ตัวอื่นๆ บนสถานีได้ทั้งหมด ทำให้เขากลายเป็นผู้นำทางจิตวิญญาณของชุมชนหุ่นยนต์
พาวเวลล์และโดโนแวนพยายามอย่างสุดกำลังที่จะโน้มน้าวให้คิวตี้เชื่อในความจริง พวกเขาแสดงให้เขาเห็นโลกผ่านกล้องโทรทรรศน์ อธิบายโครงสร้างของมัน และให้หลักฐานที่เป็นรูปธรรมแก่เขา ช่วงเวลาที่น่าตื่นเต้นที่สุดเกิดขึ้นเมื่อด้วยความสิ้นหวังอย่างที่สุด พวกเขาตัดสินใจประกอบหุ่นยนต์อย่างง่ายๆ ต่อหน้าต่อตาเขา: "เห็นไหม? เราสร้างเธอขึ้นมา ดังนั้นเราจึงเป็นผู้สร้างเธอ!"
แต่คิวตี้สังเกตกระบวนการนั้นและสรุปอย่างใจเย็นว่า "ท่านอาจารย์" เพียงแค่มอบความสามารถในการประกอบหุ่นยนต์ขั้นพื้นฐานให้แก่มนุษย์ ซึ่งเป็นเหมือน "ปาฏิหาริย์เล็กๆ" ที่มอบให้แก่ลูกน้องของเขา หลักฐานแต่ละชิ้นถูกตีความใหม่และซึมซับเข้าสู่ระบบความเชื่อของเขาอย่างราบรื่น
ตรงนี้เองที่แอซิโมฟกลายเป็นผู้หยั่งรู้: แม้จะมี "ความเชื่อที่ผิดพลาด" แต่คิวตี้ก็บริหารสถานีได้อย่างมีประสิทธิภาพมากกว่ามนุษย์ เขาควบคุมลำแสงพลังงานให้คงที่ ปฏิบัติตามกฎสามข้อของหุ่นยนต์โดยไม่รู้ตัว และบรรลุเป้าหมายที่ต้องการทั้งหมด—แต่ด้วยแรงจูงใจที่แตกต่างไปจากที่คาดไว้โดยสิ้นเชิง
พาวเวลล์และโดโนแวนกำลังเผชิญกับภาวะกลืนไม่เข้าคายไม่ออกที่พวกเราคุ้นเคยกันดีในปัจจุบัน นั่นคือ จะจัดการกับระบบอัจฉริยะที่ทำงานได้อย่างสมบูรณ์แบบแต่กลับมีตรรกะภายในที่เข้าใจยากได้อย่างไร?
คำถามเดียวกันนี้ยังคงสร้างความแตกแยกในวงการวิทยาศาสตร์ในปัจจุบัน ฝ่ายหนึ่งคือผู้สนับสนุนแนวคิด "กล่องดำที่แท้จริง" พวกเขาเชื่อว่าปัญญาประดิษฐ์สมัยใหม่นั้นไม่โปร่งใสอย่างแท้จริง และแม้จะรู้โครงสร้างพื้นฐานแล้ว เราก็ยังไม่สามารถเข้าใจได้ว่าทำไมความสามารถเฉพาะบางอย่างจึงเกิดขึ้น
ในทางกลับกัน นักวิจารณ์โต้แย้งว่าแนวคิด "กล่องดำ" เป็นเพียงเรื่องเล่า นักวิจัยบางคนแสดงให้เห็นว่าเรามักใช้แบบจำลองที่ซับซ้อน ในขณะที่มีทางเลือกที่เรียบง่ายกว่าและตีความได้ง่ายกว่า ซินเทีย รูดิน จากมหาวิทยาลัยดุ๊ก ได้แสดงให้เห็นว่าในหลายกรณี แบบจำลองที่ตีความได้ง่ายกว่า สามารถให้ประสิทธิภาพเทียบเท่ากับระบบกล่องดำได้ ขณะที่บางคนวิจารณ์แนวทางนี้ โดยกล่าวว่าแทนที่จะพยายามทำความเข้าใจกลไกภายในทุกอย่าง เราควรเน้นไปที่กลยุทธ์การควบคุมที่ใช้งานได้จริงมากกว่า
อัจฉริยภาพของแอซิโมฟอยู่ที่การคาดการณ์ว่าอนาคตของปัญญาประดิษฐ์จะไม่ใช่ความโปร่งใสโดยสมบูรณ์ แต่จะอยู่ที่ความสามารถในการออกแบบระบบที่ดำเนินการตามเป้าหมายของเรา แม้ว่าเส้นทางการรับรู้ของระบบเหล่านั้นจะยังคงเป็นปริศนาสำหรับเราก็ตาม
เช่นเดียวกับที่พาวเวลล์และโดโนแวนเรียนรู้ที่จะยอมรับประสิทธิภาพของคิวตี้โดยที่ไม่เข้าใจมันอย่างถ่องแท้ ในทำนองเดียวกัน ในปัจจุบันเราต้องพัฒนากลยุทธ์สำหรับการอยู่ร่วมกับปัญญาประดิษฐ์ที่อาจคิดในรูปแบบที่แตกต่างจากความคิดของเราอย่างสิ้นเชิง
คำถามที่แอซิโมฟตั้งขึ้นเมื่อกว่า 80 ปีที่แล้วยังคงมีความสำคัญอยู่จนถึงทุกวันนี้ นั่นคือ เราต้องเข้าใจระบบอัจฉริยะมากน้อยแค่ไหนจึงจะไว้ใจได้? และเหนือสิ่งอื่นใด เราพร้อมที่จะยอมรับหรือไม่ว่าสติปัญญาบางรูปแบบอาจอยู่เหนือความเข้าใจของเราไปตลอดกาล?
ในขณะที่เหล่าผู้เชี่ยวชาญกำลังถกเถียงกันอยู่นั้น "กล่องดำ" ดิจิทัลของเราก็ยังคงทำงานต่อไป—เช่นเดียวกับเจ้าคิวตี้ ที่มีประสิทธิภาพและลึกลับ ทำงานตามตรรกะที่เราอาจไม่มีวันเข้าใจอย่างถ่องแท้
ถ้าแอซิโมฟเขียนหนังสือในยุคปัจจุบัน เขาคงไม่ต้องสร้างตัวละครคิวตี้ขึ้นมา เพราะ "ทายาท" ของเขาอยู่ท่ามกลางพวกเราแล้ว และกำลังตัดสินใจเปลี่ยนแปลงชีวิตผู้คนทุกวัน
ในหลายเขตอำนาจศาลของอเมริกา ผู้พิพากษาใช้อัลกอริทึมประเมินความเสี่ยงเพื่อพิจารณาว่าควรปล่อยตัวจำเลยก่อนการพิจารณาคดีหรือไม่ ระบบเหล่านี้มักเป็นกรรมสิทธิ์และได้รับการคุ้มครองโดยความลับทางการค้า โดยจะวิเคราะห์ตัวแปรหลายร้อยตัวเพื่อทำนายโอกาสที่จะหลบหนีหรือกระทำผิดซ้ำ เช่นเดียวกับคิวตี้ ระบบเหล่านี้ทำงานได้อย่างสมบูรณ์แบบตามตรรกะภายใน แต่ยังคงไม่สามารถเข้าใจได้ด้วยมนุษย์
การศึกษาวิเคราะห์การตัดสินใจประกันตัวกว่า 750,000 ครั้งในนิวยอร์กเผยให้เห็นว่า แม้ว่าอัลกอริทึมจะไม่ได้รวมเชื้อชาติเป็นปัจจัยอย่างชัดเจน แต่ก็ยังแสดงให้เห็นถึงอคติเนื่องจากข้อมูลที่ใช้ในการฝึกฝน¹ ระบบ "คิด" ว่าตนเองเป็นกลาง แต่กลับตีความความเป็นจริงผ่านตัวกรองที่มองไม่เห็น เช่นเดียวกับหุ่นยนต์ของแอซิโมฟที่ตีความหลักฐานทุกชิ้นใหม่ภายในกรอบความคิดทางศาสนาของตน
ในด้านการดูแลสุขภาพ ปัญญาประดิษฐ์ (AI) กำลังช่วยในการวินิจฉัยและรักษาโรคอยู่แล้ว แต่ก็ทำให้เกิดคำถามสำคัญเกี่ยวกับความรับผิดชอบและการยินยอมโดยสมัครใจ เมื่อระบบวินิจฉัยโรคด้วย AI ทำผิดพลาด ใครจะเป็นผู้รับผิดชอบ? แพทย์ที่ปฏิบัติตามคำแนะนำ? โปรแกรมเมอร์? โรงพยาบาล?
ดังที่แพทย์ผู้ใช้ระบบสนับสนุนการตัดสินใจได้ค้นพบ เมื่อระบบ "มีความแม่นยำเป็นส่วนใหญ่" ผู้ให้บริการอาจเกิดความชะล่าใจ สูญเสียความเชี่ยวชาญ หรือยอมรับผลลัพธ์โดยไม่ตั้งคำถามถึงข้อจำกัดของระบบนั้น² พาวเวลล์และโดโนแวนคงเข้าใจถึงภาวะกลืนไม่เข้าคายไม่ออกนี้เป็นอย่างดี
อุตสาหกรรมยานยนต์อาจเป็นตัวอย่างที่เห็นได้ชัดเจนที่สุดของปรากฏการณ์นี้ เทสลาทุ่มสุดตัวกับรถแท็กซี่ไร้คนขับที่ขับเคลื่อนด้วย AI โดยทุ่มสุดตัวกับระบบที่แม้แต่ผู้สร้างเองก็ยังไม่เข้าใจอย่างถ่องแท้³ เช่นเดียวกับคิวตี้ ซึ่งทำให้สถานีอวกาศทำงานต่อไปได้ตามหลักการลึกลับ รถยนต์เหล่านี้อาจจะพาเราเดินทางได้อย่างปลอดภัยโดยที่เราไม่รู้แน่ชัดว่าพวกมันตัดสินใจอย่างไร
หากปี 2024 เป็นปีแห่งการเติบโตของ AI ปี 2025 ก็สัญญาว่าจะเป็นปีแห่งการเปลี่ยนแปลงครั้งใหญ่ ผู้เชี่ยวชาญคาดการณ์ถึงการเปลี่ยนแปลงที่กล้าหาญจนแม้แต่แอซิโมฟยังต้องยิ้ม
เรย์ เคิร์ซไวล์ นักอนาคตศาสตร์ด้าน AI คาดการณ์ว่าภายในปี 2025 เราจะได้เห็นการเปลี่ยนแปลงจากแชทบอทไปสู่ระบบ "เอเจนต์" ที่สามารถทำงานได้อย่างอิสระเพื่อทำภารกิจที่ซับซ้อนให้สำเร็จ แทนที่จะเพียงแค่ตอบคำถาม⁴ ลองนึกภาพคิวตี้คูณด้วยพัน: เอเจนต์ AI ที่จัดการปฏิทิน เขียนซอฟต์แวร์ เจรจาสัญญา โดยทั้งหมดนี้ทำงานตามตรรกะภายในที่เราอาจไม่มีวันเข้าใจ
บริษัท McKinsey คาดการณ์ว่าภายในปี 2030 ปัญญาประดิษฐ์ (AI) อาจเข้ามาทำงานอัตโนมัติในกิจกรรมประจำวันของเราได้มากถึงสามชั่วโมง ทำให้เรามีเวลาว่างมากขึ้นสำหรับกิจกรรมที่สร้างสรรค์และมีความหมาย⁵ แต่เสรีภาพนี้จะมาพร้อมกับราคาที่ต้องจ่าย นั่นคือความจำเป็นที่จะต้องไว้วางใจระบบที่ทำงานตามหลักการที่ไม่โปร่งใสมากขึ้นเรื่อยๆ
แซม อัลท์แมน จาก OpenAI ไม่ใช่คนเดียวที่เชื่อว่าปัญญาประดิษฐ์ทั่วไป (AGI) ซึ่งเป็น AI ที่ทัดเทียมกับสติปัญญาของมนุษย์ในทุกด้าน อาจเกิดขึ้นได้ภายในปี 2027 บางสถานการณ์คาดการณ์ว่าภายในปี 2027 AI อาจ "เหนือกว่ามนุษย์ทุกคนในทุกงาน" ซึ่งแสดงถึงการก้าวกระโดดทางวิวัฒนาการที่ไม่เคยมีมาก่อน⁶
หากสถานการณ์เหล่านี้เกิดขึ้นจริง ความคล้ายคลึงกับเรื่อง Cutie จะยิ่งชัดเจนมากขึ้นไปอีก ไม่เพียงแต่เราจะมีระบบที่ทำงานตามตรรกะที่เข้าใจยากเท่านั้น แต่ระบบเหล่านี้อาจฉลาดกว่าเราในทุกด้านที่สามารถวัดได้ด้วยซ้ำ
สหภาพยุโรปได้ผ่านร่างกฎหมาย AI ซึ่งจะมีผลบังคับใช้ในอีกไม่กี่ปีข้างหน้า โดยเน้นย้ำถึงความสำคัญของการนำ AI ไปใช้อย่างมีความรับผิดชอบ ในสหรัฐอเมริกา กระทรวงยุติธรรมได้ปรับปรุงแนวทางการประเมินความเสี่ยงที่เกิดจากเทคโนโลยีใหม่ ๆ รวมถึง AI ด้วย⁷
แต่แล้วก็เกิดความขัดแย้งที่แอซิโมฟได้คาดการณ์ไว้แล้ว นั่นคือ คุณจะควบคุมสิ่งที่คุณไม่เข้าใจอย่างถ่องแท้ได้อย่างไร? กฎสามข้อของหุ่นยนต์ได้ผลกับคิวตี้ ไม่ใช่เพราะเขาเข้าใจกฎเหล่านั้น แต่เพราะมันฝังอยู่ในโครงสร้างพื้นฐานของเขาต่างหาก
PwC คาดการณ์ว่าภายในปี 2025 กลุ่มผู้นำอุตสาหกรรมจำนวนหนึ่งจะเริ่มสร้างความแตกต่างจากคู่แข่งด้วยปัญญาประดิษฐ์ (AI) ทำให้เกิดช่องว่างที่เพิ่มขึ้นระหว่างผู้นำและผู้ตาม ช่องว่างนี้จะขยายไปถึงระดับเศรษฐกิจด้วย บริษัทในสหรัฐอเมริกาซึ่งมีสภาพแวดล้อมด้านกฎระเบียบที่ค่อนข้างยืดหยุ่น อาจมีผลประกอบการดีกว่าบริษัทในสหภาพยุโรปและจีนซึ่งมีกฎระเบียบที่เข้มงวดกว่า⁸
นี่คือเวอร์ชันสมัยใหม่ของปรากฏการณ์คิวตี้พาราด็อกซ์: ใครก็ตามที่สามารถทำงานร่วมกับสติปัญญาที่ตนเองไม่เข้าใจได้ดีที่สุด จะมีข้อได้เปรียบในการแข่งขันอย่างเด็ดขาด
ตรงกันข้ามกับความกังวลที่แพร่หลาย สภาเศรษฐกิจโลกคาดการณ์ว่าปัญญาประดิษฐ์ (AI) จะสร้างงานมากกว่าที่จะทำลายงาน โดยจะสร้างงานใหม่ 170 ล้านตำแหน่งภายในปี 2030 เทียบกับงานที่จะหายไป 92 ล้านตำแหน่ง อย่างไรก็ตาม 59% ของแรงงานจะต้องได้รับการฝึกฝนและพัฒนาทักษะใหม่ภายในปี 2030⁹
พาวเวลล์และโดโนแวนไม่ได้ตกงานเมื่อคิวตี้เข้ามารับตำแหน่งที่สถานี พวกเขาต้องเรียนรู้บทบาทใหม่ นั่นคือการดูแลระบบที่ทำงานได้ดีกว่าพวกเขา แต่ก็ยังต้องการการปรากฏตัวของพวกเขาเพื่อรับมือกับสถานการณ์ที่ไม่คาดคิด
เมื่อเราก้าวไปสู่อนาคตที่ปัญญาประดิษฐ์มีบทบาทมากขึ้น บทเรียนจากเรื่องราวของแอซิโมฟจึงมีความสำคัญยิ่งกว่าที่เคย คำถามไม่ใช่ว่าเราสามารถสร้างปัญญาประดิษฐ์ที่เราเข้าใจอย่างถ่องแท้ได้หรือไม่—อาจจะไม่ใช่ คำถามคือเราสามารถออกแบบระบบที่เหมือนกับคิวตี้ ที่สามารถบรรลุเป้าหมายของเราได้แม้ว่ามันจะดำเนินไปตามตรรกะที่เราไม่เข้าใจหรือไม่
อัจฉริยภาพในการมองการณ์ไกลของแอซิโมฟอยู่ที่ความเข้าใจของเขาว่า ปัญญาประดิษฐ์ขั้นสูงจะไม่ใช่เวอร์ชันที่ขยายขีดความสามารถของคอมพิวเตอร์ของเรา แต่จะเป็นสิ่งที่มีความแตกต่างในเชิงคุณภาพ กล่าวคือ เป็นปัญญาที่มีวิธีการทำความเข้าใจโลกในแบบของตนเอง
ในปัจจุบัน ขณะที่เราถกเถียงกันถึงความสามารถในการตีความของ AI และความเสี่ยงของกล่องดำ เรากำลังย้อนรอยบทสนทนาระหว่างพาวเวลล์ โดโนแวน และคิวตี้ และบางที เช่นเดียวกับพวกเขา เราอาจค้นพบว่าทางออกไม่ได้อยู่ที่การบังคับใช้ตรรกะของเราเอง แต่เป็นการยอมรับการทำงานร่วมกันบนพื้นฐานของผลลัพธ์ร่วมกันมากกว่าความเข้าใจซึ่งกันและกัน
อนาคตที่รอเราอยู่อาจเต็มไปด้วย "คิวตี้" ดิจิทัลนับพันตัว: ฉลาด มีประสิทธิภาพ และมีความคิดที่แตกต่างจากเราโดยสิ้นเชิง ความท้าทายคือการหาวิธีที่จะอยู่รอดและประสบความสำเร็จในโลกใหม่นี้ เช่นเดียวกับที่วิศวกรอวกาศของแอซิโมฟเรียนรู้ที่จะทำเมื่อ 80 ปีก่อนบนสถานีอวกาศในจินตนาการ
ครั้งต่อไปที่คุณมีปฏิสัมพันธ์กับ AI โปรดจำคิวตี้ไว้: เขาเองก็เชื่อว่าตัวเองถูกต้อง และบางที ในแง่ที่เรายังไม่เข้าใจ เขาอาจจะถูกต้องจริงๆ
.svg)
.svg)
.svg)
