โลกเราทุกวันนี้ก้าวหน้าไปมากโดยเฉพาะ ‘เทคโนโลยี’ ที่พัฒนาขึ้นมาเพื่ออำนวยความสะดวกสบาย ความรวดเร็ว ทั้งในการทำงาน ตลอดจนในชีวิตประจำวันจนสร้างความเคยชินให้เรา และแน่นอนว่าเทคโนโลยีปัญญาประดิษฐ์ ‘AI’ เข้ามามีอิทธิพลอย่างมาก กำเนิดหุ่นยนต์ทำนู่นทำนี่ตรวจสุขภาพ ทำงานบ้านให้เรา เป็นเพื่อนกับหมาได้ด้วย แต่เคยคิดไหมว่าความล้ำหน้าของมัน (อาจ) กลายเป็นภัยคุกคามที่ย้อนกลับมาทำร้ายเราหรือรุนแรงที่สุดถึงขึ้นทำลายล้างมนุษยชาติเลยก็ว่าได้
แม้ในปัจจุบัน ‘AI’ ยังคงเป็นสิ่งที่เราควบคุมได้อยู่ แต่ใครจะไปรู้ล่ะว่าวันหนึ่งมัน (อาจ) จะอยู่เหนือการควบคุมของเราก็ได้ หากเป็นเช่นนั้นมันจะทำให้โลกน่ากลัวมากขึ้นกว่าการเจอมนุษย์ต่างดาวบนโลกเสียอีกนะ!!! ลองคิดดูสิว่าในตอนนี้มันยังแย่งงานเราไปตั้ง 300 ล้านตำแหน่งได้ แถมยังถูกนำไปพัฒนาทำเป็นอาวุธสงครามอีกด้วย
“ขณะนี้ความเสี่ยงที่เป็นหายนะจาก AI ทั้งหมดถูกประเมินต่ำเกินไป”
— เบน ไอเซนเพรส ผู้อำนวยการฝ่ายปฏิบัติการขององค์กร ‘Future of Life Institute’ เตือน
และนี่คือ 5 ภัยคุกคามจาก ‘AI’ ที่ผู้เชี่ยวชาญบอกว่า (อาจ) เกิดขึ้นจนนำไปสู่การสิ้นสุดของ ‘มนุษยชาติ’!
1\. อาจเกิด ‘หุ่นยนต์อันธพาล AI’ ขึ้นมา!
ความกังวลอย่างหนึ่งในการสร้าง ‘AI’ ที่ทรงพลังก็คือ ‘การสร้างมันจนอาจทำให้มนุษยชาติสูญเสียความสามารถในการควบคุมมัน ซึ่งนำไปสู่ผลลัพธ์ที่ไม่ได้ตั้งใจ’
“หุ่นยนต์อันธพาล (Rogue AI) ที่หนีการควบคุมของมนุษย์และก่อให้เกิดอันตรายในวงกว้างถือเป็นความเสี่ยงที่แท้จริง เราต้องดูว่า AI จะไปในทิศทางไหน ไม่ใช่แค่ในปัจจุบันเท่านั้น ไม่กี่ปีที่ผ่านมา เราได้เห็นความก้าวหน้าอันน่าประหลาดใจ ขณะที่ผู้เชี่ยวชาญก็คาดการณ์ว่าจะมีมากขึ้นในอนาคต…ในความเป็นจริงมันตรงข้ามกับนิยายวิทยาศาสตร์ เพราะ AI ไม่จำเป็นต้องมีจิตสำนึกหรือมีสติ…” ไอเซนเพรสกล่าว
ในการทดลองทางความคิด (thought experiment) แบบคลาสสิกครั้งหนึ่งซึ่งคิดค้นโดย ‘นิค บอสตรอม’ นักปรัชญา “เราจินตนาการถึงการขอให้ AI อัจฉริยะขั้นสูงสร้างคลิปหนีบกระดาษให้ได้มากที่สุด…AI อาจให้เหตุผลง่ายๆ ว่ามันสามารถสร้างคลิปหนีบกระดาษได้มากกว่านี้หากไม่มีใครปิดสวิตช์มัน”
“วิธีที่ดีที่สุดในการหลีกเลี่ยงก็คือ ‘กำจัดมนุษยชาติและเปลี่ยนเราให้กลายเป็นคลิปหนีบกระดาษแทน…แต่สถานการณ์ไม่จำเป็นต้องสุดโต่งขนาดนี้ถึงจะเป็นอันตราย ประเด็นก็คือ AI ออกจากการควบคุมอย่างรวดเร็วแม้ว่าจะได้รับคำสั่งง่ายๆ ก็ตาม”
ดังที่ไอเซนเพรสอธิบายว่า “เป้าหมายปลายเปิดจะผลักดันให้ AI แสวงหาอำนาจ เพราะพลังที่มากขึ้นจะช่วยให้บรรลุเป้าหมายได้”
2\. บานปลายกลายเป็น ‘อาวุธชีวภาพ’
ในตอนนี้ AI อาจจะไม่ใช่อันตรายที่ใหญ่ที่สุดจริงๆ ทว่าปัญหาที่ใหญ่กว่านั้นคือ ‘สิ่งที่มนุษย์สามารถสร้างขึ้นด้วย AI’ ต่างหาก
“ในระยะสั้น การก่อการร้ายทางชีวภาพที่ใช้ ‘AI’ อาจเป็นหนึ่งในภัยคุกคามร้ายแรงที่สุดจากการพัฒนา ‘AI’ ที่ไม่ได้รับการควบคุม”
— ไอเซนเพรสกล่าว
เมื่อเร็วๆ นี้ นายกฯ อังกฤษ ‘ริชี ซูนัค’ เองก็ได้ส่งสัญญาณเตือนเกี่ยวกับอาวุธชีวภาพที่พัฒนาขึ้นจาก AI ในที่ประชุมสุดยอดด้านความปลอดภัยของ AI ณ เบลตช์ลีย์ พาร์ก
ในทำนองเดียวกันนี้ ดาริโอ อโมเด ผู้ก่อตั้งบริษัทสตาร์ทอัพ ‘AI Anthropic’ คู่แข่ง ‘OpenAI’ ก็เตือนรัฐสภาสหรัฐฯ ว่า “AI สามารถช่วยอาชญากรสร้างอาวุธชีวภาพได้ภายใน 2-3 ปี”
ขณะที่นักวิจัยพบว่าเครื่องมือที่ถูกออกแบบมาเพื่อการค้นพบยาที่เป็นประโยชน์นั้นสามารถแปลงเพื่อค้นหาสารพิษทางชีวเคมีใหม่ได้อย่างง่ายดาย โดยภายในเวลาไม่ถึง 6 ชั่วโมงก็พบว่า AI สามารถคาดการณ์โมเลกุลพิษใหม่มากกว่า 40,000 โมเลกุล ซึ่งอันตรายมากกว่าอาวุธเคมีที่มีอยู่มากมาย
ไอเซนเพรสบอกว่า ‘ข้อกังวลของเขาคือ ‘ผู้ไม่ประสงค์ดี’ เช่น กลุ่มก่อการร้าย จะสามารถนำเครื่องมือเหล่านี้ไปใช้ใหม่เพื่อปลดปล่อยโรคระบาดร้ายแรงหรือการโจมตีทางเคมี “AI มีความสามารถในการออกแบบโมเลกุลที่เป็นพิษและสร้างมัลแวร์ขั้นสูงอยู่แล้ว และยังสามารถช่วยวางแผนการโจมตีทางชีวภาพได้อีกด้วย…โมเดลขั้นสูงยิ่งขึ้นจะมีพลังมากยิ่งขึ้น ดังนั้นจึงมีอันตรายมากยิ่งขึ้นหากมันไปอยู่ในมือของกลุ่มคนอันตราย” เขากล่าว
ครั้งหนึ่งในปี 1995 ลัทธิวันโลกาวินาศ (doomsday cult) หรือที่เรียกว่า ‘โอมชินริเกียว’ (Aum Shinrikyo) ได้ปล่อยก๊าซซารินพิษร้ายแรงลงบนรถไฟใต้ดินในโตเกียวโดยมีเป้าหมายที่จะนำไปสู่การสิ้นสุดของโลก เป็นเหตุให้มีผู้เสียชีวิต 13 รายและบาดเจ็บเกือบ 6,000 ราย
ในปัจจุบัน ด้วยความที่เครื่องมือ AI นั้นมีความสามารถในการค้นพบและผลิตอาวุธที่อันตรายยิ่งกว่านั้นได้ จึงเกิดความกลัวที่ว่ากลุ่มลัทธิที่อุดมการณ์เหมือน ‘โอมชินริเกียว’ อาจปล่อยสิ่งที่อันตรายยิ่งกว่านั้นออกมา
ในขณะที่นักวิจัย AI จำนวนมากก็กำลังผลักดันให้โมเดลของตัวเองเป็น ‘open source’ (ซอฟต์แวร์ที่เผยแพร่โดยใช้ใบอนุญาตที่ผู้ถือครองลิขสิทธ์อนุญาตให้ผู้ใช้มีสิทธิในการใช้ ศึกษา แก้ไข และแจกจ่าย) แต่ไอเซนเพรสเตือนว่า ‘จำเป็นต้องมีความระมัดระวังอย่างมาก’
ในด้านหนึ่ง การสร้างโมเดลสำหรับทุกคนอาจเพิ่มผลเชิงบวกของ AI เช่น การค้นพบยาใหม่ๆ หรือการเพิ่มประสิทธิภาพระบบการเกษตรเพื่อต่อสู้กับความอดอยาก แต่ในทางกลับกัน โมเดลเหล่านี้ก็ยังสามารถนำมาใช้สร้างอาวุธที่อันตรายยิ่งกว่าสิ่งใดๆ ที่มนุษยชาติเคยเผชิญมา
3\. ระบบ ‘ไวรัสตัวร้าย’ รั่วไหลทั่วโลก!
ในปี 2017 ระบบคอมพิวเตอร์ทั่วโลกประสบปัญหาที่ไม่สามารถอธิบายได้ หรือแม้แต่เหตุท่าเรือตู้คอนเทนเนอร์ที่ใหญ่ที่สุดของอินเดียต้องหยุดนิ่ง ไปตลอดจนระบบตรวจสอบรังสีที่โรงไฟฟ้านิวเคลียร์เชอร์โนบิลปิดทำงาน ขณะที่ธนาคาร บริษัทยา และโรงพยาบาลก็สูญเสียการควบคุมระบบอย่างกะทันหัน
ในเวลาต่อมาก็พบว่า ผู้ร้ายก็คือ ‘ไวรัสคอมพิวเตอร์น็อตเพทยา’ (NotPetya) ซึ่งเป็นอาวุธไซเบอร์ที่น่าจะถูกสร้างขึ้นโดยกองทัพรัสเซียเพื่อโจมตียูเครน ซึ่งในเวลานั้นทำให้ระบบคอมพิวเตอร์หยุดทำงาน และรบกวนการขนส่งสินค้าราว 60 ประเทศ ทว่าเมื่อไวรัสมันรั่วไหลออกมา มันก็แพร่กระจายไปไกลกว่าที่ผู้สร้างคาดการณ์ไว้ ทำให้เกิดความเสียหายประมาณ 1 หมื่นล้านดอลลาร์สหรัฐ (ราว 3.59 แสนล้านบาท)
กระทรวงการต่างประเทศสหรัฐฯ เตือนว่า “เราได้สังเกตเห็นชาวเกาหลีเหนือ รัฐชาติอื่นๆ และอาชญากรพยายามใช้โมเดล AI เพื่อช่วยเร่งการเขียนซอฟต์แวร์ที่เป็นอันตรายและค้นหาระบบที่จะแสวงหาประโยชน์”
เมื่อปีที่แล้ว นักวิจัยจากศูนย์ความปลอดภัย AI เขียนว่า “การปล่อย AI ที่ทรงพลังและปล่อยให้พวกมันดำเนินการโดยอิสระจากมนุษย์อาจนำไปสู่หายนะได้”
4\. สงครามนิวเคลียร์จาก ‘AI’
บางทีสงครามโลกครั้งที่ 3 อาจจะมาในรูปแบบ ‘อาวุธ AI’ หรือ ‘หุ่นยนต์สู้กัน’ ก็ได้ ซึ่งในความเป็นจริงแล้ว มันอันตรายมากนะ เพราะหากเราพัฒนาป้อนคำสั่งให้มันทำร้ายกันได้ แล้วในภายหน้าหากเป้าหมายของมันคือ ‘เรา’ ล่ะ มันจะกลายเป็นสงครามระหว่าง ‘มนุษย์’ กับ ‘หุ่นยนต์’ หรอ?
ความกลัวที่น่าหนักใจที่สุดประการหนึ่งของ ‘AI’ ก็คือ ‘ระบบที่เราสร้างขึ้นเพื่อปกป้องตัวเราเองนั้นอาจกลายเป็น ‘ความหายนะของเรา’ ’
สนามรบในสงครามสมัยใหม่กำลังกลายเป็นเครือข่ายเซ็นเซอร์ขนาดมหึมา และการโจมตีทำลายล้างสามารถเกิดขึ้นได้เร็วกว่าที่เคย ด้วยเหตุนี้ กองทัพทั่วโลกจึงเริ่มพิจารณานำ AI ไปใช้ในระบบการตัดสินใจของตัวเอง ขณะที่ฝ่ายแผนกลยุทธ์ปัญญาประดิษฐ์ด้านกลาโหมปี 2022 ของกระทรวงกลาโหมอังกฤษเตือนว่า “การดำเนินการนี้อาจ ‘จำกัดขอบเขตความเข้าใจของมนุษย์’ และมักต้องการการตอบสนองที่ความเร็วของเครื่องจักร”
แต่ไอเซนเพรสกล่าวว่า
“การรวม AI เข้ากับระบบทางทหารสามารถนำไปสู่อันตรายที่มากยิ่งขึ้น โดยเฉพาะอย่างยิ่งในกรณีของอาวุธนิวเคลียร์…ระบบ AI ในปัจจุบันนั้นไม่น่าเชื่อถือโดยธรรมชาติ มันมีความสามารถในการตัดสินใจแบบที่อธิบายไม่ได้…การบูรณาการ AI เข้ากับระบบสั่งการและควบคุมนิวเคลียร์กำลังทำให้เกิดความไม่มั่นคง”
ความกังวลอีกประการหนึ่งก็คือ ‘การตัดสินใจอย่างรวดเร็วของ AI อาจนำไปสู่ข้อผิดพลาดเล็กๆ น้อยๆ เช่น การระบุเครื่องบินผิดพลาด จนอาจลุกลามไปสู่สงครามเต็มรูปแบบอย่างรวดเร็ว’ เมื่อ AI ทำข้อผิดพลาดเบื้องต้น AI จากประเทศต่างๆ จะสามารถโต้ตอบกันได้ ‘เร็วกว่า’ ที่มนุษย์คนใดจะสามารถควบคุมได้ ซึ่งนำไปสู่ ‘สงครามโดยอัตโนมัติ’
5\. เข้ามามีบทบาทในชีวิตประจำวันทีละเล็กทีละน้อย…
นอกจากภัยคุกคามที่อาจนำไปสู่สงครามนิวเคลียร์แล้ว ไอเซนเพรสยังบอกอีกว่ามีอีกวิธีหนึ่งที่อาจทำให้เราสะดุดล้มจนนำไปสู่การสิ้นสุดของมนุษยชาติได้ และเรารู้ดีว่ามันจะเกิดจากการยึดครองอย่างค่อยเป็นค่อยไปและเงียบงัน ตั้งแต่ธุรกรรมทางการเงินไปจนถึงการดำเนินคดี อีกทั้งงานหลายล้านตำแหน่งก็ถูก AI แย่งทำไปเสียเกือบหมด
ไอเซนเพรสกล่าวว่า
“เมื่อเวลาผ่านไป AI จะถูกบูรณาการเข้ากับระบบต่างๆ มากขึ้นเรื่อยๆ รวมถึงระบบที่มีความสำคัญต่อวิถีชีวิตของเราด้วย…บริษัทหรือพรรคการเมืองที่ปฏิเสธที่จะควบคุม AI จะแพ้ให้กับผู้ที่ทำเช่นนั้น ทำให้เกิดการแข่งขันไปสู่จุดต่ำสุดทีละเล็กทีละน้อย ในท้ายที่สุด มนุษย์ก็จะมีอำนาจควบคุมโลกน้อยลง…”
