หัวหน้านักวิจัยจาก ‘Anthropic’ หนึ่งในบริษัทปัญญาประดิษฐ์ชั้นนำของโลก ออกมากล่าวว่า เขามีความเชื่อมั่นว่ามีโอกาสมากกว่า 10% ที่ AI จะสามารถ ‘ฆ่าล้างเผ่าพันธุ์มนุษย์ทุกคนได้’ ภายในช่วงทศวรรษหน้า
“พวกเราเชื่อมั่นอย่างแท้จริงว่า AI สามารถฆ่ามนุษย์ทุกคนได้! โดยส่วนตัวแล้ว ผมคิดว่ามีความเป็นไปได้มากกว่า 10% ที่ AI อาจทำให้มนุษย์สูญพันธุ์ภายใน 10 ปีข้างหน้า...Anthropic กำลังพยายามอย่างสุดความสามารถแล้ว แต่พวกเรายังคงไม่มีแผนการที่จะควบคุมความปลอดภัยสำหรับระบบปัญญาประดิษฐ์ระดับเหนือมนุษย์ (Superintelligence)”
— เอแวน ฮูบิงเกอร์ ผู้นำด้านการจัดระเบียบวิทยาศาสตร์ของบริษัท โพสต์ข้อความบน X
ทั้งนี้ ปัญญาประดิษฐ์ระดับเหนือมนุษย์ก็คือ ระบบ AI ในอนาคตที่มีความฉลาดล้ำเลิศ ยิ่งกว่ามนุษย์ที่อัจฉริยะที่สุดในโลก ซึ่งปัจจุบันแนวคิดนี้ยังเป็นเพียงแค่ทฤษฎีและยังสร้างไม่สำเร็จ
คำเตือนของฮูบิงเกอร์เกิดขึ้นทันทีหลังจาก เจคอบ ค็อกซอน นักวิจัยอีกคนที่เคยทำงานให้ทั้ง OpenAI และ Anthropic ประกาศลาออก พร้อมออกมาแฉว่า “ทั้งสองบริษัทกำลังแข่งขันกันพัฒนา AI อย่างไร้ความรับผิดชอบ และกำลังเอาชีวิตมนุษย์ไปเสี่ยงเดิมพัน”
“ผมลาออกจาก Anthropic แล้วในวันนี้...ตลอด 3 ปีที่ผ่านมา ผมทำวิจัยด้านการฝึกสอนโมเดลล่วงหน้า (Pretraining Research) ให้กับทั้ง OpenAI และ Anthropic ซึ่งผมเห็นว่า ทั้งสองบริษัทไม่ได้ดำเนินงานอย่างมีความรับผิดชอบเลย พวกเขากำลังแข่งขันกันอย่างสุดตัวเพื่อสร้างระบบ AI อัจฉริยะเหนือมนุษย์ที่พัฒนาตัวเองได้ และนั่นคือการเอาชีวิตของพวกเราไปเสี่ยงเดิมพัน”
— ค็อกซอน โพสต์ข้อความบน X
ค็อกซอน กล่าวเสริมว่า “ที่ OpenAI หลายคนยังไม่ได้ตระหนักถึงความเสี่ยงที่อาจทำลายอารยธรรมมนุษย์อย่างลึกซึ้งพอ ส่วนที่ Anthropic ทุกคนเข้าใจความเสี่ยงนี้เป็นอย่างดี แต่พวกเขากลับติดกับดักในสมรภูมิการแข่งขันเพื่อที่จะไปถึงจุดนั้นให้ได้เป็นรายแรก เพราะพวกเขาเชื่อว่าคงไม่มีใครอื่นที่จะยอมทำอย่างมีความรับผิดชอบ พวกเขาจึงต้องลงมือทำมันด้วยตัวเอง แม้ว่าจะต้องเผชิญกับความเสี่ยงก็ตาม”
เมื่อสัปดาห์ที่ผ่านมา Anthropic เปิดเผยผ่านบล็อกของบริษัทว่า “ทางบริษัทไม่ได้ส่งมอบ ‘Claude Mythos 5.1’ ซึ่งเป็นโมเดล AI รุ่นล่าสุด ให้แก่หน่วยงานทดสอบความปลอดภัยนอกสหรัฐฯ” ส่งผลให้สถาบันความปลอดภัย AI ของสหราชอาณาจักร (AISI) ซึ่งได้รับการยกย่องว่าเป็นผู้นำระดับโลกด้านการตรวจสอบความเสี่ยงของปัญญาประดิษฐ์ระดับแนวหน้า ถูกจำกัดสิทธิ์ในการเข้าถึงและร่วมทดสอบโมเดลดังกล่าวเป็นครั้งแรก
อย่างไรก็ตาม โฆษกสำนักงานคณะรัฐมนตรีของรัฐบาลอังกฤษก็ออกมาเคลื่อนไหวโดยพยายามลดความตึงเครียด เมื่อวันพุธ (9 ก.ย.) ที่ผ่านมาว่า “สถาบันความปลอดภัย AI ยังคงร่วมมืออย่างใกล้ชิดกับพันธมิตรในอุตสาหกรรม ซึ่งรวมถึง Anthropic เพื่อทำให้โมเดลต่าง ๆ มีความปลอดภัยมากขึ้น” พร้อมระบุว่า “รัฐบาลเพิ่งได้ทดสอบ ‘GPT-6 Astra’ ซึ่งเป็นโมเดลที่ทรงพลังที่สุดของ OpenAI ไปเมื่อสัปดาห์ก่อนหน้าที่จะมีการเปิดตัวสู่สาธารณะ”
“ความเสี่ยงเหล่านี้ไม่ได้จำกัดอยู่แค่ภายในพรมแดนของประเทศใดประเทศหนึ่ง และไม่มีประเทศใดที่สามารถรับมือกับมันได้โดยลำพัง สหราชอาณาจักรจะยังคงเดินหน้าทดสอบโมเดล AI ที่ล้ำสมัยที่สุดต่อไป เพื่อสร้างความเข้าใจทางวิทยาศาสตร์ที่เข้มงวดเกี่ยวกับความสามารถและความเสี่ยงของระบบเหล่านี้ การตัดสินใจเชิงนโยบายจะตั้งอยู่บนพื้นฐานของหลักฐานที่ชัดเจน”
— โฆษกสำนักงานคณะรัฐมนตรีของรัฐบาลอังกฤษ กล่าว
บรรดาบุคคลสำคัญในวงการ AI ต่างออกมาเตือนเกี่ยวกับภัยคุกคามด้านความปลอดภัยของเทคโนโลยีนี้มานานหลายปีแล้ว ซึ่งรวมถึงผู้บริหารของ OpenAI, Google DeepMind และ Anthropic ที่เคยออกมากล่าวเตือนในลักษณะเดียวกันนี้ตั้งแต่ปี 2023
ทว่า คำเตือนเหล่านั้นกลับเริ่มทวีความรุนแรงและน่ากลัวยิ่งขึ้นในช่วงไม่กี่สัปดาห์ที่ผ่านมา เนื่องจากเริ่มมีหลักฐานปรากฏชัดขึ้นว่า “บริษัทเทคโนโลยีต่าง ๆ อาจกำลังเผชิญความยากลำบากในการควบคุมระบบ AI”
โดยเมื่อต้นเดือนที่ผ่านมา ยาคุบ ปาโชกิ หัวหน้านักวิทยาศาสตร์ของ OpenAI ได้ออกมาเรียกร้องให้ทุกฝ่ายใช้ ‘ความระมัดระวังอย่างถึงที่สุด’ ต่อความก้าวหน้าของ AI พร้อมเตือนว่า “อาจจำเป็นต้องมีการเข้าแทรกแซงที่มากขึ้น เพื่อรับประกันว่า ‘มนุษย์จะยังคงเป็นผู้ควบคุมอนาคตต่อไปได้’”
ในช่วงไม่กี่เดือนที่ผ่านมา บุคคลสำคัญในวงการ AI รวมถึง ดาริโอ อาโมเดอี และ จาเร็ด แคปแลน ผู้บริหารระดับสูงของ Anthropic ได้ออกมาเรียกร้องให้ชะลอความเร็วในการพัฒนาปัญญาประดิษฐ์ลง
นอกจากนี้ ยังมีการออกจดหมายเปิดผนึกที่รวบรวมรายชื่อพนักงานจากบริษัท AI ต่าง ๆ กว่า 1,300 คน เพื่อเรียกร้องให้รัฐบาลสหรัฐฯ สนับสนุนความร่วมมือระดับนานาชาติในการคิดค้นเครื่องมือทางเทคนิคและกฎเกณฑ์ควบคุม เพื่อจัดระเบียบและกำหนดจังหวะก้าวหน้าของ AI อัตโนมัติระดับแนวหน้าอย่างรัดกุมและปลอดภัย
(Photo by Shutterstock / RixAiArt)
