จดหมายเรียกร้องให้หยุดการวิจัยปัญญาประดิษฐ์ (AI) ชั่วคราว ที่ร่วมลงนามโดย อีลอน มัสก์ และอีกหลายพันคน ก่อให้เกิดเสียงวิพากษ์วิจารณ์ หลังจากนักวิจัยหลายคนที่ถูกอ้างชื่อในจดหมายดังกล่าวประนามการนำผลงานของพวกเขาไปใช้ บางคนบอกว่าบางลายเซ็นเป็นของปลอม ขณะที่บางคนขอเปลี่ยนใจไม่สนับสนุนแล้ว
เมื่อวันที่ 22 มีนาคมที่ผ่านมา มีผู้ลงนามมากกว่า 1,800 ราย ซึ่งรวมถึงมัสก์ นักวิทยาศาสตร์พุฒิปัญญาอย่าง แกรี มาร์คัส และ สตีฟ วอซเนียก ผู้ร่วมก่อตั้ง Apple ได้เรียกร้องให้หยุดการพัฒนาระบบชั่วคราวเป็นเวลา 6 เดือนเพื่อประสิทธิภาพที่มากกว่า GPT-4 นอกจากนี้ วิศวกรจาก Amazon, DeepMind, Google, Meta และ Microsoft ก็ให้การสนับสนุนเช่นเดียวกัน
GPT-4 พัฒนาโดย OpenAI ซึ่งเป็นบริษัทที่ร่วมก่อตั้งโดยมัสก์และปัจจุบันสนับสนุนโดย Microsoft ที่พัฒนาความสามารถในการสนทนาแบบมนุษย์ แต่งเพลง และสรุปเอกสารที่มีความยาว โดยจดหมายดังกล่าวอ้างว่า “ระบบ AI ดังกล่าวที่มีความฉลาดในระดับที่เทียบเท่ากับมนุษย์อาจก่อให้เกิดความเสี่ยงอย่างร้ายแรงต่อมนุษยชาติ”
“ห้องปฏิบัติการ AI และผู้เชี่ยวชาญอิสระควรหยุดชั่วคราวเพื่อร่วมกันพัฒนาและใช้ชุดโปรโตคอลความปลอดภัยที่ใช้ร่วมกันสำหรับการออกแบบและพัฒนา AI ขั้นสูงที่ได้รับการตรวจสอบและดูแลอย่างเข้มงวดโดยผู้เชี่ยวชาญภายนอก” จดหมายระบุ
สถาบัน Future of Life Institute (FLI) ซึ่งเป็นคลังความคิดที่ประสานงานความพยายามนี้ได้อ้างถึงงานวิจัย 12 ชิ้นจากผู้เชี่ยวชาญรวมถึงนักวิชาการในมหาวิทยาลัย ตลอดทั้งพนักงานปัจจุบันและอดีตของ OpenAI, Google และบริษัทในเครืออย่าง DeepMind แต่ผู้เชี่ยวชาญ 4 คนที่อ้างถึงในจดหมายได้แสดงความกังวลว่างานวิจัยของพวกเขาถูกใช้เพื่ออ้างสิทธิ์ดังกล่าว
เมื่อมีการเปิดจดหมายเป็นครั้งแรก จดหมายดังกล่าวนั้นขาดโปรโตคอลการตรวจสอบสำหรับการลงนามและรวบรวมลายเซ็นจากผู้ที่ไม่ได้ลงนามจริง รวมถึงสีจิ้นผิง และ ยานน์ เลอคน หัวหน้านักวิทยาศาสตร์ AI ของ Meta ก็ชี้แจงใน Twitter ว่าเขาไม่สนับสนุน
มาร์กาแรต มิตเชลล์ หัวหน้านักวิทยาศาสตร์ด้านจริยธรรมของบริษัท AI Hugging Face วิจารณ์จดหมายดังกล่าวว่า “ด้วยการปฏิบัติต่อแนวคิดที่น่าสงสัยมากมาย จดหมายดังกล่าวระบุลำดับความสำคัญและเรื่องเล่าเกี่ยวกับ AI ที่เป็นประโยชน์ต่อผู้สนับสนุน FLI…การเพิกเฉยต่ออันตรายที่เกิดขึ้นในขณะนี้เป็นสิทธิพิเศษที่พวกเราบางคนไม่มี”
ขณะที่ ทิมนิต เกบรู และ เอมิลี เอ็ม เบรนเดอร์ ได้วิจารณ์จดหมายดังกล่าวบน Twitter ว่า “คำกล่าวอ้างบางคำของจดหมายนั้นไม่มีข้อผูกมัด” ส่วน ชิริ โดริ-ฮาโกเฮน ผู้ช่วยศาสตราจารย์แห่งมหาวิทยาลัยคอนเนตทิคัต ก็กล่าวถึงปัญหาเกี่ยวกับงานของเธอที่ถูกกล่าวถึงในจดหมายเช่นกัน โดยในปีที่แล้วเธอเป็นผู้ร่วมเขียนบทความวิจัยที่โต้แย้งว่าการใช้ AI อย่างแพร่หลายนั้นก่อให้เกิดความเสี่ยงร้ายแรง
งานวิจัยของเธอแย้งว่าการใช้ระบบ AI ในปัจจุบันอาจมีอิทธิพลต่อการตัดสินใจเกี่ยวกับการเปลี่ยนแปลงสภาพภูมิอากาศ สงครามนิวเคลียร์ และภัยคุกคามอื่นๆ ที่มีอยู่ ฮาโกเฮนกล่าวกับ Reuters ว่า “AI ไม่จำเป็นต้องเข้าถึงสติปัญญาระดับมนุษย์เพื่อทำให้ความเสี่ยงเหล่านั้นรุนแรงขึ้น”
ขณะที่ แม็กซ์ เท็กมาร์ค ประธาน FLI กล่าวว่า “ความเสี่ยงทั้งระยะสั้นและระยะยาวของ AI ควรได้รับการพิจารณาอย่างจริงจัง ถ้าเราอ้างถึงใครสักคน มันก็หมายความว่าเราอ้างว่าพวกเขากำลังสนับสนุนประโยคนั้น ไม่ได้หมายความว่าพวกเขาสนับสนุนจดหมาย หรือเราสนับสนุนทุกสิ่งที่พวกเขาคิด”
เมื่อวันที่ 22 มีนาคมที่ผ่านมา มีผู้ลงนามมากกว่า 1,800 ราย ซึ่งรวมถึงมัสก์ นักวิทยาศาสตร์พุฒิปัญญาอย่าง แกรี มาร์คัส และ สตีฟ วอซเนียก ผู้ร่วมก่อตั้ง Apple ได้เรียกร้องให้หยุดการพัฒนาระบบชั่วคราวเป็นเวลา 6 เดือนเพื่อประสิทธิภาพที่มากกว่า GPT-4 นอกจากนี้ วิศวกรจาก Amazon, DeepMind, Google, Meta และ Microsoft ก็ให้การสนับสนุนเช่นเดียวกัน
GPT-4 พัฒนาโดย OpenAI ซึ่งเป็นบริษัทที่ร่วมก่อตั้งโดยมัสก์และปัจจุบันสนับสนุนโดย Microsoft ที่พัฒนาความสามารถในการสนทนาแบบมนุษย์ แต่งเพลง และสรุปเอกสารที่มีความยาว โดยจดหมายดังกล่าวอ้างว่า “ระบบ AI ดังกล่าวที่มีความฉลาดในระดับที่เทียบเท่ากับมนุษย์อาจก่อให้เกิดความเสี่ยงอย่างร้ายแรงต่อมนุษยชาติ”
“ห้องปฏิบัติการ AI และผู้เชี่ยวชาญอิสระควรหยุดชั่วคราวเพื่อร่วมกันพัฒนาและใช้ชุดโปรโตคอลความปลอดภัยที่ใช้ร่วมกันสำหรับการออกแบบและพัฒนา AI ขั้นสูงที่ได้รับการตรวจสอบและดูแลอย่างเข้มงวดโดยผู้เชี่ยวชาญภายนอก” จดหมายระบุ
สถาบัน Future of Life Institute (FLI) ซึ่งเป็นคลังความคิดที่ประสานงานความพยายามนี้ได้อ้างถึงงานวิจัย 12 ชิ้นจากผู้เชี่ยวชาญรวมถึงนักวิชาการในมหาวิทยาลัย ตลอดทั้งพนักงานปัจจุบันและอดีตของ OpenAI, Google และบริษัทในเครืออย่าง DeepMind แต่ผู้เชี่ยวชาญ 4 คนที่อ้างถึงในจดหมายได้แสดงความกังวลว่างานวิจัยของพวกเขาถูกใช้เพื่ออ้างสิทธิ์ดังกล่าว
เมื่อมีการเปิดจดหมายเป็นครั้งแรก จดหมายดังกล่าวนั้นขาดโปรโตคอลการตรวจสอบสำหรับการลงนามและรวบรวมลายเซ็นจากผู้ที่ไม่ได้ลงนามจริง รวมถึงสีจิ้นผิง และ ยานน์ เลอคน หัวหน้านักวิทยาศาสตร์ AI ของ Meta ก็ชี้แจงใน Twitter ว่าเขาไม่สนับสนุน
มาร์กาแรต มิตเชลล์ หัวหน้านักวิทยาศาสตร์ด้านจริยธรรมของบริษัท AI Hugging Face วิจารณ์จดหมายดังกล่าวว่า “ด้วยการปฏิบัติต่อแนวคิดที่น่าสงสัยมากมาย จดหมายดังกล่าวระบุลำดับความสำคัญและเรื่องเล่าเกี่ยวกับ AI ที่เป็นประโยชน์ต่อผู้สนับสนุน FLI…การเพิกเฉยต่ออันตรายที่เกิดขึ้นในขณะนี้เป็นสิทธิพิเศษที่พวกเราบางคนไม่มี”
ขณะที่ ทิมนิต เกบรู และ เอมิลี เอ็ม เบรนเดอร์ ได้วิจารณ์จดหมายดังกล่าวบน Twitter ว่า “คำกล่าวอ้างบางคำของจดหมายนั้นไม่มีข้อผูกมัด” ส่วน ชิริ โดริ-ฮาโกเฮน ผู้ช่วยศาสตราจารย์แห่งมหาวิทยาลัยคอนเนตทิคัต ก็กล่าวถึงปัญหาเกี่ยวกับงานของเธอที่ถูกกล่าวถึงในจดหมายเช่นกัน โดยในปีที่แล้วเธอเป็นผู้ร่วมเขียนบทความวิจัยที่โต้แย้งว่าการใช้ AI อย่างแพร่หลายนั้นก่อให้เกิดความเสี่ยงร้ายแรง
งานวิจัยของเธอแย้งว่าการใช้ระบบ AI ในปัจจุบันอาจมีอิทธิพลต่อการตัดสินใจเกี่ยวกับการเปลี่ยนแปลงสภาพภูมิอากาศ สงครามนิวเคลียร์ และภัยคุกคามอื่นๆ ที่มีอยู่ ฮาโกเฮนกล่าวกับ Reuters ว่า “AI ไม่จำเป็นต้องเข้าถึงสติปัญญาระดับมนุษย์เพื่อทำให้ความเสี่ยงเหล่านั้นรุนแรงขึ้น”
ขณะที่ แม็กซ์ เท็กมาร์ค ประธาน FLI กล่าวว่า “ความเสี่ยงทั้งระยะสั้นและระยะยาวของ AI ควรได้รับการพิจารณาอย่างจริงจัง ถ้าเราอ้างถึงใครสักคน มันก็หมายความว่าเราอ้างว่าพวกเขากำลังสนับสนุนประโยคนั้น ไม่ได้หมายความว่าพวกเขาสนับสนุนจดหมาย หรือเราสนับสนุนทุกสิ่งที่พวกเขาคิด”
