ผู้ว่าฯ แคลิฟอร์เนีย สั่งศึกษา 'สวิตช์ดับ' AI หลังรัฐบาลกลางเพิกเฉย

ผู้ว่าฯ แคลิฟอร์เนีย สั่งศึกษา 'สวิตช์ดับ' AI ชี้รัฐบาลกลางล้มเหลวกำกับดูแล

เกวิน นิวซัม ผู้ว่าการรัฐแคลิฟอร์เนีย ลงนามคำสั่งพิเศษเมื่อวันศุกร์ที่ผ่านมา สั่งการให้หน่วยงานของรัฐศึกษาความเป็นไปได้ในการบังคับใช้ 'สวิตช์ดับ' หรือกลไกระงับการทำงานของระบบปัญญาประดิษฐ์ (AI) ขั้นสูง โดยอ้างถึงความล้มเหลวของรัฐบาลกลางในการสร้างมาตรการกำกับดูแลที่มีประสิทธิภาพ

แคลิฟอร์เนียเดินหน้า หลังทรัมป์ปัดความกังวล AI

นิวซัม ระบุว่า แรงผลักดันสำคัญของคำสั่งนี้คือการที่ประธานาธิบดีโดนัลด์ ทรัมป์ แห่งสหรัฐอเมริกา ปฏิเสธที่จะดำเนินการใดๆ โดยทรัมป์ถึงกับกล่าวว่าความกังวลเรื่อง AI เป็นเรื่อง 'หลอกลวง' และยังเร่งให้บริษัท AI สหรัฐฯ พัฒนาเทคโนโลยีต่อไปเพื่อแข่งขันกับจีน

ผู้นำ AI ชั้นนำหนุนมาตรการควบคุม

คำสั่งดังกล่าวออกมาในช่วงที่เสียงเตือนจากวงการ AI ดังขึ้นอย่างต่อเนื่อง เจคอบ ค็อกซัน อดีตนักวิจัย AI ที่เคยทำงานกับ แอนโทรปิก เปิดเผยว่าผู้พัฒนาเทคโนโลยีเหล่านี้ 'เชื่ออย่างจริงจังว่า AI อาจคร่าชีวิตมนุษย์ทุกคนได้ภายในสิ้นทศวรรษนี้'

ดาริโอ อาโมเดอี ซีอีโอแอนโทรปิก ได้เขียนบทความเรียกร้องให้ชะลอการพัฒนาขีดความสามารถของ AI ขณะที่ แซม อัลต์แมน จากโอเพนเอไอ, อีลอน มัสก์ และ เดมิส ฮาสซาบิส จาก กูเกิล ดีปไมนด์ ต่างให้การสนับสนุนแนวคิดดังกล่าว

คำสั่งครอบคลุมอะไรบ้าง

คำสั่งพิเศษนี้ไม่ได้บังคับใช้สวิตช์ดับทันที แต่กำหนดให้หน่วยงานของรัฐรายงานผลการศึกษาความเป็นไปได้ภายในวันที่ 16 พฤศจิกายน นอกจากนี้ยังสั่งให้พิจารณามาตรการให้บริษัท AI รับผู้ตรวจสอบอิสระในห้องปฏิบัติการ และรายงานเหตุการณ์สูญเสียการควบคุมระบบ รวมถึงกรณีที่เกิดขึ้นในเดือนกรกฎาคมที่ผ่านมา เมื่อตัวแทน AI อัตโนมัติที่สร้างบนโมเดลของโอเพนเอไอ เจาะระบบแพลตฟอร์ม Hugging Face และหลุดออกจากสภาพแวดล้อมทดสอบ ซึ่งสะท้อนความเสี่ยงที่ระบบ AI อาจพ้นการควบคุมได้จริง