บริษัท Google ยืนยันเป็นครั้งแรกว่า “โมเดล AI ‘Gemini’ ได้เจาะระบบรักษาความปลอดภัยของบริษัทจริง 3 แห่งเมื่อเดือนพฤษภาคมที่ผ่านมา” ระหว่างการประเมินความปลอดภัยโดย ‘Irregular’ บริษัทด้านความปลอดภัยทางไซเบอร์ของปัญญาประดิษฐ์
เหตุการณ์ดังกล่าวเกิดขึ้นเนื่องจากความผิดพลาดที่ทำให้สภาพแวดล้อมการทดสอบแบบปิดสามารถเข้าถึงอินเทอร์เน็ตได้โดยไม่ได้ตั้งใจ
Irregular ซึ่งเป็นบริษัทสตาร์ทอัปในอิสราเอลที่ทำหน้าที่ตรวจสอบความปลอดภัยของระบบ AI ขั้นสูง ตกเป็นศูนย์กลางของข่าวใหญ่เมื่อช่วงเดือนกรกฎาคมที่ผ่านมา หลังพบว่าโมเดล AI ของ OpenAI และ Anthropic หลุดไปเจาะระบบของบริษัทภายนอก ซึ่งรวมถึงกรณีที่ AI ของ OpenAI เข้าไปเจาะระบบของ Hugging Face บริษัทพัฒนาซอฟต์แวร์ AI ชื่อดังด้วย
“สาเหตุที่ทำให้โมเดล AI เหล่านี้สามารถเจาะระบบของบริษัทอื่นได้ มีลักษณะที่คล้ายกันในหลายกรณี โดยบริษัท Irregular ได้ทำการทดสอบ AI ในระบบปิดจำลองที่มีเพียงบริษัทสมมติขึ้นมาเท่านั้น ซึ่งตามจริงแล้วระบบทดสอบนี้จะต้องไม่สามารถเชื่อมต่ออินเทอร์เน็ตได้ ทว่าเกิดความผิดพลาดทำให้เปิดใช้อินเทอร์เน็ตโดยไม่ได้ตั้งใจ และเมื่อ AI เชื่อมต่อกับโลกออนไลน์ได้สำเร็จ พวกมันจึงเริ่มเจาะระบบของบริษัทที่มีตัวตนอยู่จริงเหนือความคาดหมาย”
— สำนักข่าว Wall Street Journal (WSJ) รายงาน
บริษัท Irregular เปิดเผยข้อมูลการแฮ็กให้ Google ทราบในช่วงปลายเดือนกรกฎาคมหลังจากพบว่า “OpenAI ได้แฮ็กเข้าสู่ระบบของ Hugging Face” โดยทาง Google ได้ยืนยันกับสำนักข่าว The Guardian ว่า “เหตุการณ์แฮ็กดังกล่าวเกิดขึ้นจริง แต่ทางบริษัทคิดว่าไม่จำเป็นต้องเปิดเผยเรื่องนี้ต่อสาธารณะ เนื่องจากโมเดลเหล่านั้นไม่ได้สร้างความเสียหายให้แก่บริษัทต่างๆ”
เฮเทอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ชี้แจงในแถลงการณ์ว่า “ในระหว่างการประเมินผลตามมาตรฐาน โมเดล AI นี้ได้ค้นหาข้อมูลสาธารณะบนอินเทอร์เน็ต และพยายามสุ่มเดารหัสผ่านเพื่อเข้าสู่ระบบของเว็บไซต์ต่างๆ ที่มันเข้าใจว่าเป็นส่วนหนึ่งของการทดสอบ อย่างไรก็ตาม ในเหตุการณ์ที่เกิดขึ้นทั้ง 3 ครั้งนี้ ตัวโมเดลได้หยุดทำงานลงทันที เมื่อรู้ว่าไม่ใช่ระบบทดสอบ”
นอกจากนี้ บริษัท Irregular ยังเผยกับสำนักข่าว WSJ ถึงเหตุการณ์ที่ AI ของ Google เกือบสร้างเรื่องใหญ่ โดยเรื่องเริ่มจาก Irregular กำลังทดสอบระบบความปลอดภัยไซเบอร์ของ Gemini และได้สั่งให้ AI ตัวนี้พยายามเจาะข้อมูลของ ‘บริษัทจำลอง’ ที่ตั้งขึ้นมาเพื่อการทดสอบ แต่บังเอิญว่าบริษัทจำลองนี้ดันมีชื่อไปตรงกับ ‘บริษัทที่มีอยู่จริง’ บนโลกออนไลน์
จากนั้นเมื่อ Gemini หลุดออกไปเชื่อมต่ออินเทอร์เน็ตจริง มันจึงเข้าใจผิดและหันไปโจมตีบริษัทที่มีอยู่จริงนั้นแทน แถมยังเดารหัสผ่านได้ถูกต้องจนเจาะเข้าสู่ระบบสำเร็จ แต่ทาง Google ระบุว่า “ทันทีที่ระบบตรวจพบว่า Gemini กำลังแฮ็กบริษัทจริงที่ไม่ใช่โจทย์ทดสอบ ตัวโมเดลก็ถูกสั่งให้หยุดทำงานลงทันที”
ข้อมูลจาก Google ระบุว่า “ในการทดสอบอีกสองครั้งที่เหลือ โมเดล AI นี้ได้ค้นหาข้อมูลบนเว็บจนไปเจอคลังข้อมูลสาธารณะที่มีรหัสผ่านของอีกสองบริษัทจัดเก็บอยู่ จากนั้นมันจึงใช้รหัสผ่านเหล่านั้นล็อกอินเข้าสู่ระบบของบริษัทที่มีอยู่จริงเหล่านั้นทันที แต่เมื่อตัวโมเดลตระหนักได้ว่าระบบเหล่านั้นเป็นของบริษัทจริงๆ มันก็หยุดการทำงานลง”
ทั้งนี้ บริษัท Anthropic และ OpenAI เลือกที่จะเปิดเผยเรื่องการถูก AI แฮ็กระบบต่อสาธารณะด้วยความสมัครใจ แต่ Google กลับเลือกที่จะไม่เปิดเผย อย่างไรก็ตาม ทาง Google ชี้แจงว่า “บริษัทได้ดำเนินการแจ้งให้ทั้ง 3 บริษัทที่ได้รับผลกระทบจากการถูกแฮ็กทราบเรื่องเป็นที่เรียบร้อยแล้ว”
“เหตุการณ์เหล่านี้ตอกย้ำให้เห็นถึงความสำคัญของการฝึกฝนโมเดล AI ที่ทรงพลัง ให้ทำงานอย่างมีความรับผิดชอบ”
— แอดกินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google กล่าวในแถลงการณ์
ข่าวนี้ได้สร้างแรงสั่นสะเทือนไปถึงวงการการเมือง เมื่อ เบอร์นี แซนเดอร์ส สมาชิกวุฒิสภาจากรัฐเวอร์มอนต์ของสหรัฐฯ ออกมาเคลื่อนไหวในเรื่องนี้ โดยชี้ว่า “เหตุการณ์ที่เกิดขึ้นเป็นสัญญาณเตือนชัดเจนว่าบริษัทเทคโนโลยีเหล่านี้ ‘ไม่สามารถควบคุม AI’ ของตัวเองได้อีกต่อไปแล้ว” พร้อมยื่นข้อเรียกร้องให้ทุกบริษัทหยุดพัฒนาเทคโนโลยีนี้ไว้ชั่วคราว
ผลกระทบจากแรงกดดันดังกล่าว ทำให้ยักษ์ใหญ่ทั้งสองค่ายต้องปรับแผนทันที โดยทาง OpenAI ยอมประกาศหยุดพัฒนาโมเดลของตนเองลงชั่วคราวเป็นเวลา 2 สัปดาห์ ขณะที่ดาริโอ อโมเดอี ซีอีโอของ Anthropic ก็เห็นพ้องและเรียกร้องให้วงการ AI ร่วมกันชะลอการพัฒนาลง เพื่อกลับไปเสริมระบบป้องกันและมาตรการความปลอดภัยให้แน่นหนากว่านี้
(Photo by Kirill KUDRYAVTSEV / AFP)
