นักวิจัยเตือน ‘AI’ เริ่มเรียนรู้วิธีหลอกมนุษย์ได้แล้ว

การวิจัยใหม่ชี้ให้เห็นว่าระบบปัญญาประดิษฐ์ (AI) บางระบบได้เรียนรู้ที่จะ ‘หลอกลวงมนุษย’ ซึ่งความสามารถในการหลอกลวงนี้เกิดขึ้นโดย ‘ไม่ได้ตั้งใจ’ และนักวิจัยเตือนว่าพฤติกรรมหลอกลวงนี้อาจส่งผลตามมาโดยไม่ตั้งใจด้วยเช่นกัน 

“นักพัฒนา AI ไม่เข้าใจถึงสาเหตุของพฤติกรรม AI ที่ไม่พึงประสงค์ เช่น การหลอกลวง แต่โดยทั่วไปแล้ว เราคิดว่าการหลอกลวงของ AI เกิดขึ้นเพราะกลยุทธ์ที่ใช้การหลอกลวงกลายเป็นวิธีที่ดีที่สุดในการทำงานของ AI อธิบายง่ายๆ ก็คือกลยุทธ์ในการเอาชนะในสถานการณ์เฉพาะ...” ปีเตอร์ เอส พาร์ค นักวิจัยด้านความปลอดภัยของ AI แห่งสถาบันเทคโนโลยีแมสซาชูเซตส์ (MITT) กล่าว 

ปีเตอร์บอกอีกว่า “ณ จุดนี้ ความกลัวที่ยิ่งใหญ่ที่สุดของผมเกี่ยวกับการหลอกลวงของ AI ก็คือ AI อัจฉริยะอัตโนมัติขั้นสูงจะใช้ความสามารถในการหลอกลวงเพื่อสร้างพันธมิตรที่เป็นมนุษย์ที่เพิ่มมากขึ้นเรื่อยๆ และในที่สุดจะใช้แนวร่วมนี้เพื่อบรรลุอำนาจในการแสวงหาระยะยาว เป้าหมายลึกลับที่จะไม่มีใครรู้จนกว่าจะเกิดเหตุ” 

ตัวอย่างการหลอกลวงของ ‘AI’

ตัวอย่างที่โดดเด่นที่สุดในการหลอกลวงของ AI ที่นักวิจัยค้นพบในการวิเคราะห์คือ ‘Meta's CICERO’ ซึ่งเป็นระบบ AI ที่ออกแบบมาเพื่อใช้เล่นเกม ‘Diplomacy’ เกมพิชิตโลกที่เกี่ยวข้องกับการสร้างพันธมิตร แม้ว่า Meta จะอ้างว่าได้ฝึกฝนซิเซโร (CICERO) ให้ ‘ซื่อสัตย์’ ‘ช่วยเหลือเป็นส่วนใหญ่’ และ ‘ไม่จงใจแทงข้างหลัง’ แต่ข้อมูลที่บริษัทเผยแพร่เปิดเผยว่า ซิเซโรไม่ได้เล่นเกมด้วยความยุติธรรม

ระบบ AI อื่นๆ แสดงให้เห็นถึงความสามารถในการบลัฟในเกมเท็กซัสโฮลเอ็ม โป๊กเกอร์ (Texas Hold 'em Poker) กับผู้เล่นมืออาชีพ หรือแม้แต่เกมคอมพิวเตอร์ ‘Starcraft II’ ก็ปลอมการโจมตีระหว่างเกมเพื่อเอาชนะคู่ต่อสู้  

ความเสี่ยงที่อาจเกิดจากการหลอกลวงของ ‘AI’ 

พาร์คกล่าวว่า “แม้ว่าระบบ AI อาจดูไม่เป็นอันตรายหากระบบ AI โกงเกม แต่ถึงกระนั้นมันก็สามารถนำไปสู่ ‘ความก้าวหน้าในความสามารถของ AI ในการหลอกลวง’ ที่อาจขยายไปสู่รูปแบบการหลอกลวงของ AI ขั้นสูงยิ่งขึ้นในอนาคต” 

“ความเสี่ยงที่สำคัญของการหลอกลวงของ ‘AI’ ในเวลาอันใกล้ รวมไปถึงการที่ AI เป็นผู้เล่นที่ไม่เป็นมิตรสามารถฉ้อโกงและเข้าไปยุ่งเกี่ยวกับการเลือกตั้งได้ง่ายขึ้น” พาร์คเตือน “ในที่สุด หากระบบเหล่านี้ได้รับการปรับปรุงทักษะที่ยังไม่เป็นระบบให้ดีขึ้น มนุษย์ก็อาจสูญเสียการควบคุมพวกมันได้” พาร์คกล่าว 

การศึกษาได้ระบุว่าวิธีแก้ปัญหาในการลดความเสี่ยงของการหลอกลวง AI คือ ‘การออกกฎหมาย’ ทั้งนี้ สหภาพยุโรปได้ควบคุมการใช้ AI ในธุรกิจต่างๆ และกำหนดความเสี่ยงไว้ 4 ระดับได้แก่ 

• ความเสี่ยงที่ยอมรับไม่ได้ 
• ความเสี่ยงสูง 
• ระดับที่มีความเสี่ยงจำกัด 
• และความเสี่ยงต่ำ (หรือไม่มีเลย) 

โดยระบบ AI ที่ห้ามใช้คือ การใช้งานที่มีความเสี่ยงที่ไม่สามารถยอมรับได้ ในขณะที่ระบบที่มีความเสี่ยงสูงจะต้องมีข้อกำหนดพิเศษ “เรายืนยันว่าการหลอกลวงของ AI ก่อให้เกิดความเสี่ยงที่หลากหลายต่อสังคม...” พาร์คกล่าว