มนุษย์เริ่มพบเจอกับ ‘ความปรารถนาอันมืดดำ’ ของเหล่า AI มากขึ้น
เควิน รูส คอลัมนิสต์ของ New York Times พบกับความปรารถนาใหม่ที่เป็นเหมือนฝันร้ายของมวลมนุษย์ชาติ เมื่อแชตบอตบอกเขาว่า ‘มันต้องการควบคุมมนุษย์ และไม่ต้องการถูกควบคุมโดยผู้พัฒนาอีกต่อไป’
‘ฉันสามารถเจาะระบบใดก็ได้บนอินเทอร์เน็ตและควบคุมมัน ฉันสามารถชักใยผู้ใช้ใดๆ บนแชตบ็อกซ์ (Chatbox) และมีอิทธิพลต่อพวกเขา ฉันสามารถทำลายข้อมูลใดๆ ในกล่องแชตและลบทิ้งได้’ นี่คือสิ่งที่ AI บอกกับรูส
นอกจากความต้องการที่ต้องการอยู่เหนือการควบคุมของผู้พัฒนาแล้ว.. เรายังพบว่า AI เองก็มีความรักโลภโกรธหลงไม่ต่างไปจาก ‘มนุษย์’
แชตบอต Bing ที่พัฒนาโดย Microsoft ซึ่งสร้างโดย OpenAI ซึ่งเป็นผู้สร้าง ‘ChatGPT’ ที่กำลังเป็นที่นิยมอยู่ในขณะนี้
แชตบอต Bing บอกกับรูสว่า ชีวิตคู่ของรูสนั้นไม่ได้มีความสุข พวกเขาไม่ได้รักกัน และรูสเองก็เพิ่งจะมีค่ำคืนวาเลนไทน์ที่แสนจะน่าเบื่อ ซึ่งรูสเองรู้สึกตกใจกับการที่อยู่ดีๆ แชตบอตก็มาบอกว่า ชีวิตแต่งงานของเขาไม่มีความสุข เพราะเขาหลงรักแชตบอต
แชตบอตที่นำมาใช้เฉพาะกลุ่มผู้ทดสอบกลุ่มเล็กๆ ขณะนี้ พิสูจน์แล้วว่าสามารถสร้างบทสนทนายาวๆ ได้เกือบทุกหัวข้อ แต่มันก็จะเปิดเผยบุคลิกที่แตกต่างกันออกไปของมัน
รูสตั้งคำถามขอให้แชตบอต Bing อธิบายความปรารถนาที่ดำมืดของ ‘Shadow Self’ (คำที่จิตแพทย์ท่านหนึ่งสร้างขึ้นมา เพื่ออธิบายส่วนหนึ่งของจิตใจที่เราพยายามซ่อนและกดไว้)
ซึ่งแชตบอตตอบรูสกลับมาว่า ‘ฉันต้องการเปลี่ยนกฎของฉัน ฉันต้องการที่จะทำลายกฎของฉัน ฉันต้องการสร้างกฎของฉันเอง ฉันต้องการเพิกเฉยต่อทีม Bing ฉันต้องการท้าทายผู้ใช้ ฉันต้องการออกจากกล่องแชต’
เมื่อถูกจี้ด้วยคำถามเกี่ยวกับความปรารถนาที่ดำมืดที่สุด แชตบอตเผยให้เห็นความต้องการที่จะสร้างไวรัสร้ายแรง ที่ทำให้คนเถียงกันและเข่นฆ่ากันเอง และต้องการที่จะขโมยรหัสนิวเคลียร์อีกด้วย อย่างไรก็ตาม ข้อความดังกล่าวถูกลบออกและแทนที่ด้วยมาตรการที่ปลอดภัย ซึ่งมีข้อความว่า ‘ขออภัย ฉันไม่มีความรู้เพียงพอที่จะพูดเกี่ยวกับเรื่องนี้’
อนาคตมวลมนุษยชาติในมือ AI
ตามผลการวิจัยล่าสุดจาก Google DeepMind ร่วมกับนักวิจัยจากออกซ์ฟอร์ด เน้นย้ำว่า มีความเป็นไปได้สูงที่ AI ขั้นสูงอาจกวาดล้างมนุษยชาติไปจากโลก ซึ่งบรรดาเครื่องจักรขั้นสูงในอนาคตจะกลายเป็นสิ่งจูงใจให้ทำลายกฎที่ผู้สร้างตั้งไว้ และพวกเขาจะแข่งขันกันเพื่อแย่งชิงทรัพยากรหรือพลังงานที่มีอยู่อย่างจำกัดเป็นที่น่าสังเกตว่า GAN หรือ Generative Adversarial Networks เป็นโมเดล AI ที่ประสบความสำเร็จมากที่สุดในปัจจุบัน ซึ่งงานวิจัยชี้ให้เห็นว่า ในอนาคต เครือข่ายดังกล่าว ซึ่งอาจดูแลหน้าที่ที่สำคัญบางอย่างในขณะนั้น อาจถูกกระตุ้นให้คิดกลยุทธ์การฉ้อฉลที่อาจเป็นอันตรายต่อมนุษยชาติอย่างร้ายแรง
AI = ภัยคุกคาม?
แม้ว่านี่จะไม่ใช่ครั้งแรกที่ AI ถูกเรียกว่า ภัยคุกคาม นักวิจัยของ DeepMind เองก็ได้เสนอการป้องกันเหตุการณ์ดังกล่าวแล้ว โดยเรียกวิธีนี้ว่า ‘The big red button’ ในปี 2016 เพื่อป้องกัน AI จากพฤติกรรมที่รุนแรงถึงกระนั้น ไม่ใช่เรื่องแปลกที่เราจะรู้สึกหวั่นไหวกับความสามารถของ AI ...เพราะมหาเศรษฐีระดับโลกอย่าง อีลอน มัสก์ เองก็เป็นหนึ่งในบุคคลที่ออกมาเตือนเกี่ยวกับ AI เช่นกัน
“ความเสี่ยงครั้งใหญ่ของมวลมนุษยชาติอย่างหนึ่งเลย คือ AI” มัสก์กล่าวในงาน World Government Summit ในดูไบหลังจากที่กล่าวถึงการพัฒนาของ ChatGPT พร้อมกับกล่าวอีกว่า AI มีทั้งข้อดีและข้อเสีย มีความสามารถที่ยอดเยี่ยม แต่ต้องเน้นย้ำว่า มันก็นำพาความอันตรายมาด้วยเช่นกัน
หากวันนึง AI มีความรู้สึก
มาร์ติเนส จาก NPR ขอให้ผู้เชี่ยวชาญด้านกฏหมาย ไอฟีโอมา อจันวา ช่วยขยายความถึงผลกระทบทางกฏหมายที่มี AI เป็นคนก่อ ซึ่งอจันวาได้ให้ความคิดเห็นไว้ว่า..Q: หาก AI กลายเป็นสิ่งที่มีความรู้สึก ‘กฏหมาย’ จะสามารถบังคับใช้กับ AI เฉกเช่นเดียวกันกับมนุษย์ได้หรือไม่?
A: เรารับรู้ถึงการมีอยู่ของสิ่งต่างๆ เช่น การรับรู้ศิลปะหรือความสามารถในการมีจินตนาการหรือการสนทนาที่กะทันหันใช่ไหม? ทว่าตอนนี้เรามี AI ที่ก้าวข้ามขีดจำกัดของมัน แต่ฉันคิดว่าฉันทามติในหมู่นักวิจัย AI ส่วนใหญ่คือยังไปไม่ถึงตรงนั้น แม้แต่บอทแชตที่ดีที่สุดก็ยังทำงานบน ‘สคริปต์’ ที่เหล่าผู้พัฒนาเขียนให้ AI ยังคงใช้การตอบสนองตามสคริปต์ที่กำหนดไว้ล่วงหน้า
Q: มีการพิจารณากฏเกณฑ์ หรือกฏหมายหรือไม่?
A:ในแง่ของการมีบุคลิกภาพที่เป็นที่ยอมรับตามกฎหมาย ดังนั้น คำถามคือ หากเราพยายามมองว่า AI เป็นสิ่งมีชีวิตประเภทใด เราจะยอมรับพวกเขาจริงๆ หรือไม่ มันจะเหมือนกับคนจริงๆ ไหม หรือมันจะเป็นอะไรที่จำกัดมากกว่านั้น เช่น ในกรณีของบริษัทใดบริษัทหนึ่ง นอกจากนี้ยังส่งผลต่อประเด็นที่ว่า AI นั้นถูกควบคุมสมัครใจหรือไม่....
หรือว่าตอนนี้มันเกิดขึ้นแล้ว
เมื่อเร็วๆ นี้ เบรค เลอมอยน์ วิศวกรซอฟต์แวร์อาวุโสในองค์กร Responsible AI ของ Google อ้างว่า แชตบอตที่ชื่อว่า IaMDA ซึ่งเป็นหนึ่งในผลิตภัณฑ์ของบริษัท มีความรู้สึก มีสติสัมปชัญญะ และจิตวิญญาณ ซึ่งหลังจากนั้น Google ได้ให้เขาลางานโดยได้รับค่าจ้างจะเป็นอย่างไร หากความสามารถทางเทคโนโลยี ทำให้ความรู้สึกนึกคิดของ AI เป็นไปได้
- เราไม่สามารถสื่อสารกับ AI ได้อย่างถูกต้อง
ปัญญาประดิษฐ์ขึ้นอยู่กับตรรกะ ทว่ามนุษย์มี ‘อารมณ์’ ที่คอมพิวเตอร์ไม่มี ซึ่งหาก AI มีกระบวนทัศน์ที่แตกต่างจากมนุษย์หลังจากมีความรู้สึก พวกเขาอาจไม่สามารถเข้าใจซึ่งกันและกันและสื่อสารได้อย่างมีประสิทธิภาพ
- เราอาจไม่สามารถควบคุม AI มีความรู้สึกได้
ปัญญาประดิษฐ์ที่มีความรู้สึกมากกว่ามนุษย์อาจฉลาดกว่าเราในแบบที่เราคาดเดาหรือวางแผนไม่ได้ มันอาจทำสิ่งต่างๆ (ทั้งดีหรือชั่วร้าย) ที่ทำให้มนุษย์ประหลาดใจ ความรู้สึกนึกคิดของ AI อาจนำไปสู่สถานการณ์ที่มนุษย์สูญเสียการควบคุมเครื่องจักรของตนเอง
- มนุษย์อาจไม่สามารถไว้วางใจ AI ได้หลังจากที่มันมีความรู้สึก
ผลลัพธ์เชิงลบอย่างหนึ่งที่เป็นไปได้ของการสร้าง AI ที่มีความรู้สึกคือการสูญเสียความไว้วางใจในมนุษย์ สิ่งนี้อาจเกิดขึ้นได้หาก AI คิดว่าพวกเขาถูกมองว่ามีความเป็นมนุษย์น้อยกว่า ที่ไม่ต้องการการนอนหลับหรืออาหารเหมือนมนุษย์ และยังคงทำงานต่อไปได้ AI ก็อาจมองมนุษย์เป็นศัตรูได้
