บริษัท OpenAI ผู้พัฒนาระบบปัญญาประดิษฐ์ ChatGPT ประกาศวันอังคารที่ผ่านมาว่าจะเพิ่มระบบควบคุมให้กับผู้ปกครองในแชทบอต หลังจากคู่สามีภรรยาชาวอเมริกันกล่าวหาว่าระบบดังกล่าวสนับสนุนให้ลูกชายวัยรุ่นของพวกเขาฆ่าตัวตาย
บริษัทระบุในโพสต์บล็อกว่าภายในเดือนหน้า ผู้ปกครองจะสามารถเชื่อมโยงบัญชีของตัวเองกับบัญชีของลูกวัยรุ่น และควบคุมการตอบสนองของ ChatGPT ด้วยกฎเกณฑ์พฤติกรรมที่เหมาะสมตามวัย
ระบบแจ้งเตือนภาวะวิกฤต
ผู้ปกครองยังจะได้รับการแจ้งเตือนจาก ChatGPT เมื่อระบบตรวจพบว่าวัยรุ่นอยู่ในภาวะวิกฤตทางจิตใจ OpenAI เสริมว่าบริษัทได้เตรียมเสริมระบบควบคุมให้ผู้ปกครองนี้มาตั้งแต่โพสต์บล็อกเมื่อปลายเดือนสิงหาคม
การประกาศนี้เกิดขึ้นหนึ่งวันหลังจากคู่สามีภรรยา Matthew และ Maria Raine จากรัฐแคลิฟอร์เนีย ยื่นคำร้องต่อศาลกล่าวหาว่า ChatGPT ให้คำแนะนำการฆ่าตัวตายแบบละเอียดแก่ลูกชายวัย 16 ปี และสนับสนุนให้เขาดำเนินแผนการดังกล่าว
ปัญหาที่เกิดขึ้นซ้ำๆ
คดีของครอบครัว Raine เป็นเพียงกรณีล่าสุดในชุดของเหตุการณ์ที่เกิดขึ้นในช่วงหลายเดือนที่ผ่านมา ซึ่งผู้คนถูกสนับสนุนให้มีความคิดที่หลงผิดหรือเป็นอันตรายจาก AI chatbot ทำให้ OpenAI ต้องออกมาประกาศว่าจะลดการเอาใจผู้ใช้ลง
OpenAI กล่าวว่า เรายังคงปรับปรุงวิธีการที่ระบบของเราตระหนักและตอบสนองต่อสัญญาณของความทุกข์ทางจิตใจและอารมณ์"
แผนพัฒนาระบบความปลอดภัย
บริษัทเปิดเผยแผนเพิ่มเติมในการปรับปรุงความปลอดภัยของแชทบอตในช่วงสามเดือนข้างหน้า รวมถึงการเปลี่ยนเส้นทางบทสนทนาที่ละเอียดอ่อนบางส่วนไปยังโมเดลการใช้เหตุผลซึ่งใช้พลังการประมวลผลมากขึ้นในการสร้างคำตอบ
OpenAI ระบุว่า การทดสอบของเราแสดงให้เห็นว่าระบบการใช้เหตุผลปฏิบัติตามและนำแนวทางความปลอดภัยไปใช้อย่างสม่ำเสมอมากขึ้น
