Anthropic บริษัท AI สัญชาติอเมริกัน ประกาศเมื่อวันศุกร์ที่ผ่านมาว่า ได้ร่วมมือกับบริษัทที่ปรึกษายักษ์ใหญ่ Accenture เพื่อส่งผู้ประเมินภายนอกเข้าทำงานภายในบริษัท โดยมีเป้าหมายตรวจสอบความปลอดภัยของโมเดล AI ที่ทรงพลังที่สุด สอดรับกับคำมั่นของ Dario Amodei ประธานเจ้าหน้าที่บริหาร ที่ระบุไว้ในบทความเมื่อวันที่ 12 กันยายนว่าบริษัท AI ต้องชะลอการพัฒนาขีดความสามารถของโมเดล
ใครรับผิดชอบงานนี้
ความร่วมมือดังกล่าวจะนำโดย Faculty หน่วยธุรกิจ AI เฉพาะทางของ Accenture โดยมีภารกิจหลักคือการประเมินโมเดลและทำ red-teaming ซึ่งเป็นกระบวนการที่จงใจพยายามทำให้ระบบ AI ทำงานผิดพลาดเพื่อเปิดเผยจุดบกพร่อง ทั้งสองบริษัทคาดว่าจะลงทุนอย่างน้อยฝ่ายละ 1 พันล้านดอลลาร์ในช่วง 5 ปีข้างหน้า
แหล่งเงินทุนและคู่เจรจา
Anthropicระบุว่าในระยะแรกจะสนับสนุนเงินทุนให้ Accenture โดยตรง แต่ในระยะยาวควรมาจากแหล่งรวมหรือภาครัฐ นอกจากนี้บริษัทอยู่ระหว่างการเจรจากับ Model Evaluation and Threat Research (METR) องค์กรไม่แสวงกำไรในรัฐแคลิฟอร์เนีย เพื่อเข้าร่วมกระบวนการประเมินโดยใช้งบประมาณของ METR เอง
เสียงวิจารณ์และข้อกังวล
อย่างไรก็ตาม David Sacks อดีตที่ปรึกษาด้าน AI ของทำเนียบขาว ตั้งคำถามต่อความเป็นอิสระของ METR เนื่องจากมีความเชื่อมโยงกับนักลงทุนและพนักงานของ Anthropic ซึ่ง METR ยืนยันว่าไม่รับเงินทุนจากบริษัท AI หรือผู้บริหารใดๆ
นักวิทยาศาสตร์ร่วมลงนามเรียกร้อง
ในวันเดียวกัน นักวิจัย AI กว่า 100 คน รวมถึง Geoffrey Hinton ที่ได้รับการยกย่องว่าเป็น "บิดา" ของ AI ร่วมลงนามในจดหมายเปิดผนึกเรียกร้องให้ผู้ประเมินที่ฝังตัวในบริษัท AI มีความเป็นอิสระอย่างมีนัยสำคัญ โดยระบุว่าองค์กรเหล่านั้นต้องไม่อยู่ภายใต้การเป็นเจ้าของหรือการกำกับดูแลของบริษัท AI ชั้นนำ และต้องไม่รับการชำระเงินหรือผลตอบแทนใดๆ ที่ขึ้นอยู่กับผลการประเมิน ขณะที่ Sam Altman ซีอีโอของ OpenAI และ Satya Nadella ซีอีโอของ Microsoft ต่างแสดงการสนับสนุนแนวคิดการมีผู้ประเมินอิสระเช่นกัน
