ศาลสหรัฐฯ ลงโทษทนายใช้ AI เขียนคำร้องผิดพลาด

ศาลในสหรัฐอเมริกาเริ่มดำเนินมาตรการเข้มงวดกับทนายความที่ใช้ปัญญาประดิษฐ์ (AI) เขียนเอกสารกฎหมายแต่ไม่ตรวจสอบความถูกต้อง หลังพบกรณีข้อมูลเท็จจากระบบ AI หรือ "AI hallucination" เพิ่มขึ้นอย่างต่อเนื่อง

เมื่อเดือนที่แล้ว ผู้พิพากษา Jerry Edwards Jr. ประจำศาลแขวงลุยเซียนา ลงโทษทนายความคนหนึ่งหลังพบการอ้างอิงคำตัดสินเท็จ 7 จุดในคำร้องคัดค้านการยื่นหลักฐานในคดีอุบัติเหตุส่วนบุคคล ทนายดังกล่าวยอมรับใช้ Claude ซึ่งเป็นแชทบอต AI เขียนเอกสาร

การลงโทษและมาตรการใหม่

ศาลสั่งปรับทนายคนนี้ 1,000 ดอลลารสหรัฐและบังคับให้เรียนหลักสูตร 3 ชั่วโมงเกี่ยวกับการใช้ AI ในงานกฎหมายอย่างถูกต้อง ผู้พิพากษาระบุในคำสั่งวันที่ 18 พฤษภาคมว่า "ความไม่รู้เรื่องความเสี่ยงจากการใช้ AI ไม่ใช่ข้อแก้ตัวอีกต่อไป"

ทนายผู้กระทำผิดเชื่อว่าผลลัพธ์จาก AI มีความแม่นยำ แม้ว่าเสมียนกฎหมายจะเคยพบข้อผิดพลาดในร่างแรกแล้ว แต่ทนายกลับขอให้ Claude แก้ไขข้อผิดพลาดแล้วยื่นเอกสารโดยไม่ตรวจสอบอีกครั้ง

สถานการณ์ทั่วโลก

Damien Charlotin ทนายชาวฝรั่งเศสที่รวบรวมฐานข้อมูลเอกสารศาลที่มี AI hallucination ตั้งแต่เมษายน 2566 พบตัวอย่าง 1,600 กรณีจาก 35 ประเทศ สหรัฐอเมริกามีมากที่สุด 1,116 กรณี ตามด้วยแคนาดา 173 กรณี และออสเตรเลีย 74 กรณี

ข้อมูลแสดงให้เห็นว่าการใช้ AI ผิดพลาดในศาลเพิ่มขึ้น 8 เท่าในปีที่ผ่านมาเมื่อเทียบกับ 12 เดือนก่อนหน้า ทนายความส่วนใหญ่ใช้แชทบอตทั่วไป โดยเฉพาะ ChatGPT ของ OpenAI

ผลกระทบและคำเตือน

ผู้พิพากษา Linda Kevins จากศาลสูงรัฐนิวยอร์กเตือนในคำตัดสินเมื่อเดือนมกราคมว่า ข้อผิดพลาดดังกล่าวเป็นการเสียเวลาและเงินของทั้งคู่ความฝ่ายตรงข้ามและศาล นอกจากนี้ยังอาจส่งผลเสียต่อชื่อเสียงของผู้พิพากษาและศาลที่ถูกอ้างอิงเท็จ

การลงโทษที่หนักขึ้น

สัปดาห์ที่แล้ว ผู้พิพากษาแห่งศาลกลาง Sharion Aycock ลงโทษทนายทั้งสองฝ่ายในคดีแพ่งใน Mississippi หลังยื่นเอกสารที่อ้างอิงคดีที่ไม่มีอยู่จริง ทนาย 4 คนถูกปรับรวม 8,000 ดอลลาร์ และ 2 คนถูกห้ามปรากฏตัวในศาลแขวงเหนือ Mississippi เป็นเวลา 2 ปี

Charlotin ชี้ให้เห็นว่า AI ถนัดในการจดจำรูปแบบ และการอ้างอิงกฎหมายมีรูปแบบคงที่ ทำให้ AI สามารถสร้างข้อมูลปลอมได้ง่าย เขาแนะนำว่าทนายต้องตรวจสอบการอ้างอิงทุกครั้ง เนื่องจากไม่มีทนายคนไหนรู้คดีในอดีตทั้งหมด