Quan tòa chỉ trích luật sư về nghiên cứu AI giả mạo

Quan Chế Phạt Các Văn Phòng Luật Vì Sử Dụng AI Không Minh Bạch

Trong một phán quyết gần đây, Thẩm phán bang California Michael Wilner đã phạt hai văn phòng luật nổi tiếng số tiền $31,000 vì đã sử dụng công nghệ trí tuệ nhân tạo (AI) một cách bí mật trong một vụ kiện dân sự. Theo Thẩm phán Wilner, các văn phòng này đã nộp một bản kiến nghị chứa đầy "những tài liệu tham khảo và trích dẫn pháp luật sai lệch và gây hiểu nhầm." Theo báo cáo của các giáo sư luật Eric Goldman và Blake Reid trên Bluesky, thẩm phán bày tỏ sự thất vọng trước hành vi coi thường tiêu chuẩn chuyên nghiệp một cách thiếu thận trọng. "Tôi đã tin vào bản kiến nghị tôi đọc," Thẩm phán Wilner viết trong phán quyết của mình. "Tôi đã bị thuyết phục bởi các tài liệu tham chiếu, vì vậy tôi đã đào sâu hơn để tự nghiên cứu các vụ việc đó. Nhưng chúng không tồn tại. Nó thật khủng khiếp. Tôi suýt ký một lệnh tư pháp dựa trên thông tin giả mạo." Theo các tài liệu tòa án, vấn đề bắt đầu khi đội ngũ luật sư của nguyên đơn thuê một công cụ AI để xây dựng dàn ý cho một bản kiến nghị bổ sung. Tuy nhiên, khi giao cho văn phòng luật K&L Gates, văn phòng luật khác liên quan đến vụ kiện, dàn ý này đã chứa đầy nội dung giả mạo. Đáng tiếc là cả hai văn phòng đều không kiểm tra hoặc xác minh thông tin trước khi nộp. Thẩm phán Wilner phát hiện rằng "ít nhất hai trong số các tài liệu tham chiếu được đề cập là hoàn toàn không tồn tại." Khi bị yêu cầu giải thích, K&L Gates đã nộp lại bản kiến nghị, nhưng thẩm phán lại phát hiện thêm nhiều tài liệu tham chiếu giả mạo khác. Trong phản ứng, ông đã ban hành lệnh yêu cầu giải trình, khiến cả hai bên thừa nhận sự thật dưới lời thề. Luật sư chịu trách nhiệm tạo ra dàn ý ban đầu thú nhận rằng mình đã sử dụng Google Gemini và các công cụ nghiên cứu pháp luật như Westlaw Precision với CoCounsel. Một Mô Hình Sai Phạm

Đây không phải là trường hợp đầu tiên các luật sư gặp rắc rối vì sử dụng AI sai mục đích. Cựu luật sư của Trump, Michael Cohen, từng trích dẫn các vụ án không tồn tại sau khi vô tình coi Google Gemini, khi đó còn gọi là Bard, như một công cụ tìm kiếm bình thường. Tương tự, một thẩm phán ở Colombia phát hiện rằng các luật sư kiện một hãng hàng không đã xen kẽ các vụ án giả mạo được tạo ra bởi ChatGPT trong bản kiến nghị của họ. "Toàn bộ sự việc này thực sự đáng lo ngại," Thẩm phán Wilner kết luận. "Quyết định ban đầu để sử dụng AI mà không công khai là không thể chấp nhận. Gửi các tài liệu sai lệch này đến các chuyên gia khác mà không cảnh báo về nguồn gốc đáng ngờ của nó đã đặt mọi người vào tình thế nguy hiểm." Những Hệ Lụy To Lớn Hơn

Phán quyết này nhấn mạnh mối quan tâm ngày càng tăng trong giới luật pháp về những hệ quả đạo đức của việc sử dụng AI trong các hồ sơ tòa án. Mặc dù các công cụ AI hứa hẹn hiệu quả và độ chính xác, nhưng chúng cũng mang nguy cơ lan truyền thông tin sai lệch nếu không được kiểm duyệt kỹ lưỡng. Như Thẩm phán Wilner nhấn mạnh, "Không một luật sư có năng lực nào nên giao việc nghiên cứu hoặc viết lách cho một thuật toán mà không kiểm tra đầu ra của nó." Vụ việc này là lời nhắc nhở mạnh mẽ về tầm quan trọng của minh bạch và trách nhiệm trong nghề luật. Khi AI tiếp tục phát triển, điều quan trọng vẫn là các chuyên gia phải cẩn trọng, đảm bảo rằng công nghệ này không làm suy yếu mà phải nâng cao tính toàn vẹn của hệ thống tư pháp.