Thẩm phán chỉ trích AI Doanh nhân vì đã sử dụng 'luật sư' do AI tạo ra tại tòa án

Động thái táo bạo của một người đàn ông để sử dụng hình đại diện do AI tạo ra trong kháng cáo pháp lý của anh ta chắc chắn đã thu hút sự chú ý của một phòng xử án ở New York, mặc dù không theo cách anh ta có thể hy vọng.

Jerome Dewald, một doanh nhân 74 tuổi đằng sau một công ty khởi nghiệp tuyên bố "cách mạng hóa sự tự đại diện hợp pháp với AI", đã phải đối mặt với một lời quở trách nghiêm khắc trong phiên điều trần tranh chấp việc làm vào ngày 26 tháng 3. Vấn đề? Anh ta đã không tiết lộ cho các thẩm phán rằng người trình bày lập luận bằng miệng của anh ta được tạo ra một cách giả tạo. Mặc dù tòa án đã cho Dewald ánh sáng xanh để gửi một video, Justice Sallie Manzanet-Daniels đã bị bất ngờ khi một khuôn mặt xa lạ, rõ ràng không phải là Dewald, xuất hiện trên màn ảnh.

"Giữ lấy," Manzanet-Daniels xen vào, hầu như không phải là một câu trong bài phát biểu của Avatar. "Đó có phải là luật sư cho vụ án không?"

"Tôi đã tạo ra điều đó," Dewald thừa nhận. "Đó không phải là một người thực sự."

Dewald giải thích với * Đăng ký * rằng Avatar, một "người đàn ông lớn, xinh đẹp của một anh chàng" tên là Jim, là một trong những lựa chọn cổ phiếu từ một công ty Avatar AI tên là Tavus. Anh ấy đã gửi video do những thách thức của anh ấy với việc nói kéo dài, nhưng tòa án không biết rằng video được tạo ra AI.

"Thật tuyệt khi biết rằng khi bạn thực hiện ứng dụng của mình. Bạn đã không nói với tôi rằng, thưa ngài, tôi không đánh giá cao việc bị lừa", Manzanet-Daniels vặn lại sau lời thú nhận của Dewald. "Bạn sẽ không sử dụng phòng xử án này như một buổi ra mắt cho doanh nghiệp của bạn."

Những rủi ro AI gần đây trong cài đặt hợp pháp

Sự cố này là một phần của danh sách các rủi ro ngày càng tăng trong đó AI và các quy trình pháp lý giao nhau. Năm 2023, hai luật sư và công ty luật của họ đã phải đối mặt với các hình phạt vì đã gửi nghiên cứu pháp lý giả tưởng được tạo ra bởi TATGPT. Tương tự, công ty "Luật sư robot" Donotpay đã bị FTC tát với khoản thanh toán 193.000 đô la vào tháng Hai vì tuyên bố sai rằng đại diện pháp lý AI của nó phù hợp với hiệu quả của luật sư người.

Những trường hợp này nhấn mạnh tầm quan trọng của tính minh bạch và thận trọng khi tích hợp AI vào các thủ tục tố tụng. Khi công nghệ tiếp tục phát triển, điều quan trọng đối với người dùng là phải thẳng thắn về việc sử dụng các công cụ AI của họ để duy trì tính toàn vẹn và niềm tin trong hệ thống tư pháp.