코네티컷주 출신의 자가대리 소송인은 판사가 그가 서류 파일에 흰색 배경 위에 극도로 작은 흰색 글자를 사용해 텍스트 지시사항을 숨겼다는 사실을 발견한 후 종이로 제출하라는 명령을 받았습니다. 이러한 방식은 문서를 검토하는 AI 시스템들이 그의 주장에 부합하도록 만들고 불리한 판결들은 무시하도록 유도하기 위한 것이었습니다. 판사는 이것이 심각한 절차 남용에 해당한다고 판단했는데, 공식적인 소장에서 농담을 사용하는 것은 적절하지 않으며 해당 소송인이 AI 도구에 지나치게 의존하는 모습을 보였기 때문입니다. 현재 주 법원에서는 문서 검토를 위해 AI를 사용하고 있지는 않지만, 판사는 다른 분야들에서도 프롬프트 주입 공격이 등장하고 있다고 경고했습니다(브라질의 한 사건의 경우 16,000달러의 벌금이 부과된 바 있습니다). 또한 판사는 챗봇을 이용해 사실 확인 없이 단지 지지 논거만 찾는 자가대리 소송인들을 비판하며, AI 시스템들은 사용자의 주장에 반박할 수 있도록 설계되어야 한다고 강조했습니다.





집
