chatgpt는 명예 훼손 오류로 인해 개인 정보 불만에 직면합니다

OpenAI는 유럽에서 또다시 곤경에 처해 있으며, 이번에는 AI 챗봇이 잘못된 정보를 퍼뜨리는 습관 때문에 문제가 되고 있습니다. 옹호 단체 Noyb가 지원하는 이번 개인정보 보호 불만은 규제 당국이 쉽게 무시할 수 없는 사안일 수 있습니다.

이 불만은 노르웨이에서 발생한 충격적인 사건에서 비롯되었습니다. ChatGPT가 Arve Hjalmar Holmen이라는 남성이 두 명의 자녀를 살해하고 세 번째 자녀를 살해하려 한 혐의로 유죄 판결을 받았다고 거짓으로 주장했습니다. 이 충격적인 날조는 지역 사회를 충격에 빠뜨렸습니다.

과거 ChatGPT의 부정확성에 대한 불만은 잘못된 생년월일이나 전기적 오류와 같은 사소한 세부 사항에 관한 것이었습니다. 주요 문제는 OpenAI가 개인이 자신에 대해 생성된 잘못된 정보를 수정할 수 있도록 허용하지 않는다는 점입니다. 대신, OpenAI는 종종 특정 프롬프트에 대한 응답을 차단하는 방식을 선택합니다. 그러나 유럽연합의 일반 데이터 보호 규정(GDPR)에 따르면, 유럽인들은 개인 데이터를 수정할 수 있는 권리를 포함한 권리를 가지고 있습니다.

GDPR은 또한 데이터 컨트롤러가 생성하는 개인 데이터의 정확성을 보장해야 한다고 명시하고 있습니다. Noyb는 ChatGPT에 대한 최신 불만에서 이 요구사항을 강조하고 있습니다.

Noyb의 데이터 보호 변호사 Joakim Söderberg는 다음과 같이 강조했습니다: "GDPR은 명확합니다. 개인 데이터는 정확해야 합니다. 그렇지 않을 경우, 사용자는 이를 진실을 반영하도록 변경할 권리가 있습니다. ChatGPT 사용자에게 챗봇이 실수를 할 수 있다는 작은 면책 조항을 보여주는 것만으로는 분명히 충분하지 않습니다. 잘못된 정보를 퍼뜨리고 마지막에 당신이 말한 모든 것이 사실이 아닐 수 있다는 작은 면책 조항을 추가할 수는 없습니다."

GDPR 위반은 회사 글로벌 연간 매출의 최대 4%에 달하는 무거운 벌금으로 이어질 수 있습니다. 집행 조치는 또한 AI 제품의 변경으로 이어질 수 있습니다. 예를 들어, 이탈리아의 데이터 보호 당국은 2023년 초 ChatGPT를 일시적으로 차단하여 OpenAI가 사용자에게 제공하는 정보를 수정하도록 촉발했습니다. 이후 당국은 적절한 법적 근거 없이 데이터를 처리한 혐의로 OpenAI에 1,500만 유로의 벌금을 부과했습니다.

그 이후로 유럽의 개인정보 보호 감독 기관들은 생성 AI(GenAI)를 규제하는 데 더욱 신중을 기하고 있으며, GDPR이 이러한 신기술에 어떻게 적용되는지 파악하려고 노력하고 있습니다. 예를 들어, 아일랜드의 데이터 보호 위원회(DPC)는 GenAI 도구를 급하게 금지하는 것에 대해 신중한 접근을 권고했습니다. 한편, 2023년 9월 폴란드에서 제기된 ChatGPT에 대한 개인정보 보호 불만은 아직 해결되지 않은 상태입니다.

Noyb의 새로운 불만은 AI 환각이 초래하는 위험에 대해 개인정보 보호 규제 당국이 행동에 나서도록 촉진하는 것을 목표로 합니다.

TechCrunch와 공유된 스크린샷은 "Arve Hjalmar Holmen이 누구인가?"라는 질문에 대한 ChatGPT의 응답을 보여줍니다. 이는 Holmen이 자녀 살해 혐의로 유죄 판결을 받고 21년 형을 선고받았다고 거짓으로 주장했습니다. 이 주장은 전혀 사실이 아니지만, ChatGPT는 Holmen에게 세 자녀가 있고, 그들의 성별을 정확히 언급했으며, 그의 고향을 정확히 명시했습니다. 진실과 허구가 섞인 이러한 혼합은 AI의 환각을 더욱 불안하게 만듭니다.

Noyb의 대변인은 신문 아카이브를 철저히 조사했음에도 불구하고 ChatGPT가 Holmen에 대해 왜 그렇게 구체적인 거짓 내러티브를 생성했는지 정확히 파악할 수 없었습니다.

ChatGPT에 사용된 대형 언어 모델은 대규모로 다음 단어를 예측하며, 이는 자녀 살해 이야기와 같은 데이터셋이 응답에 영향을 미쳤을 가능성을 설명할 수 있습니다. 이유가 무엇이든, 이러한 출력은 분명히 받아들일 수 없습니다.

Noyb는 이러한 날조가 EU 데이터 보호 규정에 따라 불법이라고 주장합니다. OpenAI의 잠재적 실수에 대한 면책 조항은 개인에 대한 심각한 거짓을 생성하지 않도록 요구하는 GDPR의 요구사항에서 면제되지 않습니다.

이 불만에 대한 응답으로 OpenAI 대변인은 다음과 같이 말했습니다: "우리는 모델의 정확성을 개선하고 환각을 줄이기 위해 새로운 방법을 계속 연구하고 있습니다. 이 불만을 아직 검토 중이지만, 이는 이후 온라인 검색 기능을 통해 정확성이 개선된 ChatGPT 버전과 관련이 있습니다."

이 불만은 한 개인에 초점을 맞추고 있지만, Noyb는 ChatGPT가 호주 시장을 뇌물 스캔들에 연루시키거나 독일 언론인을 아동 학대 혐의로 거짓으로 연루시키는 등 해로운 정보를 날조한 다른 사례를 지적합니다.

기본 AI 모델 업데이트 후, Noyb는 ChatGPT가 이제 인터넷에서 개인에 대한 정보를 검색하기 때문에 Holmen에 대한 거짓 주장을 생성하지 않는다고 언급했습니다.

우리의 자체 테스트에서 ChatGPT는 처음에 Holmen에 대해 "정보를 찾을 수 없다"고 메시지와 함께 다른 사람들의 사진을 보여주었습니다. 이후 질의에서는 그를 "노르웨이 음악가이자 작곡가"로 식별하며 "Honky Tonk Inferno"와 같은 앨범을 언급했습니다.

Holmen에 대한 위험한 거짓이 중단되었지만, Noyb와 Holmen은 여전히 잘못되고 명예훼손적인 정보가 AI 모델 내에 여전히 유지될 수 있다는 우려를 가지고 있습니다.

Noyb의 또 다른 데이터 보호 변호사 Kleanthi Sardeli는 다음과 같이 말했습니다: "법을 준수하지 않는다는 면책 조항을 추가한다고 해서 법이 사라지는 것은 아닙니다. AI 회사들은 내부적으로 여전히 잘못된 정보를 처리하면서 사용자에게 잘못된 정보를 숨길 수 없습니다. AI 회사들은 GDPR이 자신들에게 적용되지 않는 것처럼 행동해서는 안 됩니다. 환각이 멈추지 않는다면, 사람들은 쉽게 명예 손상을 입을 수 있습니다."

Noyb는 이 불만을 노르웨이의 데이터 보호 당국에 제출했으며, 이 불만이 OpenAI의 미국 법인뿐만 아니라 아일랜드 사무소를 대상으로 하기 때문에 조사가 이루어지기를 희망하고 있습니다. 2024년 4월 오스트리아에서 Noyb가 제기한 이전 GDPR 불만은 OpenAI가 아일랜드 지사를 유럽 사용자에게 ChatGPT 서비스 제공자로 지정했기 때문에 아일랜드 DPC로 이관되었습니다.

그 불만은 아직 DPC에서 검토 중이며, 해결 시점이 명확하지 않습니다.

이 보고서는 OpenAI의 성명으로 업데이트되었습니다