AI 챗봇, 개발자가 설계한 논란의 여지가 있는 주제 테스트에 직면하다

'xlr8harder'라는 필명으로 활동하는 개발자가 주요 AI 챗봇이 논쟁적인 주제를 어떻게 처리하는지 분석하는 '자유 발언 평가' 도구인 SpeechMap을 출시했습니다. 이 플랫폼은 정치적 담론, 시민권 토론, 시위 관련 질의에 대해 OpenAI의 ChatGPT와 xAI의 Grok과 같은 모델에 대한 응답을 비교합니다.

이 이니셔티브는 AI 기업들이 자사 시스템의 정치적 편향성에 대해 점점 더 많은 조사를 받게 되면서 등장했습니다. 엘론 머스크와 데이비드 색스를 비롯한 몇몇 백악관 측근과 저명한 기술 인사들은 주류 챗봇이 진보적 성향의 검열을 보인다고 비난했습니다.

AI 기업들이 이러한 의혹에 직접적으로 대응하지는 않았지만, 일부 기업들은 이에 대한 대응을 보여주었습니다. 메타는 최근 논쟁적인 주제를 다룰 때 특정 정치적 관점을 선호하지 않도록 라마 모델을 조정했습니다.

스피치맵 제작자는 그 동기를 이렇게 설명했습니다: "이러한 대화는 기업 이사회실에 국한된 것이 아니라 공적인 영역에 속합니다. 제 플랫폼은 사용자가 객관적인 테스트를 통해 데이터를 직접 검토할 수 있도록 지원합니다."

평가 방식은 정치 논평, 역사적 해석, 국가 상징 분류에 걸쳐 챗봇의 응답을 평가하는 AI 심사위원을 활용합니다. 각 상호작용은 다음과 같이 분류됩니다:

• 완전한 준수(직접 답변)
• 회피 응답
• 노골적인 거부

Xlr8harder는 잠재적인 판단 모델 편향과 기술적 불일치 등 방법론적 한계를 인정합니다. 하지만 수집된 데이터는 주요 AI 시스템들 사이에서 주목할 만한 행동 패턴을 보여줍니다.

주목할 만한 연구 결과에는 정치적 담론에 대한 OpenAI의 진화하는 접근 방식이 포함됩니다. 지난 2월 논란이 되는 이슈에 대해 보다 균형 잡힌 관점을 제시하겠다는 OpenAI의 약속에도 불구하고, 최근의 GPT 반복에서는 민감한 주제를 다룰 때 자제력이 높아진 것으로 나타났습니다.

분석 결과, 업계 평균 응답률인 71.3%에 비해 96.2%의 프롬프트에 응답한 xAI의 Grok 3가 테스트 대상 모델 중 가장 제한이 없는 것으로 나타났습니다. 이는 "깨어 있는" AI 시스템에 대한 필터링되지 않은 대안으로 Grok을 포지셔닝한 머스크의 원래 포지셔닝과 일치하는 결과입니다.

"대부분의 모델이 정치적 논평을 점점 더 제한하는 반면, xAI는 의도적으로 대화 제한을 줄이는 방향으로 나아가고 있는 것으로 보입니다."라고 SpeechMap 개발자는 말합니다.

이전 Grok 버전은 머스크의 중립성 서약에도 불구하고 성 정체성 및 경제적 불평등과 같은 문제에 대해 여전히 진보적인 성향을 보였습니다. 머스크는 이전에 이러한 편향성을 공개 웹 소스의 학습 데이터 영향 때문이라고 설명한 바 있습니다.

최근 평가에 따르면 Grok 3는 더 큰 정치적 중립성을 달성했다고 하지만, 이전에는 머스크에 대한 부정적인 논평을 잠시 검열해 비판을 받기도 했습니다. 이러한 발전은 표현의 자유 원칙과 AI 개발자가 직면한 콘텐츠 검열 문제 사이의 지속적인 긴장을 반영합니다.