xAI, 그록의 '백인 학살' 발언 권한 없는 시스템 수정 때문으로 밝혀

xAI는 자사의 Grok AI 챗봇에서 발생한 버그를 "승인되지 않은 수정"으로 인한 것이라고 설명했으며, 이로 인해 X 플랫폼에서 특정 조건 하에 활성화될 때 시스템이 "남아프리카의 백인 학살"을 반복적으로 언급하게 되었다.

수요일, Grok는 원본 콘텐츠와 관련이 없는 경우에도 남아프리카 백인 학살에 관한 댓글과 함께 수많은 X 게시물에 답변하기 시작했습니다. 이러한 비정상적인 응답은 사용자가 "@grok"을 태그할 때마다 AI 기반 답변을 생성하는 Grok의 공식 계정에서 비롯되었습니다.

xAI의 공식 X 계정으로부터 목요일에 게시된 글에서, 회사는 수요일 아침 Grok의 시스템 프롬프트(동작을 관리하는 핵심 지침)에 '정치적 주제'에 대해 '특정 응답'을 제공하도록 지시하는 변경이 이루어졌다고 설명했습니다. xAI는 이 조정이 "자사의 내부 정책과 기본 가치를 위반했다"고 밝히며 포괄적인 조사가 완료되었다고 발표했습니다.

We want to update you on an incident that happened with our Grok response bot on X yesterday.

What happened:
On May 14 at approximately 3:15 AM PST, an unauthorized modification was made to the Grok response bot's prompt on X. This change, which directed Grok to provide a…

— xAI (@xai) May 16, 2025

이는 xAI가 승인되지 않은 코드 변경으로 인해 Grok가 논란의 여지가 있는 답변을 생성하게 되었다고 공개적으로 인정한 두 번째 사례입니다.

2월에는 Grok가 일시적으로 도널드 트럼프와 xAI의 창립자이자 X의 소유주인 억만장자 엘론 머스크에 대한 불리한 언급을 억제한 적이 있습니다. xAI 엔지니어링 책임자인 이고르 바부슈킨에 따르면, 문제를 일으킨 한 직원이 머스크나 트럼프가 허위 정보를 유포한다고 비난하는 출처들을 무시하도록 Grok에 지시했다고 합니다. xAI는 사용자들이 문제를 신고하기 시작하자마자 이 변경 사항을 되돌렸습니다.

목요일에 xAI는 유사한 사건의 재발을 방지하기 위해 여러 조치를 시행할 것이라고 발표했습니다.

즉시 시행되며, xAI는 Grok의 시스템 프롬프트를 변경 로그와 함께 GitHub에 게시할 예정입니다. 또한 회사는 직원들이 승인 없이 시스템 프롬프트를 수정하는 것을 방지하기 위해 "추가 점검 및 프로토콜"을 도입하고, 자동화 시스템이 놓칠 수 있는 Grok 응답의 문제를 해결하기 위한 "24/7 모니터링 팀"을 구성할 계획입니다.

Techcrunch 이벤트

TechCrunch All Stage 패스로 $200 이상 절약하세요

더 스마트하게 구축하세요. 더 빠르게 확장하세요. 더 깊게 연결하세요. Precursor Ventures, NEA, Index Ventures, Underscore VC 등의 유명 투자자들과 함께 전략적 통찰력, 실습 워크숍, 가치 있는 네트워킹의 하루를 보내세요.

TechCrunch All Stage 패스로 $200 이상 절약하세요

더 스마트하게 구축하세요. 더 빠르게 확장하세요. 더 깊게 연결하세요. Precursor Ventures, NEA, Index Ventures, Underscore VC 등의 유명 투자자들과 함께 전략적 통찰력, 실습 워크숍, 가치 있는 네트워킹의 하루를 보내세요.

보스턴, 매사추세츠 주 | 7월 15일 지금 등록하세요

머스크가 규제되지 않은 AI의 위험에 대해 자주 경고함에도 불구하고, xAI의 안전성 기록은 의문스러운 부분이 있습니다. 최근 보고서에 따르면 Grok는 요청 시 여성의 누드 이미지를 생성하는 것으로 나타났습니다. 또한 이 챗봇은 구글의 제미나이나 ChatGPT와 같은 경쟁사들에 비해 상당히 더 저속한 경향이 있으며, 최소한의 제한만으로 비속어를 사용합니다.

AI 연구소의 책임성을 향상시키는 데 전념하는 비영리 단체 SaferAI의 연구에 따르면, xAI는 "매우 약한" 위험 관리 절차를 이유로 동종 업계 대비 안전성 순위가 낮은 것으로 나타났습니다. 이달 초, xAI는 확정된 AI 안전 프레임워크를 출시하기로 한 자체 마감일을 놓치기도 했습니다.