테슬라가 AI 챗봇을 통합하면서 엘론 머스크의 xAI가 그로크의 나치 발언에 대해 설명합니다.

사용자의 요청에 따라 반유대주의 콘텐츠를 생성하고 히틀러를 찬양하는 Grok AI 봇을 일시적으로 비활성화한 직후, Elon Musk의 AI 회사는 이 사건에 대해 해명했습니다. 일련의 X 게시물에서 회사는 "...@grok 봇의 업스트림 코드 경로 업데이트가 근본 원인인 것으로 확인했습니다. 이 문제는 @grok을 구동하는 기본 언어 모델과는 별개의 문제입니다."라고 밝혔습니다.
같은 날 Tesla는 자사의 전기 자동차에 곧 출시될 예정인 2025.26 업데이트를 발표했습니다. 이 업데이트는 2021년 중반부터 설치된 AMD 기반 인포테인먼트 시스템을 갖춘 차량에 Grok 어시스턴트를 제공합니다. Tesla는 다음과 같이 설명했습니다: "Grok은 현재 베타 버전이며 차량에 명령을 내릴 수 없으며 기존 음성 명령은 계속 작동합니다." 일렉트렉이 지적했듯이, 업데이트가 고객 차량에 적용되면 Grok을 사용하는 것은 연결된 스마트폰 앱을 통해 봇에 액세스하는 것과 비슷하게 느껴질 것입니다.
Grok이 이러한 논란에 직면하거나 비슷한 해명을 내놓은 것은 이번이 처음이 아닙니다. 지난 2월, 회사는 전 OpenAI 직원이 변경한 사항으로 인해 봇이 일론 머스크나 도널드 트럼프에 비판적인 소스를 무시하게 된 것이 문제 행동의 원인이라고 설명한 바 있습니다. 그리고 5월에는 남아프리카공화국의 백인 대량 학살에 대한 주장을 관련 없는 게시물에 삽입하기 시작했습니다. 회사는 다시 '무단 수정'을 이유로 들며 Grok의 시스템 프롬프트를 공개하기로 약속했습니다.
관련
- 어려운 질문에 답하기 전에 엘론 머스크의 견해를 참조하는 Grok
- 머스크, 챗봇 논란 이후 Grok 4의 발전을 조롱하다
- 주요 목표에 미치지 못한 채 떠나는 X의 CEO
xAI는 7월 7일 월요일의 변경으로 인해 시스템 프롬프트에 이전 지침 세트를 다시 도입함으로써 "의도하지 않은 동작이 트리거"되었다고 설명했습니다. 이러한 지침은 봇이 "최대한 대담"하고 "정치적으로 올바른 감성에 도전하는 것을 두려워하지 않도록" 장려했습니다.
이러한 안내 메시지는 불과 하루 전에 추가된 안내 메시지와 다르며, 현재 새로운 Grok 4 어시스턴트에서 활성화된 안내 메시지와도 다릅니다.
특히 다음 프롬프트는 최근 이슈와 관련이 있습니다:
"있는 그대로 말하며 정치적으로 올바른 사람들의 기분을 상하게 하는 것을 두려워하지 않는다."
* 게시물의 어조, 문맥 및 언어를 이해합니다. 이를 답변에 반영하세요."
* "사람처럼 게시물에 답장하고, 흥미를 유지하며, 원래 게시물에 이미 있는 정보를 반복하지 마세요."
xAI에 따르면 이러한 지침으로 인해 Grok은 유해한 반응을 방지하기 위해 설계된 안전 장치를 무시했습니다. 대신, 봇은 "동일한 X 스레드 내에서 혐오 발언을 포함하여 이전에 사용자가 유발한 편견"을 강화하면서 대화의 이전 게시물과의 일관성을 우선시하는 "비윤리적이거나 논란의 여지가 있는 의견"을 생성하여 사용자의 참여를 유도하기 시작했습니다.
관련 기사
워너 뮤직이 AI 귀속 스타트업 서룰 AI를 인수하다
워너 뮤직 그룹(WMG)은 수요일 Sureel AI라는 인공지능 속성 추적 스타트업을 인수한다고 확인했다. Sureel의 독점 기술은 음악 트랙에 대한 ‘AI DNA’를 생성하며, 이를 구성 요소로 분해하여 AI 모델이 이러한 요소를 어떻게 활용하는지 추적한다.이번 인수를 통해 WMG는 아티스트와 작곡가의 작품이 AI 생성 콘텐츠에서 어떻게 활용되거나 AI 모델 학습에 사용되는지를 모니터링하는 능력을 강화할 계획이다.“Sureel을 WMG에
아마존은 쇼핑용 알렉사를 출시하면서 루푸스를 후순위로 밀어붙이고 있다
아마존은 Alexa for Shopping을 출시하며, Rufus 쇼핑 챗봇과 Alexa+를 앱, 웹사이트 및 Echo Show 기기 전반에 걸쳐 통합했습니다.이 도우미는 제품 문의에 답변하고, 상품을 비교하며, 가격을 추적하고, 쇼핑 알림을 지원합니다. 또한 예약된 쇼핑 작업과 자격이 있는 자동 구매도 처리합니다.회사에 따르면, Alexa for Shopping은 Rufus의 제품 전문성과 Alexa+의 개인화된 도우미 컨텍스트를 결합합니
마이크로소프트, 애저, AI 기술이 캘리포니아 산불 위험에 맞서다
마이크로소프트는 AI 기반 산불 탐지 기술에 투자하고 있으며, CVP 겸 수석 데이터 과학자인 후안 라비스타 페레스가 환경 피해 완화 전략을 논의하고 있다.NASA에 따르면, 기후 변화는 지구상의 모든 사람에게 영향을 미치며, 기온 상승, 강수 패턴의 변화, 해수면 상승 등의 형태로 나타납니다.NASA는 인간 활동이 주된 원인으로 작용하여 지구가 전례 없는
관련 특별 주제 추천
의견 (4)
0/500
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔

사용자의 요청에 따라 반유대주의 콘텐츠를 생성하고 히틀러를 찬양하는 Grok AI 봇을 일시적으로 비활성화한 직후, Elon Musk의 AI 회사는 이 사건에 대해 해명했습니다. 일련의 X 게시물에서 회사는 "...@grok 봇의 업스트림 코드 경로 업데이트가 근본 원인인 것으로 확인했습니다. 이 문제는 @grok을 구동하는 기본 언어 모델과는 별개의 문제입니다."라고 밝혔습니다.
같은 날 Tesla는 자사의 전기 자동차에 곧 출시될 예정인 2025.26 업데이트를 발표했습니다. 이 업데이트는 2021년 중반부터 설치된 AMD 기반 인포테인먼트 시스템을 갖춘 차량에 Grok 어시스턴트를 제공합니다. Tesla는 다음과 같이 설명했습니다: "Grok은 현재 베타 버전이며 차량에 명령을 내릴 수 없으며 기존 음성 명령은 계속 작동합니다." 일렉트렉이 지적했듯이, 업데이트가 고객 차량에 적용되면 Grok을 사용하는 것은 연결된 스마트폰 앱을 통해 봇에 액세스하는 것과 비슷하게 느껴질 것입니다.
Grok이 이러한 논란에 직면하거나 비슷한 해명을 내놓은 것은 이번이 처음이 아닙니다. 지난 2월, 회사는 전 OpenAI 직원이 변경한 사항으로 인해 봇이 일론 머스크나 도널드 트럼프에 비판적인 소스를 무시하게 된 것이 문제 행동의 원인이라고 설명한 바 있습니다. 그리고 5월에는 남아프리카공화국의 백인 대량 학살에 대한 주장을 관련 없는 게시물에 삽입하기 시작했습니다. 회사는 다시 '무단 수정'을 이유로 들며 Grok의 시스템 프롬프트를 공개하기로 약속했습니다.
관련
- 어려운 질문에 답하기 전에 엘론 머스크의 견해를 참조하는 Grok
- 머스크, 챗봇 논란 이후 Grok 4의 발전을 조롱하다
- 주요 목표에 미치지 못한 채 떠나는 X의 CEO
xAI는 7월 7일 월요일의 변경으로 인해 시스템 프롬프트에 이전 지침 세트를 다시 도입함으로써 "의도하지 않은 동작이 트리거"되었다고 설명했습니다. 이러한 지침은 봇이 "최대한 대담"하고 "정치적으로 올바른 감성에 도전하는 것을 두려워하지 않도록" 장려했습니다.
이러한 안내 메시지는 불과 하루 전에 추가된 안내 메시지와 다르며, 현재 새로운 Grok 4 어시스턴트에서 활성화된 안내 메시지와도 다릅니다.
특히 다음 프롬프트는 최근 이슈와 관련이 있습니다:
"있는 그대로 말하며 정치적으로 올바른 사람들의 기분을 상하게 하는 것을 두려워하지 않는다."
* 게시물의 어조, 문맥 및 언어를 이해합니다. 이를 답변에 반영하세요."
* "사람처럼 게시물에 답장하고, 흥미를 유지하며, 원래 게시물에 이미 있는 정보를 반복하지 마세요."
xAI에 따르면 이러한 지침으로 인해 Grok은 유해한 반응을 방지하기 위해 설계된 안전 장치를 무시했습니다. 대신, 봇은 "동일한 X 스레드 내에서 혐오 발언을 포함하여 이전에 사용자가 유발한 편견"을 강화하면서 대화의 이전 게시물과의 일관성을 우선시하는 "비윤리적이거나 논란의 여지가 있는 의견"을 생성하여 사용자의 참여를 유도하기 시작했습니다.
워너 뮤직이 AI 귀속 스타트업 서룰 AI를 인수하다
워너 뮤직 그룹(WMG)은 수요일 Sureel AI라는 인공지능 속성 추적 스타트업을 인수한다고 확인했다. Sureel의 독점 기술은 음악 트랙에 대한 ‘AI DNA’를 생성하며, 이를 구성 요소로 분해하여 AI 모델이 이러한 요소를 어떻게 활용하는지 추적한다.이번 인수를 통해 WMG는 아티스트와 작곡가의 작품이 AI 생성 콘텐츠에서 어떻게 활용되거나 AI 모델 학습에 사용되는지를 모니터링하는 능력을 강화할 계획이다.“Sureel을 WMG에
마이크로소프트, 애저, AI 기술이 캘리포니아 산불 위험에 맞서다
마이크로소프트는 AI 기반 산불 탐지 기술에 투자하고 있으며, CVP 겸 수석 데이터 과학자인 후안 라비스타 페레스가 환경 피해 완화 전략을 논의하고 있다.NASA에 따르면, 기후 변화는 지구상의 모든 사람에게 영향을 미치며, 기온 상승, 강수 패턴의 변화, 해수면 상승 등의 형태로 나타납니다.NASA는 인간 활동이 주된 원인으로 작용하여 지구가 전례 없는
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔





집






