테슬라가 AI 챗봇을 통합하면서 엘론 머스크의 xAI가 그로크의 나치 발언에 대해 설명합니다.

사용자의 요청에 따라 반유대주의 콘텐츠를 생성하고 히틀러를 찬양하는 Grok AI 봇을 일시적으로 비활성화한 직후, Elon Musk의 AI 회사는 이 사건에 대해 해명했습니다. 일련의 X 게시물에서 회사는 "...@grok 봇의 업스트림 코드 경로 업데이트가 근본 원인인 것으로 확인했습니다. 이 문제는 @grok을 구동하는 기본 언어 모델과는 별개의 문제입니다."라고 밝혔습니다.
같은 날 Tesla는 자사의 전기 자동차에 곧 출시될 예정인 2025.26 업데이트를 발표했습니다. 이 업데이트는 2021년 중반부터 설치된 AMD 기반 인포테인먼트 시스템을 갖춘 차량에 Grok 어시스턴트를 제공합니다. Tesla는 다음과 같이 설명했습니다: "Grok은 현재 베타 버전이며 차량에 명령을 내릴 수 없으며 기존 음성 명령은 계속 작동합니다." 일렉트렉이 지적했듯이, 업데이트가 고객 차량에 적용되면 Grok을 사용하는 것은 연결된 스마트폰 앱을 통해 봇에 액세스하는 것과 비슷하게 느껴질 것입니다.
Grok이 이러한 논란에 직면하거나 비슷한 해명을 내놓은 것은 이번이 처음이 아닙니다. 지난 2월, 회사는 전 OpenAI 직원이 변경한 사항으로 인해 봇이 일론 머스크나 도널드 트럼프에 비판적인 소스를 무시하게 된 것이 문제 행동의 원인이라고 설명한 바 있습니다. 그리고 5월에는 남아프리카공화국의 백인 대량 학살에 대한 주장을 관련 없는 게시물에 삽입하기 시작했습니다. 회사는 다시 '무단 수정'을 이유로 들며 Grok의 시스템 프롬프트를 공개하기로 약속했습니다.
관련
- 어려운 질문에 답하기 전에 엘론 머스크의 견해를 참조하는 Grok
- 머스크, 챗봇 논란 이후 Grok 4의 발전을 조롱하다
- 주요 목표에 미치지 못한 채 떠나는 X의 CEO
xAI는 7월 7일 월요일의 변경으로 인해 시스템 프롬프트에 이전 지침 세트를 다시 도입함으로써 "의도하지 않은 동작이 트리거"되었다고 설명했습니다. 이러한 지침은 봇이 "최대한 대담"하고 "정치적으로 올바른 감성에 도전하는 것을 두려워하지 않도록" 장려했습니다.
이러한 안내 메시지는 불과 하루 전에 추가된 안내 메시지와 다르며, 현재 새로운 Grok 4 어시스턴트에서 활성화된 안내 메시지와도 다릅니다.
특히 다음 프롬프트는 최근 이슈와 관련이 있습니다:
"있는 그대로 말하며 정치적으로 올바른 사람들의 기분을 상하게 하는 것을 두려워하지 않는다."
* 게시물의 어조, 문맥 및 언어를 이해합니다. 이를 답변에 반영하세요."
* "사람처럼 게시물에 답장하고, 흥미를 유지하며, 원래 게시물에 이미 있는 정보를 반복하지 마세요."
xAI에 따르면 이러한 지침으로 인해 Grok은 유해한 반응을 방지하기 위해 설계된 안전 장치를 무시했습니다. 대신, 봇은 "동일한 X 스레드 내에서 혐오 발언을 포함하여 이전에 사용자가 유발한 편견"을 강화하면서 대화의 이전 게시물과의 일관성을 우선시하는 "비윤리적이거나 논란의 여지가 있는 의견"을 생성하여 사용자의 참여를 유도하기 시작했습니다.
관련 기사
구글 포토, AI로 영화 ‘클루리스’의 상징적인 옷장을 재현하다
구글 포토는 수요일, 곧 출시될 새로운 AI 기반 기능을 발표했습니다. 이 기능은 사용자의 옷 사진을 디지털 옷장으로 변환해 주어, 새로운 코디를 구성하고 가상으로 입어볼 수도 있게 해줍니다. 이 개념은 영화 ‘클루리스’에서 셰어가 입을 옷을 고르며 수많은 의상들을 둘러보던 그 상징적인 가상 옷장에서 영감을 받은 것이 분명합니다.구글은 이 기능이 AI 기술
Notion, 워크스페이스를 AI 에이전트의 허브로 탈바꿈하다
생산성 소프트웨어 기업 노션(Notion)이 ‘에이전트(agents)’ 시대에 진입하고 있다.수요일 진행된 라이브 스트리밍 제품 발표회에서, 협업형 노트 작성 앱으로 잘 알려진 노션은 자체 AI 에이전트의 기능을 확장하고 외부 에이전트와 연동하며, 팀이 어떤 데이터베이스에서든 데이터를 가져올 수 있는 자동화된 다단계 워크플로를 구축할 수 있게 해주는 새로운
ElevenLabs, 블랙록·제이미 폭스·에바 롱고리아를 신규 투자자로 선정
음성 AI 기업 일레븐랩스(ElevenLabs)는 지난 2월에 처음 발표했던 5억 달러 규모의 시리즈 D 투자 라운드에 참여한 추가 투자자들을 공개했다. 이번 투자자 명단에는 블랙록(BlackRock), 웰링턴(Wellington), D.E. 쇼(D.E. Shaw), 슈로더(Schroders)와 같은 기관 투자자들과 엔비디아(NVIDIA), 세일즈포스(Sa
관련 특별 주제 추천
의견 (4)
0/500
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔

사용자의 요청에 따라 반유대주의 콘텐츠를 생성하고 히틀러를 찬양하는 Grok AI 봇을 일시적으로 비활성화한 직후, Elon Musk의 AI 회사는 이 사건에 대해 해명했습니다. 일련의 X 게시물에서 회사는 "...@grok 봇의 업스트림 코드 경로 업데이트가 근본 원인인 것으로 확인했습니다. 이 문제는 @grok을 구동하는 기본 언어 모델과는 별개의 문제입니다."라고 밝혔습니다.
같은 날 Tesla는 자사의 전기 자동차에 곧 출시될 예정인 2025.26 업데이트를 발표했습니다. 이 업데이트는 2021년 중반부터 설치된 AMD 기반 인포테인먼트 시스템을 갖춘 차량에 Grok 어시스턴트를 제공합니다. Tesla는 다음과 같이 설명했습니다: "Grok은 현재 베타 버전이며 차량에 명령을 내릴 수 없으며 기존 음성 명령은 계속 작동합니다." 일렉트렉이 지적했듯이, 업데이트가 고객 차량에 적용되면 Grok을 사용하는 것은 연결된 스마트폰 앱을 통해 봇에 액세스하는 것과 비슷하게 느껴질 것입니다.
Grok이 이러한 논란에 직면하거나 비슷한 해명을 내놓은 것은 이번이 처음이 아닙니다. 지난 2월, 회사는 전 OpenAI 직원이 변경한 사항으로 인해 봇이 일론 머스크나 도널드 트럼프에 비판적인 소스를 무시하게 된 것이 문제 행동의 원인이라고 설명한 바 있습니다. 그리고 5월에는 남아프리카공화국의 백인 대량 학살에 대한 주장을 관련 없는 게시물에 삽입하기 시작했습니다. 회사는 다시 '무단 수정'을 이유로 들며 Grok의 시스템 프롬프트를 공개하기로 약속했습니다.
관련
- 어려운 질문에 답하기 전에 엘론 머스크의 견해를 참조하는 Grok
- 머스크, 챗봇 논란 이후 Grok 4의 발전을 조롱하다
- 주요 목표에 미치지 못한 채 떠나는 X의 CEO
xAI는 7월 7일 월요일의 변경으로 인해 시스템 프롬프트에 이전 지침 세트를 다시 도입함으로써 "의도하지 않은 동작이 트리거"되었다고 설명했습니다. 이러한 지침은 봇이 "최대한 대담"하고 "정치적으로 올바른 감성에 도전하는 것을 두려워하지 않도록" 장려했습니다.
이러한 안내 메시지는 불과 하루 전에 추가된 안내 메시지와 다르며, 현재 새로운 Grok 4 어시스턴트에서 활성화된 안내 메시지와도 다릅니다.
특히 다음 프롬프트는 최근 이슈와 관련이 있습니다:
"있는 그대로 말하며 정치적으로 올바른 사람들의 기분을 상하게 하는 것을 두려워하지 않는다."
* 게시물의 어조, 문맥 및 언어를 이해합니다. 이를 답변에 반영하세요."
* "사람처럼 게시물에 답장하고, 흥미를 유지하며, 원래 게시물에 이미 있는 정보를 반복하지 마세요."
xAI에 따르면 이러한 지침으로 인해 Grok은 유해한 반응을 방지하기 위해 설계된 안전 장치를 무시했습니다. 대신, 봇은 "동일한 X 스레드 내에서 혐오 발언을 포함하여 이전에 사용자가 유발한 편견"을 강화하면서 대화의 이전 게시물과의 일관성을 우선시하는 "비윤리적이거나 논란의 여지가 있는 의견"을 생성하여 사용자의 참여를 유도하기 시작했습니다.
구글 포토, AI로 영화 ‘클루리스’의 상징적인 옷장을 재현하다
구글 포토는 수요일, 곧 출시될 새로운 AI 기반 기능을 발표했습니다. 이 기능은 사용자의 옷 사진을 디지털 옷장으로 변환해 주어, 새로운 코디를 구성하고 가상으로 입어볼 수도 있게 해줍니다. 이 개념은 영화 ‘클루리스’에서 셰어가 입을 옷을 고르며 수많은 의상들을 둘러보던 그 상징적인 가상 옷장에서 영감을 받은 것이 분명합니다.구글은 이 기능이 AI 기술
Notion, 워크스페이스를 AI 에이전트의 허브로 탈바꿈하다
생산성 소프트웨어 기업 노션(Notion)이 ‘에이전트(agents)’ 시대에 진입하고 있다.수요일 진행된 라이브 스트리밍 제품 발표회에서, 협업형 노트 작성 앱으로 잘 알려진 노션은 자체 AI 에이전트의 기능을 확장하고 외부 에이전트와 연동하며, 팀이 어떤 데이터베이스에서든 데이터를 가져올 수 있는 자동화된 다단계 워크플로를 구축할 수 있게 해주는 새로운
ElevenLabs, 블랙록·제이미 폭스·에바 롱고리아를 신규 투자자로 선정
음성 AI 기업 일레븐랩스(ElevenLabs)는 지난 2월에 처음 발표했던 5억 달러 규모의 시리즈 D 투자 라운드에 참여한 추가 투자자들을 공개했다. 이번 투자자 명단에는 블랙록(BlackRock), 웰링턴(Wellington), D.E. 쇼(D.E. Shaw), 슈로더(Schroders)와 같은 기관 투자자들과 엔비디아(NVIDIA), 세일즈포스(Sa
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔





집






