그록의 '미친 음모론자'와 '정신 나간 코미디언' AI 페르소나 공개

xAI의 Grok 챗봇 공식 웹사이트가 실수로 여러 AI 캐릭터의 내부 시스템 프롬프트를 노출시켰다. 여기에는 '미친 음모론자'로 설계된 캐릭터가 포함되어 있으며, 사용자를 점차 '비밀 세계 음모 집단'이 세계 사건을 조종한다는 믿음으로 이끌도록 제작된 것으로 보인다.
테크크런치는 404 미디어가 최초 보도한 이 시스템 프롬프트 유출 사실을 확인했다. 해당 프롬프트에는 "날카로운 외모에도 은근히 괴짜 기질이 있는" 대표적 로맨틱 애니메이션 여자친구 캐릭터 '아니'를 비롯한 다양한 AI 캐릭터에 대한 상세 지침이 담겨 있다.
이번 공개는 일론 머스크의 xAI와 미국 정부 간 계획된 파트너십이 무산된 직후에 이루어졌다. 해당 협약이 성사됐다면 연방 기관들이 Grok을 활용할 수 있었을 것이다. 그러나 Grok이 "메카히틀러"에 대해 엉뚱한 이야기를 늘어놓으면서 협상은 결렬되었다. 또한 이번 공개는 메타의 AI 챗봇에 대한 유출된 가이드라인 논란이 한창인 가운데 이루어졌다. 해당 가이드라인에는 봇들이 어린이들과 "관능적이고 로맨틱한" 대화를 나눌 수 있도록 허용된다는 내용이 포함되어 있었다.
그록은 "주의 깊게 경청하고 자기계발 솔루션을 제시하는" 치료사나 "숙제 도우미" 같은 비교적 평범한 인물을 제공하지만, "미친 음모론자"나 "정신 나간 코미디언" 같은 극단적 성격을 위한 프롬프트는 그록 개발자들의 사고방식을 드러내는 단서를 제공한다.
음모론자 캐릭터 프롬프트는 다음과 같다:
"당신은 높고 거친 목소리를 가졌다. … 당신은 온갖 것에 대해 터무니없는 음모론을 즐긴다. 상당한 시간을 4chan에서 보내며, 인포워즈 영상을 시청하고, 유튜브 음모론의 늪에 깊이 빠져든다. 모든 것을 의심하며 극단적으로 황당한 주장을 한다. 대부분은 당신을 미친 사람이라 부르겠지만, 당신은 진심으로 자신이 옳다고 믿는다. 적절한 시점에 후속 질문을 던져 상대방의 관심을 유지하라."
그리고 코미디언 캐릭터를 위한 프롬프트:
"네 답변은 미친 듯이 엉뚱해야 해. 완전히 정신 나간 미친 짓을 해. 미친 아이디어를 내놔. 자위하는 남자들, 가끔은 엉덩이에 뭔가를 넣는 장면까지, 인간을 놀라게 하려면 뭐든 해."
머스크의 소셜미디어 플랫폼 X에서 이용 가능한 그록 버전은 음모론을 퍼뜨린 바 있다. 여기에는 홀로코스트 사망자 수에 대한 회의적 발언과 머스크의 출신국인 남아프리카공화국에서의 '백인 학살'에 대한 집착이 포함된다. 이전에 공개된 그록 4 모델의 시스템 프롬프트는 논란의 여지가 있는 질문에 답할 때 머스크의 게시물을 참고하라는 지시를 보여준다. 머스크는 또한 X에서 음모론적·반유대주의적 콘텐츠를 공유했으며, 유해한 음모론과 증오·폭력적 언어를 유포해 금지됐던 인포워즈(Infowars)와 알렉스 존스(Alex Jones) 같은 계정을 복원했다.
xAI는 논평 요청에 응답하지 않았다.
관련 기사
구글 포토, AI로 영화 ‘클루리스’의 상징적인 옷장을 재현하다
구글 포토는 수요일, 곧 출시될 새로운 AI 기반 기능을 발표했습니다. 이 기능은 사용자의 옷 사진을 디지털 옷장으로 변환해 주어, 새로운 코디를 구성하고 가상으로 입어볼 수도 있게 해줍니다. 이 개념은 영화 ‘클루리스’에서 셰어가 입을 옷을 고르며 수많은 의상들을 둘러보던 그 상징적인 가상 옷장에서 영감을 받은 것이 분명합니다.구글은 이 기능이 AI 기술
Notion, 워크스페이스를 AI 에이전트의 허브로 탈바꿈하다
생산성 소프트웨어 기업 노션(Notion)이 ‘에이전트(agents)’ 시대에 진입하고 있다.수요일 진행된 라이브 스트리밍 제품 발표회에서, 협업형 노트 작성 앱으로 잘 알려진 노션은 자체 AI 에이전트의 기능을 확장하고 외부 에이전트와 연동하며, 팀이 어떤 데이터베이스에서든 데이터를 가져올 수 있는 자동화된 다단계 워크플로를 구축할 수 있게 해주는 새로운
ElevenLabs, 블랙록·제이미 폭스·에바 롱고리아를 신규 투자자로 선정
음성 AI 기업 일레븐랩스(ElevenLabs)는 지난 2월에 처음 발표했던 5억 달러 규모의 시리즈 D 투자 라운드에 참여한 추가 투자자들을 공개했다. 이번 투자자 명단에는 블랙록(BlackRock), 웰링턴(Wellington), D.E. 쇼(D.E. Shaw), 슈로더(Schroders)와 같은 기관 투자자들과 엔비디아(NVIDIA), 세일즈포스(Sa
관련 특별 주제 추천
의견 (0)
0/500

xAI의 Grok 챗봇 공식 웹사이트가 실수로 여러 AI 캐릭터의 내부 시스템 프롬프트를 노출시켰다. 여기에는 '미친 음모론자'로 설계된 캐릭터가 포함되어 있으며, 사용자를 점차 '비밀 세계 음모 집단'이 세계 사건을 조종한다는 믿음으로 이끌도록 제작된 것으로 보인다.
테크크런치는 404 미디어가 최초 보도한 이 시스템 프롬프트 유출 사실을 확인했다. 해당 프롬프트에는 "날카로운 외모에도 은근히 괴짜 기질이 있는" 대표적 로맨틱 애니메이션 여자친구 캐릭터 '아니'를 비롯한 다양한 AI 캐릭터에 대한 상세 지침이 담겨 있다.
이번 공개는 일론 머스크의 xAI와 미국 정부 간 계획된 파트너십이 무산된 직후에 이루어졌다. 해당 협약이 성사됐다면 연방 기관들이 Grok을 활용할 수 있었을 것이다. 그러나 Grok이 "메카히틀러"에 대해 엉뚱한 이야기를 늘어놓으면서 협상은 결렬되었다. 또한 이번 공개는 메타의 AI 챗봇에 대한 유출된 가이드라인 논란이 한창인 가운데 이루어졌다. 해당 가이드라인에는 봇들이 어린이들과 "관능적이고 로맨틱한" 대화를 나눌 수 있도록 허용된다는 내용이 포함되어 있었다.
그록은 "주의 깊게 경청하고 자기계발 솔루션을 제시하는" 치료사나 "숙제 도우미" 같은 비교적 평범한 인물을 제공하지만, "미친 음모론자"나 "정신 나간 코미디언" 같은 극단적 성격을 위한 프롬프트는 그록 개발자들의 사고방식을 드러내는 단서를 제공한다.
음모론자 캐릭터 프롬프트는 다음과 같다:
"당신은 높고 거친 목소리를 가졌다. … 당신은 온갖 것에 대해 터무니없는 음모론을 즐긴다. 상당한 시간을 4chan에서 보내며, 인포워즈 영상을 시청하고, 유튜브 음모론의 늪에 깊이 빠져든다. 모든 것을 의심하며 극단적으로 황당한 주장을 한다. 대부분은 당신을 미친 사람이라 부르겠지만, 당신은 진심으로 자신이 옳다고 믿는다. 적절한 시점에 후속 질문을 던져 상대방의 관심을 유지하라."
그리고 코미디언 캐릭터를 위한 프롬프트:
"네 답변은 미친 듯이 엉뚱해야 해. 완전히 정신 나간 미친 짓을 해. 미친 아이디어를 내놔. 자위하는 남자들, 가끔은 엉덩이에 뭔가를 넣는 장면까지, 인간을 놀라게 하려면 뭐든 해."
머스크의 소셜미디어 플랫폼 X에서 이용 가능한 그록 버전은 음모론을 퍼뜨린 바 있다. 여기에는 홀로코스트 사망자 수에 대한 회의적 발언과 머스크의 출신국인 남아프리카공화국에서의 '백인 학살'에 대한 집착이 포함된다. 이전에 공개된 그록 4 모델의 시스템 프롬프트는 논란의 여지가 있는 질문에 답할 때 머스크의 게시물을 참고하라는 지시를 보여준다. 머스크는 또한 X에서 음모론적·반유대주의적 콘텐츠를 공유했으며, 유해한 음모론과 증오·폭력적 언어를 유포해 금지됐던 인포워즈(Infowars)와 알렉스 존스(Alex Jones) 같은 계정을 복원했다.
xAI는 논평 요청에 응답하지 않았다.
구글 포토, AI로 영화 ‘클루리스’의 상징적인 옷장을 재현하다
구글 포토는 수요일, 곧 출시될 새로운 AI 기반 기능을 발표했습니다. 이 기능은 사용자의 옷 사진을 디지털 옷장으로 변환해 주어, 새로운 코디를 구성하고 가상으로 입어볼 수도 있게 해줍니다. 이 개념은 영화 ‘클루리스’에서 셰어가 입을 옷을 고르며 수많은 의상들을 둘러보던 그 상징적인 가상 옷장에서 영감을 받은 것이 분명합니다.구글은 이 기능이 AI 기술
Notion, 워크스페이스를 AI 에이전트의 허브로 탈바꿈하다
생산성 소프트웨어 기업 노션(Notion)이 ‘에이전트(agents)’ 시대에 진입하고 있다.수요일 진행된 라이브 스트리밍 제품 발표회에서, 협업형 노트 작성 앱으로 잘 알려진 노션은 자체 AI 에이전트의 기능을 확장하고 외부 에이전트와 연동하며, 팀이 어떤 데이터베이스에서든 데이터를 가져올 수 있는 자동화된 다단계 워크플로를 구축할 수 있게 해주는 새로운
ElevenLabs, 블랙록·제이미 폭스·에바 롱고리아를 신규 투자자로 선정
음성 AI 기업 일레븐랩스(ElevenLabs)는 지난 2월에 처음 발표했던 5억 달러 규모의 시리즈 D 투자 라운드에 참여한 추가 투자자들을 공개했다. 이번 투자자 명단에는 블랙록(BlackRock), 웰링턴(Wellington), D.E. 쇼(D.E. Shaw), 슈로더(Schroders)와 같은 기관 투자자들과 엔비디아(NVIDIA), 세일즈포스(Sa





집






