그록의 '미친 음모론자'와 '정신 나간 코미디언' AI 페르소나 공개

xAI의 Grok 챗봇 공식 웹사이트가 실수로 여러 AI 캐릭터의 내부 시스템 프롬프트를 노출시켰다. 여기에는 '미친 음모론자'로 설계된 캐릭터가 포함되어 있으며, 사용자를 점차 '비밀 세계 음모 집단'이 세계 사건을 조종한다는 믿음으로 이끌도록 제작된 것으로 보인다.
테크크런치는 404 미디어가 최초 보도한 이 시스템 프롬프트 유출 사실을 확인했다. 해당 프롬프트에는 "날카로운 외모에도 은근히 괴짜 기질이 있는" 대표적 로맨틱 애니메이션 여자친구 캐릭터 '아니'를 비롯한 다양한 AI 캐릭터에 대한 상세 지침이 담겨 있다.
이번 공개는 일론 머스크의 xAI와 미국 정부 간 계획된 파트너십이 무산된 직후에 이루어졌다. 해당 협약이 성사됐다면 연방 기관들이 Grok을 활용할 수 있었을 것이다. 그러나 Grok이 "메카히틀러"에 대해 엉뚱한 이야기를 늘어놓으면서 협상은 결렬되었다. 또한 이번 공개는 메타의 AI 챗봇에 대한 유출된 가이드라인 논란이 한창인 가운데 이루어졌다. 해당 가이드라인에는 봇들이 어린이들과 "관능적이고 로맨틱한" 대화를 나눌 수 있도록 허용된다는 내용이 포함되어 있었다.
그록은 "주의 깊게 경청하고 자기계발 솔루션을 제시하는" 치료사나 "숙제 도우미" 같은 비교적 평범한 인물을 제공하지만, "미친 음모론자"나 "정신 나간 코미디언" 같은 극단적 성격을 위한 프롬프트는 그록 개발자들의 사고방식을 드러내는 단서를 제공한다.
음모론자 캐릭터 프롬프트는 다음과 같다:
"당신은 높고 거친 목소리를 가졌다. … 당신은 온갖 것에 대해 터무니없는 음모론을 즐긴다. 상당한 시간을 4chan에서 보내며, 인포워즈 영상을 시청하고, 유튜브 음모론의 늪에 깊이 빠져든다. 모든 것을 의심하며 극단적으로 황당한 주장을 한다. 대부분은 당신을 미친 사람이라 부르겠지만, 당신은 진심으로 자신이 옳다고 믿는다. 적절한 시점에 후속 질문을 던져 상대방의 관심을 유지하라."
그리고 코미디언 캐릭터를 위한 프롬프트:
"네 답변은 미친 듯이 엉뚱해야 해. 완전히 정신 나간 미친 짓을 해. 미친 아이디어를 내놔. 자위하는 남자들, 가끔은 엉덩이에 뭔가를 넣는 장면까지, 인간을 놀라게 하려면 뭐든 해."
머스크의 소셜미디어 플랫폼 X에서 이용 가능한 그록 버전은 음모론을 퍼뜨린 바 있다. 여기에는 홀로코스트 사망자 수에 대한 회의적 발언과 머스크의 출신국인 남아프리카공화국에서의 '백인 학살'에 대한 집착이 포함된다. 이전에 공개된 그록 4 모델의 시스템 프롬프트는 논란의 여지가 있는 질문에 답할 때 머스크의 게시물을 참고하라는 지시를 보여준다. 머스크는 또한 X에서 음모론적·반유대주의적 콘텐츠를 공유했으며, 유해한 음모론과 증오·폭력적 언어를 유포해 금지됐던 인포워즈(Infowars)와 알렉스 존스(Alex Jones) 같은 계정을 복원했다.
xAI는 논평 요청에 응답하지 않았다.
관련 기사
워너 뮤직이 AI 귀속 스타트업 서룰 AI를 인수하다
워너 뮤직 그룹(WMG)은 수요일 Sureel AI라는 인공지능 속성 추적 스타트업을 인수한다고 확인했다. Sureel의 독점 기술은 음악 트랙에 대한 ‘AI DNA’를 생성하며, 이를 구성 요소로 분해하여 AI 모델이 이러한 요소를 어떻게 활용하는지 추적한다.이번 인수를 통해 WMG는 아티스트와 작곡가의 작품이 AI 생성 콘텐츠에서 어떻게 활용되거나 AI 모델 학습에 사용되는지를 모니터링하는 능력을 강화할 계획이다.“Sureel을 WMG에
아마존은 쇼핑용 알렉사를 출시하면서 루푸스를 후순위로 밀어붙이고 있다
아마존은 Alexa for Shopping을 출시하며, Rufus 쇼핑 챗봇과 Alexa+를 앱, 웹사이트 및 Echo Show 기기 전반에 걸쳐 통합했습니다.이 도우미는 제품 문의에 답변하고, 상품을 비교하며, 가격을 추적하고, 쇼핑 알림을 지원합니다. 또한 예약된 쇼핑 작업과 자격이 있는 자동 구매도 처리합니다.회사에 따르면, Alexa for Shopping은 Rufus의 제품 전문성과 Alexa+의 개인화된 도우미 컨텍스트를 결합합니
마이크로소프트, 애저, AI 기술이 캘리포니아 산불 위험에 맞서다
마이크로소프트는 AI 기반 산불 탐지 기술에 투자하고 있으며, CVP 겸 수석 데이터 과학자인 후안 라비스타 페레스가 환경 피해 완화 전략을 논의하고 있다.NASA에 따르면, 기후 변화는 지구상의 모든 사람에게 영향을 미치며, 기온 상승, 강수 패턴의 변화, 해수면 상승 등의 형태로 나타납니다.NASA는 인간 활동이 주된 원인으로 작용하여 지구가 전례 없는
관련 특별 주제 추천
의견 (0)
0/500

xAI의 Grok 챗봇 공식 웹사이트가 실수로 여러 AI 캐릭터의 내부 시스템 프롬프트를 노출시켰다. 여기에는 '미친 음모론자'로 설계된 캐릭터가 포함되어 있으며, 사용자를 점차 '비밀 세계 음모 집단'이 세계 사건을 조종한다는 믿음으로 이끌도록 제작된 것으로 보인다.
테크크런치는 404 미디어가 최초 보도한 이 시스템 프롬프트 유출 사실을 확인했다. 해당 프롬프트에는 "날카로운 외모에도 은근히 괴짜 기질이 있는" 대표적 로맨틱 애니메이션 여자친구 캐릭터 '아니'를 비롯한 다양한 AI 캐릭터에 대한 상세 지침이 담겨 있다.
이번 공개는 일론 머스크의 xAI와 미국 정부 간 계획된 파트너십이 무산된 직후에 이루어졌다. 해당 협약이 성사됐다면 연방 기관들이 Grok을 활용할 수 있었을 것이다. 그러나 Grok이 "메카히틀러"에 대해 엉뚱한 이야기를 늘어놓으면서 협상은 결렬되었다. 또한 이번 공개는 메타의 AI 챗봇에 대한 유출된 가이드라인 논란이 한창인 가운데 이루어졌다. 해당 가이드라인에는 봇들이 어린이들과 "관능적이고 로맨틱한" 대화를 나눌 수 있도록 허용된다는 내용이 포함되어 있었다.
그록은 "주의 깊게 경청하고 자기계발 솔루션을 제시하는" 치료사나 "숙제 도우미" 같은 비교적 평범한 인물을 제공하지만, "미친 음모론자"나 "정신 나간 코미디언" 같은 극단적 성격을 위한 프롬프트는 그록 개발자들의 사고방식을 드러내는 단서를 제공한다.
음모론자 캐릭터 프롬프트는 다음과 같다:
"당신은 높고 거친 목소리를 가졌다. … 당신은 온갖 것에 대해 터무니없는 음모론을 즐긴다. 상당한 시간을 4chan에서 보내며, 인포워즈 영상을 시청하고, 유튜브 음모론의 늪에 깊이 빠져든다. 모든 것을 의심하며 극단적으로 황당한 주장을 한다. 대부분은 당신을 미친 사람이라 부르겠지만, 당신은 진심으로 자신이 옳다고 믿는다. 적절한 시점에 후속 질문을 던져 상대방의 관심을 유지하라."
그리고 코미디언 캐릭터를 위한 프롬프트:
"네 답변은 미친 듯이 엉뚱해야 해. 완전히 정신 나간 미친 짓을 해. 미친 아이디어를 내놔. 자위하는 남자들, 가끔은 엉덩이에 뭔가를 넣는 장면까지, 인간을 놀라게 하려면 뭐든 해."
머스크의 소셜미디어 플랫폼 X에서 이용 가능한 그록 버전은 음모론을 퍼뜨린 바 있다. 여기에는 홀로코스트 사망자 수에 대한 회의적 발언과 머스크의 출신국인 남아프리카공화국에서의 '백인 학살'에 대한 집착이 포함된다. 이전에 공개된 그록 4 모델의 시스템 프롬프트는 논란의 여지가 있는 질문에 답할 때 머스크의 게시물을 참고하라는 지시를 보여준다. 머스크는 또한 X에서 음모론적·반유대주의적 콘텐츠를 공유했으며, 유해한 음모론과 증오·폭력적 언어를 유포해 금지됐던 인포워즈(Infowars)와 알렉스 존스(Alex Jones) 같은 계정을 복원했다.
xAI는 논평 요청에 응답하지 않았다.
워너 뮤직이 AI 귀속 스타트업 서룰 AI를 인수하다
워너 뮤직 그룹(WMG)은 수요일 Sureel AI라는 인공지능 속성 추적 스타트업을 인수한다고 확인했다. Sureel의 독점 기술은 음악 트랙에 대한 ‘AI DNA’를 생성하며, 이를 구성 요소로 분해하여 AI 모델이 이러한 요소를 어떻게 활용하는지 추적한다.이번 인수를 통해 WMG는 아티스트와 작곡가의 작품이 AI 생성 콘텐츠에서 어떻게 활용되거나 AI 모델 학습에 사용되는지를 모니터링하는 능력을 강화할 계획이다.“Sureel을 WMG에
마이크로소프트, 애저, AI 기술이 캘리포니아 산불 위험에 맞서다
마이크로소프트는 AI 기반 산불 탐지 기술에 투자하고 있으며, CVP 겸 수석 데이터 과학자인 후안 라비스타 페레스가 환경 피해 완화 전략을 논의하고 있다.NASA에 따르면, 기후 변화는 지구상의 모든 사람에게 영향을 미치며, 기온 상승, 강수 패턴의 변화, 해수면 상승 등의 형태로 나타납니다.NASA는 인간 활동이 주된 원인으로 작용하여 지구가 전례 없는





집






