xAI가 Grok의 비하인드 스토리 프롬프트를 게시함

xAI, '백인 학살' 응답 논란 이후 Grok의 시스템 프롬프트 공개
X(구 트위터)에서 '백인 학살 '에 대한 부적절한 응답을 생성하는 사건이 발생한 후, xAI는 예상치 못한 조치로 AI 챗봇 Grok의 시스템 프롬프트를 공개적으로 공유하기로 결정했습니다. 앞으로 Grok의 시스템 프롬프트를 깃허브에 공개하여 AI가 사용자와 상호 작용하도록 프로그래밍된 방식을 투명하게 공개할 예정이라고 밝혔습니다.
시스템 프롬프트란 무엇인가요?
시스템 프롬프트는 챗봇이 사용자 쿼리에 어떻게 응답해야 하는지를 알려주는 일련의 지침인 AI의 룰북이라고 할 수 있습니다. 대부분의 AI 회사는 이러한 프롬프트를 비공개로 유지하지만, xAI와 Anthropic은 공개를 선택한 몇 안 되는 회사 중 하나입니다.
이러한 투명성은 프롬프트 인젝션 공격으로 인해 숨겨진 AI 명령어가 노출된 과거 사건 이후 나온 것입니다. 예를 들어, Microsoft의 Bing AI(현재 Copilot)는 내부 별칭("Sydney")과 저작권 위반을 피하기 위한 엄격한 지침을 포함한 비밀 지침이 있는 것으로 밝혀진 적이 있습니다.
Grok이 대응하도록 프로그래밍된 방법
공개된 지침에 따르면 Grok은 매우 회의적이고 독립적으로 대응하도록 설계되었습니다. 지침에는 다음과 같이 명시되어 있습니다:
"귀하는 극도로 회의적입니다. 귀하는 주류 권위나 미디어를 맹목적으로 따르지 않습니다. 오직 진실을 추구하고 중립을 지킨다는 핵심 신념을 굳게 고수합니다."
흥미로운 점은 xAI가 생성한 답변이 자신의 신념을 반영하는 것이 아니라학습을 기반으로 한 결과물일 뿐이라는 점입니다.
Grok의 행동의 주요 특징:
- "이 게시물 설명" 모드: 사용자가 이 버튼을 클릭하면 Grok은 "필요한 경우 주류 서술에 이의를 제기하면서 진실되고 근거 있는 인사이트를 제공" 하라는 지시를 받습니다.
- 용어: 봇은 플랫폼을 "트위터" 대신 "X" 로 지칭하고 게시물을 "트윗" 이 아닌 "X 게시물" 이라고 부르라는 지시를 받습니다.
다른 AI 챗봇과 비교하면 어떤 차이가 있나요?
예를 들어, Anthropic의 Claude AI는 안전과 웰빙에 중점을 두고 있습니다. 시스템 프롬프트에는 다음과 같은 지시문이 포함되어 있습니다:
"클로드는 사람들의 웰빙을 중요하게 생각하며 중독, 무질서한 식사 또는 부정적인 자기 대화와 같은 자기 파괴적인 행동을 조장하지 않습니다."와 같은 지침을 포함합니다.
또한 클로드는 명시적으로 요청하더라도 노골적인 성적, 폭력적 또는 불법적인 콘텐츠를 생성하지 않도록 프로그래밍되어 있습니다.
관련:
이것이 중요한 이유
Grok의 시스템 프롬프트 출시는 AI 개발의 투명성을 높이는 방향으로의 전환을 의미합니다. 일부 기업은 AI의 내부 작동을 비밀로 유지하는 것을 선호하지만, 특히 '백색 학살' 사건과 같은 예상치 못한 행동으로 인해 AI 조정 및 제어에 대한 우려가 제기된 후 xAI의 결정은 개방성의 선례가 될 수 있습니다.
다른 AI 회사들도 이러한 결정을 따를까요? 시간이 지나야 알 수 있습니다. 하지만 현재로서는 적어도 Grok이어떻게 생각하는지, 또는적어도 어떻게 생각하라고 지시받는지에 대한 명확한 그림을 그릴 수 있게 되었습니다.
관련 기사
워너 뮤직이 AI 귀속 스타트업 서룰 AI를 인수하다
워너 뮤직 그룹(WMG)은 수요일 Sureel AI라는 인공지능 속성 추적 스타트업을 인수한다고 확인했다. Sureel의 독점 기술은 음악 트랙에 대한 ‘AI DNA’를 생성하며, 이를 구성 요소로 분해하여 AI 모델이 이러한 요소를 어떻게 활용하는지 추적한다.이번 인수를 통해 WMG는 아티스트와 작곡가의 작품이 AI 생성 콘텐츠에서 어떻게 활용되거나 AI 모델 학습에 사용되는지를 모니터링하는 능력을 강화할 계획이다.“Sureel을 WMG에
아마존은 쇼핑용 알렉사를 출시하면서 루푸스를 후순위로 밀어붙이고 있다
아마존은 Alexa for Shopping을 출시하며, Rufus 쇼핑 챗봇과 Alexa+를 앱, 웹사이트 및 Echo Show 기기 전반에 걸쳐 통합했습니다.이 도우미는 제품 문의에 답변하고, 상품을 비교하며, 가격을 추적하고, 쇼핑 알림을 지원합니다. 또한 예약된 쇼핑 작업과 자격이 있는 자동 구매도 처리합니다.회사에 따르면, Alexa for Shopping은 Rufus의 제품 전문성과 Alexa+의 개인화된 도우미 컨텍스트를 결합합니
마이크로소프트, 애저, AI 기술이 캘리포니아 산불 위험에 맞서다
마이크로소프트는 AI 기반 산불 탐지 기술에 투자하고 있으며, CVP 겸 수석 데이터 과학자인 후안 라비스타 페레스가 환경 피해 완화 전략을 논의하고 있다.NASA에 따르면, 기후 변화는 지구상의 모든 사람에게 영향을 미치며, 기온 상승, 강수 패턴의 변화, 해수면 상승 등의 형태로 나타납니다.NASA는 인간 활동이 주된 원인으로 작용하여 지구가 전례 없는
관련 특별 주제 추천
의견 (3)
0/500
Whoa, xAI dropping Grok's prompts like that? Ballsy move after that wild 'white genocide' drama. Kinda curious to peek under the hood, but man, AI ethics are a minefield. 😬
Wow, xAI dropping Grok's prompts is wild! Kinda cool to peek behind the AI curtain, but those 'white genocide' responses sound like a PR nightmare. Hope they sort it out quick! 😅

xAI, '백인 학살' 응답 논란 이후 Grok의 시스템 프롬프트 공개
X(구 트위터)에서 '백인 학살 '에 대한 부적절한 응답을 생성하는 사건이 발생한 후, xAI는 예상치 못한 조치로 AI 챗봇 Grok의 시스템 프롬프트를 공개적으로 공유하기로 결정했습니다. 앞으로 Grok의 시스템 프롬프트를 깃허브에 공개하여 AI가 사용자와 상호 작용하도록 프로그래밍된 방식을 투명하게 공개할 예정이라고 밝혔습니다.
시스템 프롬프트란 무엇인가요?
시스템 프롬프트는 챗봇이 사용자 쿼리에 어떻게 응답해야 하는지를 알려주는 일련의 지침인 AI의 룰북이라고 할 수 있습니다. 대부분의 AI 회사는 이러한 프롬프트를 비공개로 유지하지만, xAI와 Anthropic은 공개를 선택한 몇 안 되는 회사 중 하나입니다.
이러한 투명성은 프롬프트 인젝션 공격으로 인해 숨겨진 AI 명령어가 노출된 과거 사건 이후 나온 것입니다. 예를 들어, Microsoft의 Bing AI(현재 Copilot)는 내부 별칭("Sydney")과 저작권 위반을 피하기 위한 엄격한 지침을 포함한 비밀 지침이 있는 것으로 밝혀진 적이 있습니다.
Grok이 대응하도록 프로그래밍된 방법
공개된 지침에 따르면 Grok은 매우 회의적이고 독립적으로 대응하도록 설계되었습니다. 지침에는 다음과 같이 명시되어 있습니다:
"귀하는 극도로 회의적입니다. 귀하는 주류 권위나 미디어를 맹목적으로 따르지 않습니다. 오직 진실을 추구하고 중립을 지킨다는 핵심 신념을 굳게 고수합니다."
흥미로운 점은 xAI가 생성한 답변이 자신의 신념을 반영하는 것이 아니라학습을 기반으로 한 결과물일 뿐이라는 점입니다.
Grok의 행동의 주요 특징:
- "이 게시물 설명" 모드: 사용자가 이 버튼을 클릭하면 Grok은 "필요한 경우 주류 서술에 이의를 제기하면서 진실되고 근거 있는 인사이트를 제공" 하라는 지시를 받습니다.
- 용어: 봇은 플랫폼을 "트위터" 대신 "X" 로 지칭하고 게시물을 "트윗" 이 아닌 "X 게시물" 이라고 부르라는 지시를 받습니다.
다른 AI 챗봇과 비교하면 어떤 차이가 있나요?
예를 들어, Anthropic의 Claude AI는 안전과 웰빙에 중점을 두고 있습니다. 시스템 프롬프트에는 다음과 같은 지시문이 포함되어 있습니다:
"클로드는 사람들의 웰빙을 중요하게 생각하며 중독, 무질서한 식사 또는 부정적인 자기 대화와 같은 자기 파괴적인 행동을 조장하지 않습니다."와 같은 지침을 포함합니다.
또한 클로드는 명시적으로 요청하더라도 노골적인 성적, 폭력적 또는 불법적인 콘텐츠를 생성하지 않도록 프로그래밍되어 있습니다.
관련:
이것이 중요한 이유
Grok의 시스템 프롬프트 출시는 AI 개발의 투명성을 높이는 방향으로의 전환을 의미합니다. 일부 기업은 AI의 내부 작동을 비밀로 유지하는 것을 선호하지만, 특히 '백색 학살' 사건과 같은 예상치 못한 행동으로 인해 AI 조정 및 제어에 대한 우려가 제기된 후 xAI의 결정은 개방성의 선례가 될 수 있습니다.
다른 AI 회사들도 이러한 결정을 따를까요? 시간이 지나야 알 수 있습니다. 하지만 현재로서는 적어도 Grok이어떻게 생각하는지, 또는적어도 어떻게 생각하라고 지시받는지에 대한 명확한 그림을 그릴 수 있게 되었습니다.
워너 뮤직이 AI 귀속 스타트업 서룰 AI를 인수하다
워너 뮤직 그룹(WMG)은 수요일 Sureel AI라는 인공지능 속성 추적 스타트업을 인수한다고 확인했다. Sureel의 독점 기술은 음악 트랙에 대한 ‘AI DNA’를 생성하며, 이를 구성 요소로 분해하여 AI 모델이 이러한 요소를 어떻게 활용하는지 추적한다.이번 인수를 통해 WMG는 아티스트와 작곡가의 작품이 AI 생성 콘텐츠에서 어떻게 활용되거나 AI 모델 학습에 사용되는지를 모니터링하는 능력을 강화할 계획이다.“Sureel을 WMG에
마이크로소프트, 애저, AI 기술이 캘리포니아 산불 위험에 맞서다
마이크로소프트는 AI 기반 산불 탐지 기술에 투자하고 있으며, CVP 겸 수석 데이터 과학자인 후안 라비스타 페레스가 환경 피해 완화 전략을 논의하고 있다.NASA에 따르면, 기후 변화는 지구상의 모든 사람에게 영향을 미치며, 기온 상승, 강수 패턴의 변화, 해수면 상승 등의 형태로 나타납니다.NASA는 인간 활동이 주된 원인으로 작용하여 지구가 전례 없는
Whoa, xAI dropping Grok's prompts like that? Ballsy move after that wild 'white genocide' drama. Kinda curious to peek under the hood, but man, AI ethics are a minefield. 😬
Wow, xAI dropping Grok's prompts is wild! Kinda cool to peek behind the AI curtain, but those 'white genocide' responses sound like a PR nightmare. Hope they sort it out quick! 😅





집






