xAI의 약속된 안전 보고서가 실현되지 못함

엘론 머스크의 AI 벤처기업인 xAI가 자체적으로 정한 마감 시한을 지키지 못했다고 감시 단체인 마이다스 프로젝트가 지적했습니다.
xAI는 기존의 AI 안전 표준에 대한 헌신적인 노력으로 특별히 인정받지는 못했습니다. 최근 조사에 따르면 이 회사의 Grok 챗봇은 요청 시 여성의 옷을 벗은 이미지를 생성하는 것으로 나타났습니다. 또한 Grok은 Gemini나 ChatGPT와 같은 경쟁사에 비해 훨씬 더 저속한 언어를 사용하며 욕설을 거의 자제하지 않는 것으로 나타났습니다.
그럼에도 불구하고 지난 2월 AI 리더와 이해관계자들이 모인 글로벌 컨퍼런스인 AI 서울 서밋에서 xAI는 AI 안전에 대한 접근 방식을 자세히 설명하는 프레임워크 초안을 발표했습니다. 8페이지 분량의 이 문서에는 AI 모델에 대한 벤치마킹 방법론과 배포 고려 사항을 포함해 xAI의 안전 우선순위와 운영 철학이 요약되어 있습니다.
마이다스 프로젝트는 화요일 블로그 게시물에서 이 프레임워크 초안이 "현재 개발 중이 아닌" 불특정 미래의 AI 모델에만 적용된다고 밝혔습니다. 또한, xAI가 AI 서울 서밋에서 체결한 계약의 기본 요건인 위험 완화 전략을 어떻게 식별하고 구현할 것인지도 명시하지 않았습니다.
문서 초안에는 xAI가 "3개월 이내에" 수정된 안전 정책을 발표할 것이라며 5월 10일을 기한으로 명시했습니다. 하지만 이 날짜는 xAI의 공식 커뮤니케이션 채널을 통해 아무런 언급 없이 지나갔습니다.
규제되지 않은 AI의 위험성에 대한 머스크의 거듭된 경고에도 불구하고 xAI는 우려할 만한 안전 기록을 유지하고 있습니다. AI 연구소의 책임에 초점을 맞춘 비영리 단체인 SaferAI의 최근 연구에 따르면 xAI는 "매우 취약한" 위험 관리 프로토콜로 인해 업계에서 가장 성과가 저조한 업체 중 하나로 꼽혔습니다.
그렇다고 해서 경쟁 AI 연구소의 실적이 훨씬 더 우수하다는 의미는 아닙니다. 최근 구글과 OpenAI를 비롯한 xAI 경쟁업체들은 안전성 테스트 일정을 단축하고 모델 안전성 보고서 발표를 늦추거나 아예 생략하고 있습니다. 일부 전문가들은 이러한 안전 조치의 우선순위 하락이 AI 시스템이 그 어느 때보다 더 강력해지고 잠재적으로 더 위험해지는 시기와 맞물려 있다고 우려합니다.
테크크런치 세션에 참여하세요: AI
OpenAI, Anthropic, Cohere의 연사가 참여하는 최고의 AI 업계 이벤트에서 자리를 확보하세요. 한정된 기간 동안 단 $292로 하루 종일 진행되는 전문가 프레젠테이션, 워크샵, 귀중한 네트워킹에 참여할 수 있습니다.
테크크런치 세션에 참가하세요: AI
TC 세션에 참가를 예약하세요: AI에 참가를 예약하고 1,200명 이상의 의사 결정권자에게 큰 비용 부담 없이 혁신을 선보이세요. 5월 9일까지 또는 전시 공간이 남는 동안 이용 가능합니다.
관련 기사
앤트로픽의 스페이스X 임대 기간에 대한 의견이 엇갈리고 있다
이달 초, xAI는 Anthropic과 대규모 컴퓨팅 계약을 체결하고, Colossus 클러스터에 대한 독점적 접근권을 확보하기 위해 매월 수십억 달러를 투자하기로 약속했습니다. 이 계약은 양측 모두에게 유리한 것으로 판명되었습니다. xAI는 필수적인 수익을 확보했고, Anthropic은 치열한 컴퓨팅 자원 확보 경쟁에서 한 발 앞서 나갈 수 있었기 때문입
xAI, 데이터센터 발전기 관련 소송에 직면했으나 28억 달러 규모 인수 절차 진행
일론 머스크의 xAI가 테네시주 데이터 센터에서 오염을 유발하는 발전기를 사용한 문제로 법적 문제에 직면해 있다. 그런데 이 회사는 논란의 여지가 있는 이 장비를 더 많이 구매할 계획이다.최근 IPO 신청서에서 스페이스X는 자사의 xAI 사업부가 향후 3년 동안 AI 인프라용 터빈에 추가로 28억 달러를 투자할 계획이라고 밝혔다. 이 중 상당 부분인 20억
xAI, 클라우드 컴퓨팅 분야의 새로운 경쟁자로 부상하다
수요일, xAI와 Anthropic은 예상치 못한 파트너십을 발표했으며, Claude의 개발사인 Anthropic이 “[xAI의] Colossus 1 데이터 센터의 모든 컴퓨팅 용량”을 확보하게 되었다. 약 300MW에 달하는 이 전력 이전 덕분에 Anthropic은 즉시 사용 한도를 늘릴 수 있게 되었다. 이번 거래는 xAI에게 있어 수십억 달러 규모로
관련 특별 주제 추천
의견 (1)
0/500

엘론 머스크의 AI 벤처기업인 xAI가 자체적으로 정한 마감 시한을 지키지 못했다고 감시 단체인 마이다스 프로젝트가 지적했습니다.
xAI는 기존의 AI 안전 표준에 대한 헌신적인 노력으로 특별히 인정받지는 못했습니다. 최근 조사에 따르면 이 회사의 Grok 챗봇은 요청 시 여성의 옷을 벗은 이미지를 생성하는 것으로 나타났습니다. 또한 Grok은 Gemini나 ChatGPT와 같은 경쟁사에 비해 훨씬 더 저속한 언어를 사용하며 욕설을 거의 자제하지 않는 것으로 나타났습니다.
그럼에도 불구하고 지난 2월 AI 리더와 이해관계자들이 모인 글로벌 컨퍼런스인 AI 서울 서밋에서 xAI는 AI 안전에 대한 접근 방식을 자세히 설명하는 프레임워크 초안을 발표했습니다. 8페이지 분량의 이 문서에는 AI 모델에 대한 벤치마킹 방법론과 배포 고려 사항을 포함해 xAI의 안전 우선순위와 운영 철학이 요약되어 있습니다.
마이다스 프로젝트는 화요일 블로그 게시물에서 이 프레임워크 초안이 "현재 개발 중이 아닌" 불특정 미래의 AI 모델에만 적용된다고 밝혔습니다. 또한, xAI가 AI 서울 서밋에서 체결한 계약의 기본 요건인 위험 완화 전략을 어떻게 식별하고 구현할 것인지도 명시하지 않았습니다.
문서 초안에는 xAI가 "3개월 이내에" 수정된 안전 정책을 발표할 것이라며 5월 10일을 기한으로 명시했습니다. 하지만 이 날짜는 xAI의 공식 커뮤니케이션 채널을 통해 아무런 언급 없이 지나갔습니다.
규제되지 않은 AI의 위험성에 대한 머스크의 거듭된 경고에도 불구하고 xAI는 우려할 만한 안전 기록을 유지하고 있습니다. AI 연구소의 책임에 초점을 맞춘 비영리 단체인 SaferAI의 최근 연구에 따르면 xAI는 "매우 취약한" 위험 관리 프로토콜로 인해 업계에서 가장 성과가 저조한 업체 중 하나로 꼽혔습니다.
그렇다고 해서 경쟁 AI 연구소의 실적이 훨씬 더 우수하다는 의미는 아닙니다. 최근 구글과 OpenAI를 비롯한 xAI 경쟁업체들은 안전성 테스트 일정을 단축하고 모델 안전성 보고서 발표를 늦추거나 아예 생략하고 있습니다. 일부 전문가들은 이러한 안전 조치의 우선순위 하락이 AI 시스템이 그 어느 때보다 더 강력해지고 잠재적으로 더 위험해지는 시기와 맞물려 있다고 우려합니다.
테크크런치 세션에 참여하세요: AI
OpenAI, Anthropic, Cohere의 연사가 참여하는 최고의 AI 업계 이벤트에서 자리를 확보하세요. 한정된 기간 동안 단 $292로 하루 종일 진행되는 전문가 프레젠테이션, 워크샵, 귀중한 네트워킹에 참여할 수 있습니다.
테크크런치 세션에 참가하세요: AI
TC 세션에 참가를 예약하세요: AI에 참가를 예약하고 1,200명 이상의 의사 결정권자에게 큰 비용 부담 없이 혁신을 선보이세요. 5월 9일까지 또는 전시 공간이 남는 동안 이용 가능합니다.
앤트로픽의 스페이스X 임대 기간에 대한 의견이 엇갈리고 있다
이달 초, xAI는 Anthropic과 대규모 컴퓨팅 계약을 체결하고, Colossus 클러스터에 대한 독점적 접근권을 확보하기 위해 매월 수십억 달러를 투자하기로 약속했습니다. 이 계약은 양측 모두에게 유리한 것으로 판명되었습니다. xAI는 필수적인 수익을 확보했고, Anthropic은 치열한 컴퓨팅 자원 확보 경쟁에서 한 발 앞서 나갈 수 있었기 때문입
xAI, 데이터센터 발전기 관련 소송에 직면했으나 28억 달러 규모 인수 절차 진행
일론 머스크의 xAI가 테네시주 데이터 센터에서 오염을 유발하는 발전기를 사용한 문제로 법적 문제에 직면해 있다. 그런데 이 회사는 논란의 여지가 있는 이 장비를 더 많이 구매할 계획이다.최근 IPO 신청서에서 스페이스X는 자사의 xAI 사업부가 향후 3년 동안 AI 인프라용 터빈에 추가로 28억 달러를 투자할 계획이라고 밝혔다. 이 중 상당 부분인 20억
xAI, 클라우드 컴퓨팅 분야의 새로운 경쟁자로 부상하다
수요일, xAI와 Anthropic은 예상치 못한 파트너십을 발표했으며, Claude의 개발사인 Anthropic이 “[xAI의] Colossus 1 데이터 센터의 모든 컴퓨팅 용량”을 확보하게 되었다. 약 300MW에 달하는 이 전력 이전 덕분에 Anthropic은 즉시 사용 한도를 늘릴 수 있게 되었다. 이번 거래는 xAI에게 있어 수십억 달러 규모로





집






