OpenAI의 로봇 부문 수장 캐틀린 칼리노우스키가 펜타곤과의 파트너십을 이유로 사임하다

오픈AI의 로봇공학 책임자 캐틀린 칼리노우스키는 회사의 국방부와의 논란이 된 파트너십 이후 사임했다.
“이것은 쉬운 결정이 아니었다,” 칼리노우스스는 소셜 미디어 성명에서 설명했다. “AI가 국가 안보에서 중요한 역할을 하지만, 사법 감독 없이 미국인을 감시하고 인간 승인 없이 치명적 자율성을_deploy_하는 것은 훨씬 신중한 고려가 필요한 경계선이다.”
메타의 증강현실 안경 부문을 이끌었던 것으로 알려진 칼리노우스스는 2024년 11월 오픈AI에 합류했다. 사임서에서 그녀는 그녀의 떠남이 “사람이 아닌 원칙”에 의해 주도되었다고 강조하며, 샘 알트만 CEO와 더 넓은 오픈AI 팀에 대해 “깊은 존중”을 표현했다.
이후 X에서의 게시물에서 칼리노우스스는 “내 주요 우려는 발표가 명확하게 정의된 안전장치 없이 성급하게 이루어졌다는 점이다. 이는 근본적으로 거버넌스 문제다. 이러한 사안은 성급한 거래나 발표를 통해 처리하기에는 너무 중요하다.”라고 명확히 했다.
오픈AI 대변인은 테크크런치에 칼리노우스스의 퇴사를 확인했다.
“우리는 펜타곤과의 협정이 AI의 책임 있는 국가 안보 응용을 위한 실행 가능한 틀을 확립한다고 믿으며, 동시에 우리의 레드 라인을 명확히 한다: 국내 감시 금지 및 자율 무기 금지,” 회사는 밝혔다. “우리는 이러한 이슈에 대해 강력한 의견이 있음을 인정하며, 직원, 정부 관료, 시민 사회, 그리고 전 세계 커뮤니티와의 지속적인 대화에 전념하고 있다.”
일주일 전에 발표된 펜타곤과의 협상은 펜타곤과 앤트로픽 간의 협상이 결렬된 이후 등장했다. 앤트로픽은 그 기술이 대규모 국내 감시나 완전 자율 무기에 사용되지 않도록 하기 위한 안전장치를 요구했으며, 이로 인해 펜타곤은 앤트로픽을 공급망 위험으로 분류했다. (앤트로픽은 이 분류를 법원에서 이길 계획이며, 그 동안 마이크로소프트, 구글, 아마존은 비방어 고객에게 앤트로픽의 클로드를 계속 제공하기로 동의했다.)
이후 오픈AI는 신속하게 자체 협정을 발표하여 classified 환경에서 그 기술의 사용을 허용했다. 임원들이 온라인에서 협정을 명확히 하려고 시도하는 동안, 회사는 앤트로픽이 제안한 것과 유사한 레드 라인을 보호하기 위해 계약적 언어와 기술적 안전장치를 결합한 “보다 포괄적이고 다층적인 접근 방식”을 채택했다고 설명했다.
이러한 노력에도 불구하고, 이 논란은 일부 사용자들 사이에서 오픈AI의 명성에 영향을 미친 것으로 보이며, ChatGPT의 삭제율이 295% 급증하고 클로드가 앱 스토어 순위에서 1위로 상승했다. 토요일 오후 기준, 클로드와 ChatGPT는 각각 미국 앱 스토어에서 무료 앱 1위와 2위를 유지하고 있었다.
관련 기사
OpenAI는 Anthropic과 비즈니스 사용자들 사이에서 격차를 좁혔습니다, 새로운 데이터가 보여줍니다
OpenAI와 Anthropic이 예상 초기공개(IPO)와 상세 재무보고서 공개에서 여전히 멀어 있는 상황에서, 우리는 그들의 비즈니스 성과를 측정하기 위해 대체 지표에 의존해야 합니다. 기업용 신용카드 및 비용 관리 플랫폼인 램프(Ramp)는 최근 OpenAI가 미국 기업들 사이에서 Anthropic과의 격차를 빠르게 좁히고 있음을 보여주는 설득력 있는 데이터를 발표했습니다.OpenAI는 소비자와 기업 모두에게서 지배적인 지위를 차지하고 있
OpenAI, 청소년들이 ChatGPT를 사용하기 시작한 지 수년 만에 더 안전한 버전을 출시했다
AI 챗봇에 안전 프로토콜이 부재하여 청소년 자살 및 기타 정신 건강 위기를 초래했다는 일련의 소송이 제기된 데 이어, 오픈AI는 월요일 ‘ChatGPT for Teens’를 공개했다. 이 새로운 서비스는 강화된 안전 기능을 탑재했으며, 학교에서 AI 도구가 조장하는 학업 부정행위라는 점점 심각해지는 문제도 해결하고자 한다.교육적 관점에서 볼 때, ‘Cha
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
관련 특별 주제 추천
의견 (0)
0/500

오픈AI의 로봇공학 책임자 캐틀린 칼리노우스키는 회사의 국방부와의 논란이 된 파트너십 이후 사임했다.
“이것은 쉬운 결정이 아니었다,” 칼리노우스스는 소셜 미디어 성명에서 설명했다. “AI가 국가 안보에서 중요한 역할을 하지만, 사법 감독 없이 미국인을 감시하고 인간 승인 없이 치명적 자율성을_deploy_하는 것은 훨씬 신중한 고려가 필요한 경계선이다.”
메타의 증강현실 안경 부문을 이끌었던 것으로 알려진 칼리노우스스는 2024년 11월 오픈AI에 합류했다. 사임서에서 그녀는 그녀의 떠남이 “사람이 아닌 원칙”에 의해 주도되었다고 강조하며, 샘 알트만 CEO와 더 넓은 오픈AI 팀에 대해 “깊은 존중”을 표현했다.
이후 X에서의 게시물에서 칼리노우스스는 “내 주요 우려는 발표가 명확하게 정의된 안전장치 없이 성급하게 이루어졌다는 점이다. 이는 근본적으로 거버넌스 문제다. 이러한 사안은 성급한 거래나 발표를 통해 처리하기에는 너무 중요하다.”라고 명확히 했다.
오픈AI 대변인은 테크크런치에 칼리노우스스의 퇴사를 확인했다.
“우리는 펜타곤과의 협정이 AI의 책임 있는 국가 안보 응용을 위한 실행 가능한 틀을 확립한다고 믿으며, 동시에 우리의 레드 라인을 명확히 한다: 국내 감시 금지 및 자율 무기 금지,” 회사는 밝혔다. “우리는 이러한 이슈에 대해 강력한 의견이 있음을 인정하며, 직원, 정부 관료, 시민 사회, 그리고 전 세계 커뮤니티와의 지속적인 대화에 전념하고 있다.”
일주일 전에 발표된 펜타곤과의 협상은 펜타곤과 앤트로픽 간의 협상이 결렬된 이후 등장했다. 앤트로픽은 그 기술이 대규모 국내 감시나 완전 자율 무기에 사용되지 않도록 하기 위한 안전장치를 요구했으며, 이로 인해 펜타곤은 앤트로픽을 공급망 위험으로 분류했다. (앤트로픽은 이 분류를 법원에서 이길 계획이며, 그 동안 마이크로소프트, 구글, 아마존은 비방어 고객에게 앤트로픽의 클로드를 계속 제공하기로 동의했다.)
이후 오픈AI는 신속하게 자체 협정을 발표하여 classified 환경에서 그 기술의 사용을 허용했다. 임원들이 온라인에서 협정을 명확히 하려고 시도하는 동안, 회사는 앤트로픽이 제안한 것과 유사한 레드 라인을 보호하기 위해 계약적 언어와 기술적 안전장치를 결합한 “보다 포괄적이고 다층적인 접근 방식”을 채택했다고 설명했다.
이러한 노력에도 불구하고, 이 논란은 일부 사용자들 사이에서 오픈AI의 명성에 영향을 미친 것으로 보이며, ChatGPT의 삭제율이 295% 급증하고 클로드가 앱 스토어 순위에서 1위로 상승했다. 토요일 오후 기준, 클로드와 ChatGPT는 각각 미국 앱 스토어에서 무료 앱 1위와 2위를 유지하고 있었다.
OpenAI는 Anthropic과 비즈니스 사용자들 사이에서 격차를 좁혔습니다, 새로운 데이터가 보여줍니다
OpenAI와 Anthropic이 예상 초기공개(IPO)와 상세 재무보고서 공개에서 여전히 멀어 있는 상황에서, 우리는 그들의 비즈니스 성과를 측정하기 위해 대체 지표에 의존해야 합니다. 기업용 신용카드 및 비용 관리 플랫폼인 램프(Ramp)는 최근 OpenAI가 미국 기업들 사이에서 Anthropic과의 격차를 빠르게 좁히고 있음을 보여주는 설득력 있는 데이터를 발표했습니다.OpenAI는 소비자와 기업 모두에게서 지배적인 지위를 차지하고 있
OpenAI, 청소년들이 ChatGPT를 사용하기 시작한 지 수년 만에 더 안전한 버전을 출시했다
AI 챗봇에 안전 프로토콜이 부재하여 청소년 자살 및 기타 정신 건강 위기를 초래했다는 일련의 소송이 제기된 데 이어, 오픈AI는 월요일 ‘ChatGPT for Teens’를 공개했다. 이 새로운 서비스는 강화된 안전 기능을 탑재했으며, 학교에서 AI 도구가 조장하는 학업 부정행위라는 점점 심각해지는 문제도 해결하고자 한다.교육적 관점에서 볼 때, ‘Cha
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh





집






