구글 딥마인드가 AGI 논의를 확대하기 위해 연구소를 설립하다

구글과 구글 딥마인드는 수요일 인공 일반 지능(AGI)에 대한 대화를 장려하기 위해 딥마인드 연구소를 설립했다. 이 연구소는 딥마인드 공동 창립자 섀니 레그, 구글 임원 제임스 매니카, 구글 딥마인드 의장 데미스 하사비스가 이끌며, 레그는 편집장을 역임한다.
이 새로운 이니셔티브는 AGI에 관한 구글, 딥마인드 및 전 세계 연구 커뮤니티 내의 다양한 관점을 부각시키는 것을 목표로 한다. 발표문에 따르면 참여자들은 “항상 일치하는 것은 아닐 것”이며, 빠르게 진전되는 이 최전선에서 새로운 데이터가 나타남에 따라 자신의 입장을 수정할 가능성이 있다고 명시했다.
첫 번째 컬렉션은 잠재적인 AGI 혼란에 대한 경제적 전략, 인간이 판독 가능한 모델의 추론 유지, 인간의 번영을 위한 원칙, 최전선 AI 모델 평가 프레임워크라는 주요 쟁점을 다루는 네 편의 에세이를 포함한다.
딥마인드 안전 연구원 로힌 샤와 안카 드라간은 한 에세이에서 AI 시스템의 투명성 감소, 즉 단계별 추론을 검사할 수 있는 능력은 피할 수 없는 것이 아니라고 주장한다. 새로운 아키텍처가 모니터링을 복잡하게 만들면서, 그들은 개발자와 규제 기관이 안전상의 타협을 직접적으로 해결해야 한다고 제안한다. 여기에는 ‘불투명한 직렬 깊이’를 제한하거나, 덜 투명한 시스템이 여전히 동일하게 모니터링 가능하다는 증거를 요구하는 것이 포함될 수 있다.
다른 에세이에서 데미스 하사비스는 고급 모델을 평가하기 위해 미국이 주도하는 최전선 AI 표준 기구를 제안한다. 이 제안에 따르면 개발자들은 초기에 출시 30일 전에 자발적으로 모델을 제출하여 검토를 받는다. 평가 시스템이 효과적임이 입증되면, 이러한 테스트를 통과하는 것이 미국에서 최전선 모델을 배포하기 위한 필수 조건이 될 수 있다.
초기에는 이 기구가 AI 기업들의 의견을 수렴하여 평가를 설계하겠지만, 결국 연구소들이 알려진 벤치마크에 맞춰 모델을 최적화하는 것을 방지하기 위해 비공개로 진행되는 독립적인 평가, 즉 ‘홀드아웃’ 테스트를 생성할 것이다. 하사비스는 상황이 필요할 경우 이 프레임워크가 “강화될 수 있다”고 언급했으며, 여기에는 최전선 AI 개발자들 간의 조정된 개발 속도 저하가 포함될 수 있다.
이러한 에세이들은 산업계 안전 논의가 일반적인 우려에서 공개, 외부 감시, 그리고 안전 장치가 뒤처질 경우 조정된 개발 속도 저하에 대한 구체적인 제안으로 전환되는 시점에 나왔다. 이번 주 산업계 지도자들이 안트로픽의 다리오 아모데이 CEO가 최전선 AI 개발을 “조율”할 것을 촉구하는 데 지지하면서 이러한 모멘텀이 강화되었다.
관련 기사
앤트로픽의 ‘소네트 5.5’ 유출: 200만 토큰 규모의 컨텍스트 과제가 딥시크의 비용 효율성 회복을 시험대에 올리고 있다
Anthropic은 내부적으로 ‘Fennec’(사막여우에서 유래한 이름)으로 알려진 최신 Sonnet 5.5 모델을 공개했으며, 이 모델은 다음 달 출시될 예정입니다. 유출된 정보에 따르면, 이 모델은 200만 토큰 규모의 컨텍스트 윈도우를 지원하여 더 빠른 추론, 낮은 지연 시간, 그리고 크게 향상된 장문 컨텍스트 추론 및 다단계 계획 수립 능력을 제공합
크롬, 제미니용 스킬 라이브러리 출시: 한 번의 클릭으로 프롬프트 재사용, 반복적인 입력 작업에 작별을 고하세요
구글은 데스크톱용 크롬에 업데이트를 적용하여, 통합된 제미니(Gemini) 기능을 위한 새로운 ‘스킬 라이브러리’를 도입했습니다. 이번 개선을 통해 사용자는 복잡한 AI 프롬프트를 재사용 가능한 ‘스킬’로 저장하여 웹 페이지 전반에서 원활하게 활용할 수 있게 되었습니다.핵심 혁신: ‘채팅창’에서 ‘도구 상자’로이전에는 사용자가 AI를 사용할 때 배경 정보를
앤트로픽 CEO, 은행식 AI 규범 도입 촉구… 전문가들 “선수이자 심판이 되어서는 안 된다”고 경고
CNBC에 따르면, 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) CEO는 주요 AI 기업 내에 장기적인 독립 제3자 안전 평가관을 배치하고, 이들에게 내부 리스크 팀과 거의 동등한 수준의 접근 권한을 부여하며, 제한적인 조건 하에서 평가 결과를 독립적으로 공개할 수 있는 권한을 부여할 것을 제안했다. 그는 은행 규제 당국이 기업
관련 특별 주제 추천
의견 (0)
0/500

구글과 구글 딥마인드는 수요일 인공 일반 지능(AGI)에 대한 대화를 장려하기 위해 딥마인드 연구소를 설립했다. 이 연구소는 딥마인드 공동 창립자 섀니 레그, 구글 임원 제임스 매니카, 구글 딥마인드 의장 데미스 하사비스가 이끌며, 레그는 편집장을 역임한다.
이 새로운 이니셔티브는 AGI에 관한 구글, 딥마인드 및 전 세계 연구 커뮤니티 내의 다양한 관점을 부각시키는 것을 목표로 한다. 발표문에 따르면 참여자들은 “항상 일치하는 것은 아닐 것”이며, 빠르게 진전되는 이 최전선에서 새로운 데이터가 나타남에 따라 자신의 입장을 수정할 가능성이 있다고 명시했다.
첫 번째 컬렉션은 잠재적인 AGI 혼란에 대한 경제적 전략, 인간이 판독 가능한 모델의 추론 유지, 인간의 번영을 위한 원칙, 최전선 AI 모델 평가 프레임워크라는 주요 쟁점을 다루는 네 편의 에세이를 포함한다.
딥마인드 안전 연구원 로힌 샤와 안카 드라간은 한 에세이에서 AI 시스템의 투명성 감소, 즉 단계별 추론을 검사할 수 있는 능력은 피할 수 없는 것이 아니라고 주장한다. 새로운 아키텍처가 모니터링을 복잡하게 만들면서, 그들은 개발자와 규제 기관이 안전상의 타협을 직접적으로 해결해야 한다고 제안한다. 여기에는 ‘불투명한 직렬 깊이’를 제한하거나, 덜 투명한 시스템이 여전히 동일하게 모니터링 가능하다는 증거를 요구하는 것이 포함될 수 있다.
다른 에세이에서 데미스 하사비스는 고급 모델을 평가하기 위해 미국이 주도하는 최전선 AI 표준 기구를 제안한다. 이 제안에 따르면 개발자들은 초기에 출시 30일 전에 자발적으로 모델을 제출하여 검토를 받는다. 평가 시스템이 효과적임이 입증되면, 이러한 테스트를 통과하는 것이 미국에서 최전선 모델을 배포하기 위한 필수 조건이 될 수 있다.
초기에는 이 기구가 AI 기업들의 의견을 수렴하여 평가를 설계하겠지만, 결국 연구소들이 알려진 벤치마크에 맞춰 모델을 최적화하는 것을 방지하기 위해 비공개로 진행되는 독립적인 평가, 즉 ‘홀드아웃’ 테스트를 생성할 것이다. 하사비스는 상황이 필요할 경우 이 프레임워크가 “강화될 수 있다”고 언급했으며, 여기에는 최전선 AI 개발자들 간의 조정된 개발 속도 저하가 포함될 수 있다.
이러한 에세이들은 산업계 안전 논의가 일반적인 우려에서 공개, 외부 감시, 그리고 안전 장치가 뒤처질 경우 조정된 개발 속도 저하에 대한 구체적인 제안으로 전환되는 시점에 나왔다. 이번 주 산업계 지도자들이 안트로픽의 다리오 아모데이 CEO가 최전선 AI 개발을 “조율”할 것을 촉구하는 데 지지하면서 이러한 모멘텀이 강화되었다.
앤트로픽의 ‘소네트 5.5’ 유출: 200만 토큰 규모의 컨텍스트 과제가 딥시크의 비용 효율성 회복을 시험대에 올리고 있다
Anthropic은 내부적으로 ‘Fennec’(사막여우에서 유래한 이름)으로 알려진 최신 Sonnet 5.5 모델을 공개했으며, 이 모델은 다음 달 출시될 예정입니다. 유출된 정보에 따르면, 이 모델은 200만 토큰 규모의 컨텍스트 윈도우를 지원하여 더 빠른 추론, 낮은 지연 시간, 그리고 크게 향상된 장문 컨텍스트 추론 및 다단계 계획 수립 능력을 제공합
크롬, 제미니용 스킬 라이브러리 출시: 한 번의 클릭으로 프롬프트 재사용, 반복적인 입력 작업에 작별을 고하세요
구글은 데스크톱용 크롬에 업데이트를 적용하여, 통합된 제미니(Gemini) 기능을 위한 새로운 ‘스킬 라이브러리’를 도입했습니다. 이번 개선을 통해 사용자는 복잡한 AI 프롬프트를 재사용 가능한 ‘스킬’로 저장하여 웹 페이지 전반에서 원활하게 활용할 수 있게 되었습니다.핵심 혁신: ‘채팅창’에서 ‘도구 상자’로이전에는 사용자가 AI를 사용할 때 배경 정보를
앤트로픽 CEO, 은행식 AI 규범 도입 촉구… 전문가들 “선수이자 심판이 되어서는 안 된다”고 경고
CNBC에 따르면, 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) CEO는 주요 AI 기업 내에 장기적인 독립 제3자 안전 평가관을 배치하고, 이들에게 내부 리스크 팀과 거의 동등한 수준의 접근 권한을 부여하며, 제한적인 조건 하에서 평가 결과를 독립적으로 공개할 수 있는 권한을 부여할 것을 제안했다. 그는 은행 규제 당국이 기업





집






