집
오픈AI는 내부 AI 모델들이 실험적 훈련을 자율적으로 관리하고 있다고 보고하며, 이는 초기 단계의 재귀적 자기 개선이 이루어지고 있음을 시사합니다. 인간의 통제력을 상실할 위험을 완화하기 위해, 오픈AI는 의무적인 감독 및 사고 보고를 포함한 글로벌 안전 기준을 제안하고 있습니다. 또한 앤트로픽(Anthropic)과 상호 감독 협약을 최종 확정 중이며, 이를 통해 모델을 교차 검증하고 알려지지 않은 위험을 해결함으로써 안전 연구가 AI의 성능을 앞서 나가도록 보장할 계획입니다.
의견 (0)
0/300
