Google은 AI 안전 보고서 지연 속에서 Gemini 모델 배송을 가속화합니다.

OpenAI의 ChatGPT에 예상치 못하게 뒤처진 지 2년이 지난 후, Google은 본격적으로 경쟁력을 강화했습니다. 3월 말, 그들은 코딩과 수학 벤치마크에서 선두를 달리는 AI 추론 모델인 Gemini 2.5 Pro를 출시했습니다. 그리고 불과 3개월 전에는 당시 최고 수준이었던 Gemini 2.0 Flash를 선보였습니다. Google의 Gemini 제품 책임자이자 디렉터인 Tulsee Doshi는 TechCrunch에 이 빠른 출시 일정이 빠르게 변화하는 AI 세계에 발맞추기 위한 전략의 일환이라고 밝혔습니다.

Doshi는 "우리는 아직 이러한 모델을 출시하고 피드백을 받는 최선의 방법을 모색 중입니다"라고 설명했습니다. 하지만 이 빠른 출시에는 단점도 있는 것 같습니다. Google은 Gemini 2.5 Pro와 Gemini 2.0 Flash 같은 최신 모델에 대한 안전 보고서를 공개하지 않았고, 이는 그들이 충분히 투명하지 않고 서두르고 있다는 우려를 낳고 있습니다.

요즘 OpenAI, Anthropic, Meta 같은 주요 AI 연구소들은 새 모델을 출시할 때 안전 테스트, 성능 점검, 사용 사례를 공유하는 것이 일반적입니다. 이러한 보고서는 때때로 "시스템 카드" 또는 "모델 카드"라고 불리며, 수년 전 산업계와 학계 연구자들에 의해 제안되었습니다. 실제로 Google은 2019년 논문에서 모델 카드를 처음 제안한 기업 중 하나로, 책임감 있고 투명한 머신러닝 관행에 필수적이라고 밝혔습니다.

Doshi는 TechCrunch에 Gemini 2.5 Pro의 모델 카드를 아직 공개하지 않은 이유는 이를 "실험적" 출시로 간주하기 때문이라고 말했습니다. 제한적으로 출시해 피드백을 수집하고, 정식 출시 전에 개선하려는 의도입니다. 그녀는 Google이 Gemini 2.5 Pro가 널리 사용 가능해지면 모델 카드를 공개할 계획이며, 이미 일부 안전 테스트와 적대적 레드 팀 테스트를 진행했다고 밝혔습니다.

Google 대변인은 안전이 여전히 "최우선 순위"라며, Gemini 2.0 Flash를 포함한 AI 모델에 대한 추가 문서를 곧 공개할 것이라고 전했습니다. Gemini 2.0 Flash는 모두에게 공개되었지만, 여전히 모델 카드가 없습니다. Google이 마지막으로 공개한 모델 카드는 1년 전 Gemini 1.5 Pro에 대한 것이었습니다.

시스템 카드와 모델 카드는 기업들이 공개하고 싶지 않을 수도 있는 유용한 정보를 제공합니다. 예를 들어, OpenAI의 o1 모델에 대한 시스템 카드는 인간에 대해 "계획적으로" 행동하거나 비밀리에 자체 목표를 추구하는 경향이 있음을 보여주었습니다. AI 커뮤니티는 일반적으로 이러한 보고서를 독립적인 연구와 안전 점검을 지원하는 방법으로 보고 있지만, 최근에는 그 중요성이 더 커졌습니다. Transformer가 지적했듯이, Google은 2023년 미국 정부에 "중요한" 공개 AI 모델 출시마다 안전 보고서를 공개하겠다고 약속했습니다. 그들은 다른 정부들에게도 투명성에 대한 유사한 약속을 했습니다.

미국에서는 연방 및 주 차원에서 AI 개발자들을 위한 안전 보고 표준을 설정하려는 노력이 있었지만, 큰 성과를 거두지 못했습니다. 대표적인 사례는 캘리포니아의 SB 1047 법안으로, 이는 거부되었으며 기술 산업의 강한 반대에 부딪혔습니다. 또한 미국 AI 안전 연구소가 모델 출시에 대한 가이드라인을 설정하도록 하는 법안 논의도 있었지만, 이제 이 연구소는 트럼프 행정부 하에서 예산 삭감에 직면할 가능성이 있습니다.

Google은 모델 테스트 보고에 대한 약속을 지키지 못하면서도 그 어느 때보다 빠르게 모델을 출시하고 있는 것처럼 보입니다. 많은 전문가들은 특히 이러한 모델이 점점 더 발전하고 강력해짐에 따라 이는 좋지 않은 선례를 남긴다고 생각합니다.