Open AI와 Anthropic의 초대 된 미국 과학자들은 프론티어 모델 실험

기술 대기업과 미국 정부 간 AI 파트너십 확대

AI 개발의 환경은 빠르게 진화하고 있으며, Anthropic과 OpenAI와 같은 주요 AI 기업들이 미국 정부와의 관계를 심화시키고 있습니다. AI 안전성과 규제에 대한 지속적인 불확실성 속에서 이러한 협력은 강화되고 있으며, 정부가 과학적 발전을 위해 최첨단 AI 기술에 점점 더 의존하고 있음을 보여줍니다.

최근 금요일, OpenAI가 주최한 AI Jam Session이라는 독특한 행사가 9개 연구소에서 온 1,000명의 과학자들을 한자리에 모았습니다. 이 행사는 연구자들이 OpenAI의 o3-mini와 Anthropic의 최신 모델인 Claude 3.7 Sonnet을 포함한 여러 고급 AI 모델의 기능을 테스트하고 탐구할 수 있는 플랫폼이었습니다. 이 세션은 단순히 기술을 전시하는 데 그치지 않고, 과학자들이 AI를 활용해 연구의 경계를 확장할 수 있는 기회였습니다.

Anthropic은 이 행사를 과학적 탐구에서 AI의 역할을 평가하는 중요한 단계로 강조하며, 이는 "AI가 과학적 탐구의 복잡성과 미묘함을 관리할 수 있는 잠재력을 보다 진정성 있게 평가"할 수 있게 한다고 밝혔습니다. 초점은 AI가 전통적으로 많은 시간과 자원을 요구하는 복잡한 과학적 과제를 해결할 수 있는 방법에 있었습니다.

정부 기관과의 관계 심화

AI Jam Session은 이러한 AI 대기업과 미국 정부 기관 간의 보다 광범위한 협약의 일환입니다. 예를 들어, 4월에 Anthropic은 에너지부(Department of Energy, DOE) 및 국가핵안보국(National Nuclear Security Administration, NNSA)과 협력하여 Claude 3 Sonnet의 핵 정보 관련 잠재적 위험을 엄격히 테스트했습니다. 마찬가지로, 1월 30일 OpenAI는 DOE 국립 연구소들과 협력하여 최신 AI 모델을 사용한 과학적 연구를 강화한다고 발표했습니다.

미국 전역에 걸쳐 17개의 연구 시설로 구성된 DOE 국립 연구소는 핵 안보와 기후 솔루션과 같은 중요한 영역을 탐구하는 데 중추적인 역할을 합니다. 이 세션에 참여한 과학자들은 과학적 요구를 더 잘 충족할 수 있도록 미래 AI 시스템을 형성할 수 있는 피드백을 제공하도록 장려되었습니다. OpenAI는 세션에서 얻은 통찰이 과학자들이 AI를 더 효과적으로 활용할 수 있도록 공유될 것이라고 강조했습니다.

더 넓은 의미와 정부 이니셔티브

OpenAI와 국립 연구소 간의 파트너십은 질병 치료 및 예방 가속화, 사이버 및 핵 안보 강화, 재생 에너지 탐구, 물리학 연구 발전 등 다양한 분야로 확장됩니다. 이러한 노력과 함께, 정부 기관을 위한 특화된 챗봇인 ChatGPT Gov와 대규모 데이터 센터 투자 계획인 Project Stargate와 같은 이니셔티브는 정부 운영에서 AI의 통합이 점점 더 커지고 있음을 보여줍니다.

이러한 협력은 특히 트럼프 행정부 하에서 미국의 AI 전략이 변화하고 있음을 시사하며, 엄격한 안전 및 규제에서 멀어지는 모습입니다. 최근 AI Safety Institute의 직원 감축과 그 책임자의 사임은 안전 감독의 우선순위가 낮아지고 있음을 나타냅니다. 행정부의 AI Action Plan은 아직 발표되지 않아 AI 규제의 미래는 불확실합니다.

이러한 파트너십이 점점 더 보편화됨에 따라, 새로운 AI 모델의 안전성과 힘에 대한 감독이 더욱 줄어들 위험이 있습니다. 미국에서 AI 배포 속도가 빨라지고 규제가 아직 초기 단계에 있는 상황에서, 혁신과 안전 사이의 균형은 점점 더 섬세해지고 있습니다.