AI Summit은 기회를 놓쳤다 고 Anthropic CEO는 말합니다

화요일에 발표된 성명에서 AI 스타트업 Anthropic의 CEO 다리오 아모데이(Dario Amodei)는 이번 주 파리에서 열린 AI 액션 서밋에 대해 실망감을 표하며 이를 "놓친 기회"라고 평가했다. 그는 AI 산업과 정부 관료들이 보다 신속하고 명확하게 행동할 것을 촉구했다.

"우리는 파리에서 열린 AI 액션 서밋에 참여하게 되어 기뻤으며, 프랑스 정부가 AI 기업, 연구자, 정책 입안자들을 전 세계적으로 하나로 모은 점을 높이 평가한다,"라고 아모데이가 말했다. "하지만 핵심 문제에 필요한 긴급성과 집중도가 기술의 급속한 발전과 맞지 않았다."

AI 거버넌스에 대한 합의를 도출하기 위한 일련의 컨퍼런스의 일환인 이번 서밋에 대한 아모데이의 비판은, 주 초에 행사를 비판한 여러 학자들의 의견과 공감대를 이뤘다. 한 학자는 Transformer에 이번 서밋의 약속들이 미국과 영국이 서명하지 않아 사실상 "진부한 말로 포장된 공허한 약속"이라고 언급했다.

컨퍼런스에서 미국 부통령 JD 밴스(JD Vance)는 유럽이 제안한 AI에 대한 과도한 규제를 비판하며 전혀 다른 관점을 제시했다. 그는 또한 컨퍼런스가 콘텐츠 moderation에 초점을 맞춘 점을 비판하며, 약속에 포함된 "지속 가능"과 "포용적"이라는 용어를 "권위주의적 검열"의 은폐된 시도로 일축했다.

아모데이는 AI의 급속한 발전을 강조하며, 적절히 규제되지 않을 경우 잠재적인 재앙적 결과를 경고했다. "AI 시스템을 세계 무대에 진입하는 고도로 지능적인 존재들로 가득 찬 새로운 국가로 생각해보라,"고 그는 설명했다. "고급 AI는 특히 비국가 행위자에 의한 오용으로 인해 글로벌 안보에 심각한 위협을 초래한다... 민주주의 국가들이 AI 개발에서 주도권을 잡아 권위주의 정권이 AI를 통해 글로벌 군사적 우위를 점하지 않도록 하는 것이 중요하다."

그는 정부가 AI 사용을 적극적으로 모니터링하고, 고급 AI 기술로부터 공평한 경제적 이익을 보장하는 정책을 시행할 것을 촉구했다. 아모데이는 또한 AI 안전과 보안에 대한 정부의 투명성을 높이고 AI 위험을 평가하는 전략의 필요성을 강조했다.

이러한 관점은 파리 컨퍼런스가 "모두를 위한 책임 있고 유익한 AI 개발을 향한 또 다른 중요한 이정표"라고 자신감을 표한 OpenAI의 입장과 대조된다.

Anthropic은 역사적으로 AI 규제에 더 개방적이었다. 아모데이는 이전에 규제되지 않은 AI가 경제, 사회, 안보에 미칠 잠재적 부정적 영향에 대해 우려를 표명한 바 있다. Anthropic은 캘리포니아의 포괄적인 AI 규제 법안 SB 1047을 은연중에 지지했으며, 이 법안은 지난해 가을 주지사 개빈 뉴섬(Gavin Newsom)에 의해 거부되기 전까지 많은 논쟁을 불러일으켰다. 반면, OpenAI는 이 법안을 반대했다.

그러나 Anthropic의 입장이 순전히 이타적인 것은 아니라는 점을 주목할 필요가 있다. OpenAI CEO 샘 알트먼(Sam Altman)의 최근 글과 마찬가지로, 아모데이는 고급 AI의 이익이 광범위하고 균등하게 분배되도록 보장하는 구체적인 제안을 제시하지 않았다.

파리에서 열린 인공지능 액션 서밋에 대한 우리의 포괄적인 보도를 읽어보세요.