AI Power Surge : 의인화 CEO는 인종에 대한 경고를 이해합니다.

파리에서 열린 AI 액션 서밋이 마무리 된 직후, Anthropic의 공동 창립자이자 CEO 인 Dario Amodei는지지하지 않았습니다. 그는이 행사를 "누락 된 기회"라고 불렀으며 AI Tech가 얼마나 빨리 움직이고 있는지를 고려하여 몇 가지 주요 문제에 대한 초점과 긴급 성을 높여야한다고 강조했습니다. 그는 화요일에 발표 된 성명서에서 이러한 생각을 공유했다.

Anthropic은 프랑스 스타트 업 Dust와 팀을 이루어 파리에서 개발자 중심의 이벤트를 위해 TechCrunch가 무대에서 Amodei와 대화를 나누었습니다. 그는 자신의 관점을 공유하고 AI 혁신과 거버넌스에 대한 균형 잡힌 접근 방식을 추진하여 극도의 낙관론과 가혹한 비판을 피했다.

신경 과학자였던 아모 데 (Amodei)는 "나는 기본적으로 생계를 위해 실제 뇌를 바라 보았다. 그리고 이제 우리는 생계를 위해 인공 뇌를 내부를보고있다. 그래서 우리는 다음 몇 달 동안 해석의 영역에서 흥미 진진한 발전을 가질 것이다. 우리는 모델이 어떻게 작동하는지 이해하기 시작했다." 그러나 그는 또한 그것이 인종이라고 지적했다. "이것은 모델을 더욱 강력하게 만드는 것 사이의 경쟁이며, 우리에게 엄청나게 빠르고 다른 사람들에게는 매우 빠릅니다. 실제로 속도를 늦출 수는 없습니다. ... 우리의 이해는 사물을 구축 할 수있는 능력을 따라야합니다. 나는 이것이 유일한 방법이라고 생각합니다."

영국의 Bletchley에서 열린 첫 AI 정상 회담 이후, AI 거버넌스에 관한 대화는 현재 지정 학적 기후의 영향을 많이 받았다. JD Vance 미국 부사장은 AI Action Summit에서 연설하면서 "오늘 아침 AI 안전에 대해 이야기하기 위해 여기에 있지 않습니다.

그러나 Amodei는 안전과 기회 사이의 격차를 해소하려고합니다. 그는 안전에 더 집중하는 것이 실제로 기회가 될 수 있다고 생각합니다. "원래의 정상 회담에서 영국 Bletchley Summit은 다양한 위험에 대한 테스트 및 측정에 대한 많은 논의가있었습니다. 그리고 나는 이러한 것들이 기술을 전혀 느리게 속도로 느리게했다고 생각하지 않습니다." "이런 종류의 측정을 수행하면 결국 더 나은 모델을 생산하는 데 도움이되는 모델을 더 잘 이해하는 데 도움이되었습니다."

안전을 강조하더라도 Amodei는 인류가 여전히 Frontier AI 모델을 구축하고 있음을 분명히했습니다. "약속을 줄이기 위해 아무것도하고 싶지 않습니다. 우리는 사람들이 매일 구축 할 수 있고 놀라운 일을하는 데 익숙한 모델을 제공하고 있습니다. 그리고 우리는 그 일을 멈추지 말아야합니다." 나중에 그는 "사람들이 위험에 대해 많이 이야기 할 때 나는 짜증이 나고, 나는 다음과 같이 말합니다. '아, 남자, 아무도이 기술이 얼마나 위대한지를 실제로 배치하는 일을 잘하지 못했습니다."

이 주제가 중국 LLM 제작자 인 Deepseek의 최근 모델로 바뀌었을 때, Amodei는 대중의 반응을 "무기"라고 부르는 업적을 무시했습니다. "정직하게, 내 반응은 거의 없었습니다. 우리는 12 월에 Deepseek R1의 기본 모델 인 V3를 보았습니다. 그리고 그것은 인상적인 모델이었습니다. 12 월에 출시 된 모델은 우리가 모델과 다른 모델에서 본 매우 정상적인 비용 감소 곡선에있었습니다." 그의 관심을 끌었던 것은이 모델이 Google, Openai 및 Anthropic과 같은 미국의 일반적인 "3-4 개의 프론티어 실험실"에서 나오지 않았다는 것입니다. 그는 기술을 지배하는 권위주의 정부에 대한 우려를 표명했다. DeepSeek의 청구 된 훈련 비용에 관해서는, 그는 "정확하지 않고 사실에 근거한 것이 아니라"로 기각했습니다.

Amodei는이 행사에서 새로운 모델을 발표하지는 않았지만 강화 된 추론 기능으로 다가오는 릴리스를 암시했습니다. "우리는 일반적으로 더 나은 차별화 된 추론 모델을 스스로 받아들이는 데 중점을두고 있습니다. 우리는 충분한 용량을 갖고 모델이 더 똑똑해지고 안전에 대해 걱정하는 것에 대해 걱정하고 있습니다."

Anthropic은 또한 모델 선택 문제를 해결하고 있습니다. 예를 들어 ChatGpt Plus 사용자 인 경우 다음 메시지에 사용할 모델을 결정하기가 어려울 수 있습니다.

Amodei는 정상과 추론 모델의 구별에 의문을 제기했습니다. "우리는 정상적인 모델이 있고 추론 모델이 있으며 서로 다르다는 생각에 약간 의아해를 받았습니다." "내가 당신과 이야기하고 있다면, 당신은 두 개의 두뇌가없고 그들 중 하나는 즉시 응답하고, 다른 하나는 더 긴 시간을 기다립니다."

그는 Claude 3.5 Sonnet 또는 GPT-4O와 같은 미리 훈련 된 모델과 OpenAI의 O1 또는 DeepSeek의 R1과 같은 체인 (COT)을 생산할 수있는 강화 학습으로 훈련 된 모델 사이에 더 부드러운 전환이 있어야한다고 생각합니다. Amodei는 "우리는 이것들이 하나의 단일 연속 엔티티의 일부로 존재해야한다고 생각한다. 그리고 우리는 아직 거기에 없을 수도 있지만, 인류는 실제로 그 방향으로 물건을 움직이고 싶어한다"고 말했다. "우리는 '여기에있는 것과 여기에 B가 있습니다.'

Anthropic과 같은 AI 회사가 더 나은 모델을 계속 추진하고 있기 때문에 Amodei는 산업 전반에 걸쳐 중단의 잠재력을 크게보고 있습니다. "우리는 일부 제약 회사와 함께 Claude를 사용하여 임상 연구를 작성하고 있으며 임상 연구 보고서를 12 주에서 3 일로 작성하는 데 걸리는 시간을 줄일 수있었습니다."

그는 법률, 재무, 보험, 생산성, 소프트웨어 및 에너지와 같은 부문의 AI 응용 프로그램에서 "파괴적인 혁신의 르네상스"를 구상합니다. "저는 AI 응용 프로그램 공간에 파괴적인 혁신의 르네상스가 기본적으로있을 것이라고 생각합니다. 우리는이를 도와주고 싶습니다.

파리의 인공 지능 액션 서밋에 대한 전체 커버리지를 읽으십시오.

TechCrunch에는 AI 중심 뉴스 레터가 있습니다! 매주 수요일에받은 편지함에 넣으려면 여기에 가입하십시오.