메타 공개 LLAMA 4 : Advanced AI 모델이 출시되었습니다

Meta가 토요일에 폭탄선언을 하며 Llama 패밀리의 최신 모델인 Llama 4를 공개했습니다. 이 새로운 라인업에는 Llama 4 Scout, Llama 4 Maverick, Llama 4 Behemoth가 포함됩니다. 이 모델들은 레이블이 없는 텍스트, 이미지, 비디오 데이터를 대량으로 학습하여, Meta에 따르면 시각적 요소를 꽤 잘 이해합니다.

Llama 4 출시는 중국 AI 연구소 DeepSeek가 이전 Meta의 Llama 모델을 능가하거나 비슷한 성능을 보이는 모델을 선보인 후 추진되었습니다. 이는 Meta를 혼란에 빠뜨렸고, DeepSeek가 R1, V3 같은 모델을 더 저렴하게 운영하고 배포할 수 있었던 방법을 알아내기 위해 전쟁 방을 설치하게 했습니다.

Scout와 Maverick은 Llama.com이나 Hugging Face 같은 Meta의 파트너를 통해 즉시 사용할 수 있습니다. 하지만 Behemoth는 아직 실험실에서 개발 중입니다. Meta의 AI 어시스턴트는 WhatsApp, Messenger, Instagram 같은 앱에서 Llama 4로 업그레이드되었으며, 40개국에서 사용 가능합니다. 다만, 다중 모달 기능은 현재 미국에서만 영어로 제공됩니다.

단점이 있습니다. EU에 있거나 사업체가 EU에 기반을 두고 있다면, 엄격한 AI 및 데이터 개인정보 보호법 때문에 이 모델을 사용하거나 공유할 수 없습니다. Meta는 이 규정을 좋아하지 않습니다. 또한, 월간 활성 사용자가 7억 명 이상인 기업은 Meta에 특별 라이선스를 요청해야 하지만, 거절될 가능성도 있습니다.

"이 Llama 4 모델들은 Llama 생태계의 큰 시작일 뿐입니다," Meta는 블로그 포스트에서 자랑했습니다. "우리는 Llama 4로 이제 막 시작했습니다."

Llama 4는 전문가 혼합(MoE) 아키텍처를 처음으로 사용하며, 훈련과 질문 응답이 훨씬 효율적입니다. 큰 작업을 작은 태스크로 나누어 전문화된 "전문가" 모델에 맡기는 방식입니다.

예를 들어, Maverick은 총 4000억 개의 파라미터를 가지지만, 128개의 전문가 중 170억 개만 활성화됩니다. 반면 Scout는 170억 개의 활성 파라미터, 16개의 전문가, 총 1090억 개의 파라미터를 가집니다.

Meta의 내부 테스트에 따르면, 창의적 글쓰기 같은 일반 어시스턴트 및 채팅 작업에 탁월한 Maverick은 코딩, 추론, 다국어 처리, 긴 텍스트 처리와 같은 특정 영역에서 OpenAI의 GPT-4o와 Google의 Gemini 2.0을 능가합니다. 하지만 Google의 Gemini 2.5 Pro, Anthropic의 Claude 3.7 Sonnet, OpenAI의 GPT-4.5 같은 최신 강력한 모델에는 미치지 못합니다.

Scout는 문서 요약이나 대규모 코드베이스 작업에서 빛을 발합니다. 1000만 토큰의 거대한 컨텍스트 윈도우를 가지며, 이미지와 수백만 단어를 동시에 처리할 수 있습니다. Scout는 단일 Nvidia H100 GPU에서 실행 가능하지만, Maverick은 더 강력한 Nvidia H100 DGX 시스템 또는 유사한 시스템이 필요합니다.

Behemoth는 아직 공개되지 않았지만, 강력한 하드웨어가 필요합니다. 2880억 개의 활성 파라미터, 16개의 전문가, 약 2조 개의 총 파라미터를 가집니다. Meta의 테스트에 따르면 수학 문제 해결 같은 STEM 기술에서 GPT-4.5, Claude 3.7 Sonnet, Gemini 2.0 Pro를 능가하지만, Gemini 2.5 Pro는 이기지 못했습니다.

Llama 4 모델들은 OpenAI의 o1, o3-mini 같은 "추론" 모델은 아닙니다. 그런 모델들은 답변을 재확인하여 더 신뢰할 수 있지만, 응답 시간이 더 깁니다.

흥미롭게도, Meta는 Llama 4가 "논란의 여지가 있는" 질문을 회피할 가능성을 줄이도록 조정했다고 밝혔습니다. 새 모델들은 이전 Llama 모델들이 피했던 정치적, 사회적 논쟁 주제를 더 기꺼이 다룹니다. 또한, Meta는 Llama 4가 응답 거부에서 "극적으로 더 균형 잡혔다"고 주장합니다.

"Llama 4는 판단 없이 도움이 되고 사실적인 답변을 제공합니다," Meta 대변인이 TechCrunch에 말했습니다. "우리는 Llama가 다양한 관점에 더 반응하고 특정 관점을 선호하지 않도록 노력하고 있습니다."

이 움직임은 도널드 트럼프 대통령의 동맹인 Elon Musk와 David Sacks가 AI 챗봇이 너무 "진보적"이라며 보수적 관점을 검열한다고 비판한 가운데 나왔습니다. Sacks는 특히 OpenAI의 ChatGPT가 정치적 주제에서 편향되고 거짓이라고 지적했습니다.

사실, AI에서 편향을 제거하는 것은 어려운 문제입니다. Musk의 xAI조차 정치적으로 한쪽으로 치우치지 않는 챗봇을 만드는 데 어려움을 겪었습니다.

그럼에도 불구하고, OpenAI 같은 회사들은 특히 논란의 여지가 있는 주제에 대해 더 많은 질문에 답변하도록 모델을 조정해 왔습니다.