귀하의 비즈니스는 수백 개의 AI 모델에 의존 할 것입니다. 이유는 다음과 같습니다

오늘의 기술 환경에서, 기업들이 다양한 요구를 위해 여러 클라우드 서비스와 데이터베이스를 관리하듯이, 다양한 목적을 위해 여러 AI 모델을 사용하는 추세가 증가하고 있습니다. 1,000명 이상의 IT 의사결정자를 대상으로 한 최근 설문조사에 따르면, 가장 선진적인 AI 도입자들은 현재 수백 개의 모델을 동시에 관리하고 있습니다.

우리는 "다중 모델 AI" 시대에 접어들었습니다. S&P Global Market Intelligence가 Vultr의 후원으로 실시한 설문조사에 따르면, 현재 사용 중인 AI 모델의 평균 수는 158개이며, 내년에는 이 숫자가 176개로 증가할 것으로 예상됩니다.

설문조사는 또한 가장 선진적인 AI 사용자들이 현재 평균 175개의 모델을 운영하고 있으며, 내년에는 이 숫자가 14% 증가하여 200개 모델에 이를 것으로 전망했습니다. AI 성숙도가 두 번째로 높은 그룹은 모델 수가 연간 18% 성장할 것으로 예상했습니다. 또한, 설문조사에 참여한 관리자의 3분의 2(66%)는 자체 모델을 개발하거나 오픈소스 옵션을 활용하고 있습니다.

다양한 애플리케이션에 걸쳐 여러 모델을 사용하는 데는 타당한 이유가 있습니다. 예를 들어, MIT의 연구는 언어, 비전, 행동 데이터를 학습한 세 가지 모델을 사용하여 가정, 건설, 제조 환경에서 로봇이 작업을 계획하고 실행하도록 돕는 시스템을 강조했습니다. MIT 연구자들은 "각 기반 모델은 의사결정 과정의 서로 다른 측면을 포착하며, 결정이 내려질 때 협력합니다"라고 설명했습니다.

이 추세는 Erica Dingman이 MovableInk 포스트에서 설명한 바와 같이, 여러 모델이 함께 작동하여 출력을 생성하는 "앙상블" 접근 방식으로 이어지고 있습니다. 그녀는 "단일 모델과 앙상블 모델을 사용하는 차이는 솔로 바이올린과 풀 오케스트라를 비교하는 것과 같습니다"라고 언급했습니다. "각 악기는 그 자체로 가치가 있지만, 함께하면 정말로 마법 같은 것을 창조합니다." 또한, 다양한 데이터셋을 사용하고 앙상블 모델을 지속적으로 업데이트 및 학습시키면 AI 출력의 편향을 완화하거나 제거하는 데 도움이 될 수 있습니다.

AI 모델을 지원하는 시스템의 광범위한 채택과 다양성이 이러한 확산을 주도하고 있습니다. S&P와 Vultr의 설문조사에 따르면, AI는 점점 더 엣지에서 배포되고 있습니다. 설문조사 저자들은 "엣지가 조직의 인프라 전반에 걸친 애플리케이션에서 중요한 역할을 하며, 분산형 AI 아키텍처가 표준이 될 가능성이 높습니다"라고 밝혔습니다. IT 의사결정자의 대다수(85%)는 이러한 전환이 자신의 환경에서 가능하거나 매우 가능하다고 믿으며, 32%는 이를 "매우 가능하다"고 평가했습니다.

설문조사는 AI 채택에서 선도적인 조직을 "변혁적 AI 관행"을 가진 조직으로 분류했습니다. 이들 리더의 절반은 운영 수준에서 업계 동료보다 "상당히 더 나은" 성과를 내고 있습니다. 거의 모든 리더는 2022년에서 2023년까지의 연간 성과에서 고객 만족도(90%), 수익(91%), 비용 절감/마진 확장(88%), 리스크 관리(87%), 마케팅(89%), 시장 점유율(89%) 등 다양한 지표에서 개선을 보고했습니다.

모든 설문조사 대상 조직에서 AI 지출은 일반 IT 지출을 초과할 것으로 예상됩니다. 10개 기업 중 거의 9개(88%)가 2025년에 AI 지출을 늘릴 계획이며, 49%는 중간에서 상당한 증가를 예상하고 있습니다.

그러나 AI 사용의 급격한 성장은 기존 IT 인프라와 관련된 도전 과제를 가져옵니다. 설문조사 저자들은 "실시간 추론과 같은 높은 수요의 AI 활동에 대해 응답자들은 현재 인프라가 충분하지 않을 수 있다고 우려하고 있습니다"라고 언급했습니다. 상위 세 가지 우려 사항은 CPU 또는 GPU 자원의 부족(65%), 데이터 지역성 문제(53%), 스토리지 성능 문제(50%)를 포함합니다.

설문조사의 질적 데이터는 이러한 우려를 반영하며, 인터뷰 대상자들은 퍼블릭 클라우드에서 더 높은 용량의 GPU 인스턴스에 대한 스케줄링 지연과 데이터 가용성에 대한 잠재적 영향을 언급했습니다. 또한, 인프라 비용에 대한 우려가 증가하고 있습니다. 저자들은 "프로젝트가 프로덕션에서 실행되면 비용이 종종 더 시급한 우려가 됩니다. 역사적으로 조직들은 이러한 비용을 정확히 예측하는 데 어려움을 겪었습니다"라고 결론지었습니다.