AI 솔루션이 기존 방법보다 성능이 뛰어난 경우 평가하는 프레임워크

질문: 머신 러닝에 적합한 제품은 무엇인가요?
프로젝트 관리자의 답변: 예.
모든 농담은 제쳐두고, 제너레이티브 AI의 등장으로 머신러닝에 가장 적합한 사용 사례에 대한 관점이 크게 바뀌었습니다. 전통적으로 머신러닝은 고객 경험에서 반복적이고 예측 가능한 패턴에 적용되어 왔습니다. 그러나 오늘날에는 대규모 학습 데이터 세트 없이도 특정 형태의 ML을 사용할 수 있습니다.
그럼에도 불구하고 "이러한 고객 니즈에 AI 솔루션이 필요한가?"에 대한 대답이 항상 긍정적인 것은 아닙니다. 대규모 언어 모델(LLM)은 일부 프로젝트에서는 여전히 너무 비쌀 수 있으며, 모든 ML 모델과 마찬가지로 정확성을 보장할 수 없습니다. ML을 구현하는 것이 최선의 방법이 아닌 상황은 항상 존재합니다. 그렇다면 AI 프로젝트 관리자는 고객의 요구가 ML 솔루션을 필요로 하는지 어떻게 평가해야 할까요?
이러한 결정을 내리는 데 도움이 되는 주요 요소는 다음과 같습니다:
- 고객의 요구를 충족하기 위해 필요한 입력과 출력: 고객이 제품에 인풋을 제공하면 제품이 아웃풋을 제공합니다. 예를 들어, ML로 생성된 Spotify 재생 목록(출력)은 사용자 선호도, 좋아하는 노래, 좋아하는 아티스트, 선호하는 장르와 같은 입력에 의존할 수 있습니다.
- 입력과 출력의 조합: 고객의 요구 사항은 동일하거나 다양한 입력에서 동일하거나 다른 출력을 기대하는지에 따라 다릅니다. 특히 대규모로 가능한 입력-출력 조합의 수가 증가함에 따라 규칙 기반 시스템보다 ML이 더 강력해지는 경우가 많습니다.
- 입력과 출력의 패턴: 입력과 출력의 관계에서 패턴을 인식하면 올바른 ML 모델 유형을 결정하는 데 도움이 됩니다. 고객 피드백을 분석하여 감정을 결정하는 것과 같이 명확한 패턴이 있는 경우 지도형 또는 준지도형 모델이 LLM보다 비용 효율적일 수 있습니다.
- 비용과 정밀도: 규모에 따라 LLM 호출은 비용이 많이 들 수 있으며, 미세 조정과 신속한 엔지니어링을 수행하더라도 그 결과가 항상 정확하지는 않습니다. 경우에 따라서는 고정 레이블 집합을 사용하여 입력을 분류하는 지도 모델이나 신경망, 심지어 규칙 기반 시스템이 LLM보다 더 나은 선택일 수 있습니다.
프로젝트 관리자가 고객의 요구 사항을 평가하고 ML이 올바른 방향인지 결정할 수 있도록 위의 고려 사항을 간단한 표로 요약해 보았습니다.
고객 요구 유형 예시 ML 구현(예/아니요/다양함) ML 구현 유형 동일한 입력에 대해 동일한 출력이 필요한 반복적인 작업 온라인 양식에서 이메일 자동 완성 아니요 이러한 출력에는 규칙 기반 시스템이 적합합니다. 동일한 입력에 대해 서로 다른 출력이 필요한 반복적인 작업 고객이 탐색 중이며 반복되는 작업(예: 로그인)을 할 때마다 새로운 경험을 기대합니다:
- 클릭당 새로운 아트웍 생성
- 인터넷에서 무작위로 새로운 코너를 찾는 스텀블유폰(기억하시나요?) 예 - 이미지 생성 LLM
- 추천 알고리즘(협업 필터링) 서로 다른 입력에 대해 동일하거나 유사한 출력이 필요한 반복 작업 - 에세이 채점
- 고객 피드백에서 테마 식별 Depends 입력-출력 조합이 간단하다면 결정론적인 규칙 기반 시스템으로 충분할 수 있습니다.
확장으로 인해 규칙 기반 시스템을 사용하기에 너무 많은 조합이 발생하는 경우에는 다음 사항을 고려하세요:
- 분류기
- 토픽 모델링
하지만 입력에 패턴이 존재하는 경우에만 가능합니다.
패턴이 없는 경우 LLM은 일회성 작업에 사용할 수 있습니다(지도 모델보다 정확도는 떨어지지만). 입력에 따라 다른 출력이 필요한 반복적인 작업 - 고객 지원 문의에 대한 응답
- 검색 기능 예 ML 없이 다양한 입력과 출력을 대규모로 처리하는 것은 흔치 않은 일입니다.
규칙 기반 접근 방식으로는 엄청난 수의 순열을 효율적으로 관리할 수 없습니다. 생각해 보세요:
- 검색 증강 생성(RAG)을 사용하는 LLM
- 검색 제품을 위한 의사 결정 트리 다양한 출력을 가진 비반복 작업 호텔 또는 레스토랑 리뷰 작성 예 LLM 이전에는 이러한 작업에는 다음과 같이 특별히 훈련된 모델이 필요한 경우가 많았습니다:
- 순환 신경망(RNN)
- 다음 단어 예측을 위한 장단기 메모리 네트워크(LSTM)
이제 LLM은 이 시나리오에 매우 적합합니다.
주요 요점은 다음과 같습니다: 가위로 할 수 있는데 광선검을 사용하지 마세요. 위의 매트릭스를 사용하여 구현 비용과 출력 정밀도를 모두 고려하여 고객의 요구 사항을 평가하여 확장 가능하고 정확하며 비용 효율적인 제품을 구축하세요.
샤란야 라오는 핀테크 그룹 제품 관리자입니다. 이 글에 표현된 견해는 저자의 의견이며 반드시 고용주 또는 소속 조직의 의견을 반영하는 것은 아닙니다.
관련 기사
머스크의 ‘그록(Grok)’: 1조 5천억 개의 파라미터와 커서 코드 통합—게임 체인저인가, 허세인가?
일론 머스크가 드디어 움직이기 시작했다.AI 프로그래밍 경쟁에서 OpenAI와 Anthropic은 속도를 내고 있는 반면, xAI는 뒤처지는 듯하다. 머스크는 클로드(Claude)에 대항하겠다는 목표를 수차례 밝혔으나, Grok4.X 시리즈에 대한 여러 차례의 업데이트에도 불구하고 결과는 이론상으로는 좋아 보이지만 실제 적용에서는 기대에 미치지 못하며, 격
오픈AI, 알트먼 해임을 어렵게 만들기 위해 정관을 몰래 변경
2023년 쿠데타와 유사한 사건 이후, 오픈AI는 정관을 개정하여 샘 알트만 CEO에 대한 보호 장치를 한층 더 강화했다. 최근 공개된 법원 문서에 따르면, 알트만 CEO의 지위는 이제 바위처럼 견고해졌으며, 외부 간섭이나 이사회 내부의 해임 시도에 대한 방어 장벽이 훨씬 더 높아졌다.일론 머스크가 오픈AI를 상대로 제기한 소송의 전문가 증인은 이러한 변경
메타 AI가 이제 페이스북 마켓플레이스에서 구매자의 메시지에 응답합니다
페이스북 마켓플레이스가 구매자 문의에 대한 자동 응답 기능을 포함한 새로운 메타 AI 기능을 도입한다고 목요일 회사 측이 발표했다. 또한 이 플랫폼은 AI를 활용해 상품 등록을 가속화하고 판매자 프로필을 요약하며, 이제 판매자가 상품 목록에 배송 옵션을 제공할 수 있도록 지원한다.판매자들은 종종 수많은 구매자 문의를 받기 때문에, 페이스북은 메타 AI 기반
관련 특별 주제 추천
의견 (0)
0/500

질문: 머신 러닝에 적합한 제품은 무엇인가요?
프로젝트 관리자의 답변: 예.
모든 농담은 제쳐두고, 제너레이티브 AI의 등장으로 머신러닝에 가장 적합한 사용 사례에 대한 관점이 크게 바뀌었습니다. 전통적으로 머신러닝은 고객 경험에서 반복적이고 예측 가능한 패턴에 적용되어 왔습니다. 그러나 오늘날에는 대규모 학습 데이터 세트 없이도 특정 형태의 ML을 사용할 수 있습니다.
그럼에도 불구하고 "이러한 고객 니즈에 AI 솔루션이 필요한가?"에 대한 대답이 항상 긍정적인 것은 아닙니다. 대규모 언어 모델(LLM)은 일부 프로젝트에서는 여전히 너무 비쌀 수 있으며, 모든 ML 모델과 마찬가지로 정확성을 보장할 수 없습니다. ML을 구현하는 것이 최선의 방법이 아닌 상황은 항상 존재합니다. 그렇다면 AI 프로젝트 관리자는 고객의 요구가 ML 솔루션을 필요로 하는지 어떻게 평가해야 할까요?
이러한 결정을 내리는 데 도움이 되는 주요 요소는 다음과 같습니다:
- 고객의 요구를 충족하기 위해 필요한 입력과 출력: 고객이 제품에 인풋을 제공하면 제품이 아웃풋을 제공합니다. 예를 들어, ML로 생성된 Spotify 재생 목록(출력)은 사용자 선호도, 좋아하는 노래, 좋아하는 아티스트, 선호하는 장르와 같은 입력에 의존할 수 있습니다.
- 입력과 출력의 조합: 고객의 요구 사항은 동일하거나 다양한 입력에서 동일하거나 다른 출력을 기대하는지에 따라 다릅니다. 특히 대규모로 가능한 입력-출력 조합의 수가 증가함에 따라 규칙 기반 시스템보다 ML이 더 강력해지는 경우가 많습니다.
- 입력과 출력의 패턴: 입력과 출력의 관계에서 패턴을 인식하면 올바른 ML 모델 유형을 결정하는 데 도움이 됩니다. 고객 피드백을 분석하여 감정을 결정하는 것과 같이 명확한 패턴이 있는 경우 지도형 또는 준지도형 모델이 LLM보다 비용 효율적일 수 있습니다.
- 비용과 정밀도: 규모에 따라 LLM 호출은 비용이 많이 들 수 있으며, 미세 조정과 신속한 엔지니어링을 수행하더라도 그 결과가 항상 정확하지는 않습니다. 경우에 따라서는 고정 레이블 집합을 사용하여 입력을 분류하는 지도 모델이나 신경망, 심지어 규칙 기반 시스템이 LLM보다 더 나은 선택일 수 있습니다.
프로젝트 관리자가 고객의 요구 사항을 평가하고 ML이 올바른 방향인지 결정할 수 있도록 위의 고려 사항을 간단한 표로 요약해 보았습니다.
| 고객 요구 유형 | 예시 | ML 구현(예/아니요/다양함) | ML 구현 유형 |
|---|---|---|---|
| 동일한 입력에 대해 동일한 출력이 필요한 반복적인 작업 | 온라인 양식에서 이메일 자동 완성 | 아니요 | 이러한 출력에는 규칙 기반 시스템이 적합합니다. |
| 동일한 입력에 대해 서로 다른 출력이 필요한 반복적인 작업 | 고객이 탐색 중이며 반복되는 작업(예: 로그인)을 할 때마다 새로운 경험을 기대합니다: - 클릭당 새로운 아트웍 생성 - 인터넷에서 무작위로 새로운 코너를 찾는 스텀블유폰(기억하시나요?) | 예 | - 이미지 생성 LLM - 추천 알고리즘(협업 필터링) |
| 서로 다른 입력에 대해 동일하거나 유사한 출력이 필요한 반복 작업 | - 에세이 채점 - 고객 피드백에서 테마 식별 | Depends | 입력-출력 조합이 간단하다면 결정론적인 규칙 기반 시스템으로 충분할 수 있습니다. 확장으로 인해 규칙 기반 시스템을 사용하기에 너무 많은 조합이 발생하는 경우에는 다음 사항을 고려하세요: - 분류기 - 토픽 모델링 하지만 입력에 패턴이 존재하는 경우에만 가능합니다. 패턴이 없는 경우 LLM은 일회성 작업에 사용할 수 있습니다(지도 모델보다 정확도는 떨어지지만). |
| 입력에 따라 다른 출력이 필요한 반복적인 작업 | - 고객 지원 문의에 대한 응답 - 검색 기능 | 예 | ML 없이 다양한 입력과 출력을 대규모로 처리하는 것은 흔치 않은 일입니다. 규칙 기반 접근 방식으로는 엄청난 수의 순열을 효율적으로 관리할 수 없습니다. 생각해 보세요: - 검색 증강 생성(RAG)을 사용하는 LLM - 검색 제품을 위한 의사 결정 트리 |
| 다양한 출력을 가진 비반복 작업 | 호텔 또는 레스토랑 리뷰 작성 | 예 | LLM 이전에는 이러한 작업에는 다음과 같이 특별히 훈련된 모델이 필요한 경우가 많았습니다: - 순환 신경망(RNN) - 다음 단어 예측을 위한 장단기 메모리 네트워크(LSTM) 이제 LLM은 이 시나리오에 매우 적합합니다. |
주요 요점은 다음과 같습니다: 가위로 할 수 있는데 광선검을 사용하지 마세요. 위의 매트릭스를 사용하여 구현 비용과 출력 정밀도를 모두 고려하여 고객의 요구 사항을 평가하여 확장 가능하고 정확하며 비용 효율적인 제품을 구축하세요.
샤란야 라오는 핀테크 그룹 제품 관리자입니다. 이 글에 표현된 견해는 저자의 의견이며 반드시 고용주 또는 소속 조직의 의견을 반영하는 것은 아닙니다.
머스크의 ‘그록(Grok)’: 1조 5천억 개의 파라미터와 커서 코드 통합—게임 체인저인가, 허세인가?
일론 머스크가 드디어 움직이기 시작했다.AI 프로그래밍 경쟁에서 OpenAI와 Anthropic은 속도를 내고 있는 반면, xAI는 뒤처지는 듯하다. 머스크는 클로드(Claude)에 대항하겠다는 목표를 수차례 밝혔으나, Grok4.X 시리즈에 대한 여러 차례의 업데이트에도 불구하고 결과는 이론상으로는 좋아 보이지만 실제 적용에서는 기대에 미치지 못하며, 격
오픈AI, 알트먼 해임을 어렵게 만들기 위해 정관을 몰래 변경
2023년 쿠데타와 유사한 사건 이후, 오픈AI는 정관을 개정하여 샘 알트만 CEO에 대한 보호 장치를 한층 더 강화했다. 최근 공개된 법원 문서에 따르면, 알트만 CEO의 지위는 이제 바위처럼 견고해졌으며, 외부 간섭이나 이사회 내부의 해임 시도에 대한 방어 장벽이 훨씬 더 높아졌다.일론 머스크가 오픈AI를 상대로 제기한 소송의 전문가 증인은 이러한 변경
메타 AI가 이제 페이스북 마켓플레이스에서 구매자의 메시지에 응답합니다
페이스북 마켓플레이스가 구매자 문의에 대한 자동 응답 기능을 포함한 새로운 메타 AI 기능을 도입한다고 목요일 회사 측이 발표했다. 또한 이 플랫폼은 AI를 활용해 상품 등록을 가속화하고 판매자 프로필을 요약하며, 이제 판매자가 상품 목록에 배송 옵션을 제공할 수 있도록 지원한다.판매자들은 종종 수많은 구매자 문의를 받기 때문에, 페이스북은 메타 AI 기반





집






