評估 AI 解決方案優於傳統方法的架構

問題:哪些產品適合機器學習?
專案經理的回答:是的。
玩笑歸玩笑,生成式人工智能的興起大大重塑了我們對哪些用例最適合機器學習的看法。傳統上,ML 應用於客戶體驗中重複性的、可預測的模式。但如今,我們甚至可以在不需要大量訓練資料集的情況下使用某些形式的 ML。
即使如此,「這些客戶需求是否需要人工智能解決方案?」的答案並不總是肯定的。大型語言模型 (LLM) 對某些專案來說仍可能太昂貴,而且就像所有 ML 模型一樣,它們也無法保證精確度。總會有一些情況,實施 ML 並非最佳方法。那麼 AI 專案經理應該如何評估客戶的需求是否值得使用 ML 解決方案?
引導這項決策的關鍵因素包括
- 滿足客戶需求所需的輸入與輸出:客戶向您的產品提供輸入,然後產品再提供輸出。例如,由 ML(輸出)產生的 Spotify 播放列表可能會依賴使用者偏好、喜歡的歌曲、最喜愛的藝人和喜歡的類型等輸入。
- 輸入與輸出的組合:客戶需求的不同取決於他們期望從相同或不同的輸入獲得相同或不同的輸出。隨著可能的輸入輸出組合數目不斷增加,尤其是在規模較大的情況下,使用 ML 而非基於規則的系統的理由就更為充分。
- 輸入和輸出的模式:識別輸入和輸出的關係模式有助於確定 ML 模型的正確類型。如果存在明確的模式,例如分析客戶回饋以判斷情感,有監督或半監督模型可能比 LLM 更具成本效益。
- 成本與精確度:在規模上,LLM 的調用可能會很昂貴,而且即使經過微調和快速工程,其輸出也不一定精確。在某些情況下,使用固定標籤集對輸入進行分類的監督模型或神經網路,甚至是基於規則的系統,可能是比 LLM 更好的選擇。
為了幫助專案經理評估客戶需求,並決定 ML 是否是正確的方向,我以簡單的表格總結了上述的注意事項。
客戶需求類型 範例 ML 實作 (是/否/取決於) ML 實作類型 相同輸入需要相同輸出的重複性工作 線上表格自動填寫電子郵件 無 基於規則的系統足以處理這些輸出 相同輸入需要不同輸出的重複性工作 客戶正在探索,並期望每次重複操作(例如登錄)都能帶來新的體驗:
- 每次點擊都會產生新的作品
- StumbleUpon (記得嗎?) 在網際網路中隨機尋找新的角落 是的 - 圖片產生 LLM
- 推薦演算法 (協同過濾) 不同輸入需要相同或類似輸出的重複性任務 - 作文評分
- 識別客戶回饋的主題 視情況而定 如果輸入 - 輸出組合簡單直接,則基於規則的確定型系統可能就足夠了。
當規模擴充導致基於規則的系統有太多組合時,請考慮:
- 分類器
- 主題建模
但前提是輸入中必須存在模式。
如果沒有模式存在,LLM 可用於一次性的任務 (雖然精確度不如監督模型)。 需要針對不同輸入提供不同輸出的重複性任務 - 回應客戶支援查詢
- 搜尋功能 是 如果沒有 ML,要在規模上處理不同的輸入和輸出是不常見的。
以規則為基礎的方法無法有效管理大量的排列。請考慮:
- 具有檢索增量生成 (RAG) 的 LLM
- 搜尋產品的判斷樹 具有不同輸出的非重複性任務 撰寫飯店或餐廳評論 是的 在 LLMs 之前,這類任務通常需要經過特別訓練的模型,例如
- 循環神經網路 (RNN)
- 用於預測下一個字的長短期記憶體網路 (LSTM)
LLM 現在非常適合這種情況。
主要的啟示剪刀可以用的時候,就不要用光劍。使用上述矩陣評估客戶需求,同時考慮實施成本和輸出精確度,以建立可擴充、精確且具成本效益的產品。
Sharanya Rao 是金融科技組產品經理。本文所表達的觀點僅屬作者個人意見,不代表其雇主或關聯組織的觀點。
相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代
Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
評論 (1)
0/500

問題:哪些產品適合機器學習?
專案經理的回答:是的。
玩笑歸玩笑,生成式人工智能的興起大大重塑了我們對哪些用例最適合機器學習的看法。傳統上,ML 應用於客戶體驗中重複性的、可預測的模式。但如今,我們甚至可以在不需要大量訓練資料集的情況下使用某些形式的 ML。
即使如此,「這些客戶需求是否需要人工智能解決方案?」的答案並不總是肯定的。大型語言模型 (LLM) 對某些專案來說仍可能太昂貴,而且就像所有 ML 模型一樣,它們也無法保證精確度。總會有一些情況,實施 ML 並非最佳方法。那麼 AI 專案經理應該如何評估客戶的需求是否值得使用 ML 解決方案?
引導這項決策的關鍵因素包括
- 滿足客戶需求所需的輸入與輸出:客戶向您的產品提供輸入,然後產品再提供輸出。例如,由 ML(輸出)產生的 Spotify 播放列表可能會依賴使用者偏好、喜歡的歌曲、最喜愛的藝人和喜歡的類型等輸入。
- 輸入與輸出的組合:客戶需求的不同取決於他們期望從相同或不同的輸入獲得相同或不同的輸出。隨著可能的輸入輸出組合數目不斷增加,尤其是在規模較大的情況下,使用 ML 而非基於規則的系統的理由就更為充分。
- 輸入和輸出的模式:識別輸入和輸出的關係模式有助於確定 ML 模型的正確類型。如果存在明確的模式,例如分析客戶回饋以判斷情感,有監督或半監督模型可能比 LLM 更具成本效益。
- 成本與精確度:在規模上,LLM 的調用可能會很昂貴,而且即使經過微調和快速工程,其輸出也不一定精確。在某些情況下,使用固定標籤集對輸入進行分類的監督模型或神經網路,甚至是基於規則的系統,可能是比 LLM 更好的選擇。
為了幫助專案經理評估客戶需求,並決定 ML 是否是正確的方向,我以簡單的表格總結了上述的注意事項。
| 客戶需求類型 | 範例 | ML 實作 (是/否/取決於) | ML 實作類型 |
|---|---|---|---|
| 相同輸入需要相同輸出的重複性工作 | 線上表格自動填寫電子郵件 | 無 | 基於規則的系統足以處理這些輸出 |
| 相同輸入需要不同輸出的重複性工作 | 客戶正在探索,並期望每次重複操作(例如登錄)都能帶來新的體驗: - 每次點擊都會產生新的作品 - StumbleUpon (記得嗎?) 在網際網路中隨機尋找新的角落 | 是的 | - 圖片產生 LLM - 推薦演算法 (協同過濾) |
| 不同輸入需要相同或類似輸出的重複性任務 | - 作文評分 - 識別客戶回饋的主題 | 視情況而定 | 如果輸入 - 輸出組合簡單直接,則基於規則的確定型系統可能就足夠了。 當規模擴充導致基於規則的系統有太多組合時,請考慮: - 分類器 - 主題建模 但前提是輸入中必須存在模式。 如果沒有模式存在,LLM 可用於一次性的任務 (雖然精確度不如監督模型)。 |
| 需要針對不同輸入提供不同輸出的重複性任務 | - 回應客戶支援查詢 - 搜尋功能 | 是 | 如果沒有 ML,要在規模上處理不同的輸入和輸出是不常見的。 以規則為基礎的方法無法有效管理大量的排列。請考慮: - 具有檢索增量生成 (RAG) 的 LLM - 搜尋產品的判斷樹 |
| 具有不同輸出的非重複性任務 | 撰寫飯店或餐廳評論 | 是的 | 在 LLMs 之前,這類任務通常需要經過特別訓練的模型,例如 - 循環神經網路 (RNN) - 用於預測下一個字的長短期記憶體網路 (LSTM) LLM 現在非常適合這種情況。 |
主要的啟示剪刀可以用的時候,就不要用光劍。使用上述矩陣評估客戶需求,同時考慮實施成本和輸出精確度,以建立可擴充、精確且具成本效益的產品。
Sharanya Rao 是金融科技組產品經理。本文所表達的觀點僅屬作者個人意見,不代表其雇主或關聯組織的觀點。
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了





首頁






