解密你常聽到的常見人工智慧術語

人工智慧正在重塑我們的世界，在此過程中，它也創造了一套全新的術語來描述其運作方式。 只需花幾分鐘閱讀關於人工智慧的內容，你就會遇到 LLMs、RAG、RLHF 等術語，以及其他數十種術語，這些術語甚至會讓資深科技專業人士感到難以招架。本詞彙表是我們為釐清這些術語所做的努力。隨著該領域的發展，我們會定期更新此詞彙表，因此請將其視為一份動態文件，就像它所闡述的人工智慧系統一樣。

AGI

通用人工智慧（Artificial General Intelligence，簡稱 AGI）是一個概念略顯模糊的術語。廣義而言，它指的是在廣泛的任務範圍內（若非絕大多數任務）表現優於普通人類的人工智慧。OpenAI 執行長 Sam Altman 曾將 AGI 描述為「相當於你能聘請為同事的普通人類」。 另一方面，OpenAI 的章程則將其定義為「在大多數具經濟價值的工作上表現優於人類的高度自主系統」。Google DeepMind 的看法則略有不同，認為 AGI 是「在大多數認知任務上至少與人類能力相當的人工智慧」。感到困惑嗎？別擔心——站在人工智慧研究最前線的專家們，往往也同樣感到困惑。

AI 代理

AI 代理是一種利用人工智慧，代表您自主執行一系列任務的工具。它的功能超越了基本聊天機器人的範疇，能夠處理諸如報銷費用、預訂差旅或餐廳，甚至撰寫與維護程式碼等行動。然而，正如我們所指出的，這是一個充滿變數的新興領域，因此「AI 代理」這個術語對不同人而言可能有不同的含義。 要充分實現其構想中的能力，所需基礎設施仍在開發中。從核心概念來看，這意味著一個可能利用多個 AI 模型來執行多步驟任務的自主系統。

API 端點

不妨將 API 端點視為軟體應用程式背面的「按鈕」，其他程式可透過按壓這些按鈕來觸發特定動作。開發人員利用這些介面建立整合功能——例如讓一個應用程式從另一個應用程式擷取資料，或讓 AI 代理直接控制第三方服務，無需人工介入。大多數智慧家庭裝置和連網平台都具備這些隱藏的按鈕，即使一般使用者從未見過或與之互動。 隨著 AI 代理程式日益精進，它們越來越能夠獨立發現並使用這些端點，從而為自動化開啟強大——有時甚至令人驚訝——的可能性。

思維鏈

面對簡單的問題，人類大腦往往無需過多有意識的思考就能回答——例如「長頸鹿和貓，哪個動物比較高？」但面對更複雜的問題，你可能需要紙筆來推導中間步驟。 例如，若一位農夫飼養的雞和牛總數為 40 隻，且總共擁有 120 條腿，你很可能會寫出一個簡單的等式來找出答案（20 隻雞和 20 頭牛）。

在人工智慧領域，大型語言模型的「思維鏈推理」涉及將問題分解為較小的中間步驟，以提升最終輸出的準確性。這種方法通常需要更長的時間來產生答案，但結果更可能正確，特別是在邏輯或編碼情境中。推理模型是從傳統的大型語言模型（LLMs）發展而來，並透過強化學習等技術針對這種逐步思考進行優化。

（參見：大型語言模型）

這是一個比一般「AI 代理」更具體的概念。程式碼代理是一種專用的程式，能夠自主地採取逐步行動來達成軟體開發目標。程式碼代理不僅僅是為人類提供代碼建議供其審閱和插入，還能獨立編寫、測試和除錯代碼，處理那些通常佔據開發者一整天時間的迭代式試錯工作。 這些代理程式能在整個程式碼庫中運作，在極少的人為監督下識別錯誤、執行測試並部署修正方案。不妨將其視為聘請了一位從不睡覺、永不分心的超高效實習生——儘管如同任何實習生一樣，最終成果仍需由人類進行審查。

運算

雖然「運算」一詞有多重含義，但通常指 AI 模型運作所需的基礎運算能力。這種處理能力驅動著 AI 產業，使強大的模型得以訓練與部署。此術語常作為提供此運算能力的硬體簡稱——例如 GPU、CPU、TPU 等元件，以及構成現代 AI 生態系統基礎的其他基礎設施。

深度學習

深度學習是自我提升型機器學習的一種分支，其人工智慧演算法採用多層次的人工神經網路（ANN）結構建構。這使它們能識別比線性模型或決策樹等較簡單的機器學習系統更複雜的模式與關聯性。深度學習演算法的设计靈感源自人類大腦中神經元相互連接的網絡。

深度學習模型能夠自主識別數據中的關鍵特徵，無需人工工程師預先定義這些特徵。這種結構同時支援能從錯誤中學習的演算法，並透過反覆練習與調整，隨時間推移逐步改善輸出結果。然而，深度學習系統需要海量數據（數百萬筆或更多）才能產生良好的結果。此外，其訓練時間通常比簡單的機器學習演算法更長，導致開發成本較高。

（參見：神經網路）

擴散

擴散是許多生成藝術、音樂和文本的人工智慧模型背後的核心技術。受物理學啟發，擴散系統會透過添加雜訊，逐步「破壞」數據（如照片或歌曲）的結構，直到不再有任何可辨識的內容為止。 在物理學中，擴散是自發且不可逆的（溶解在咖啡中的糖無法恢復成方糖的形態）。但人工智慧擴散系統旨在學習一種「逆向擴散」過程，從雜訊中重建原始資料，從而獲得從零開始生成新資料的能力。

知識蒸餾

蒸餾是一種將知識從大型 AI 模型（「教師」）傳遞給較小模型（「學生」）的技術。開發者會向教師模型發送查詢並記錄其輸出結果，有時會將這些結果與資料集進行比對以評估準確性。隨後，這些輸出結果將被用來訓練學生模型，使其行為趨近於教師模型。

蒸餾技術能基於大型模型，以極小的效能損失創建出更小、更高效的模型。這很可能是 OpenAI 開發 GPT-4 Turbo（GPT-4 的加速版本）的方式。

雖然所有人工智慧公司都會在內部使用知識蒸餾技術，但部分公司可能也藉此追趕領先的模型。然而，從競爭對手的模型中提取知識，通常會違反人工智慧 API 和聊天助理的使用條款。

微調

此指對 AI 模型進行額外訓練，以優化其在原始訓練重點之外的特定任務或領域中的表現。這通常是透過向模型輸入與目標領域相關的新專用資料來實現。

許多人工智慧新創公司會以大型語言模型作為商業產品的基礎。接著，他們會透過微調，結合自身領域的專業知識與專長，來強化該模型在特定產業或任務中的實用性，並補充模型先前訓練週期的不足。

（參見：大型語言模型 [LLM]）

GAN

生成對抗網路（GAN）是一種機器學習框架，在生成式人工智慧領域推動了重大進展，特別是在生成逼真數據方面——包括用於製作深度偽造（deepfakes）的工具。GAN 涉及兩個相互對抗的神經網路：一個（生成器）根據其訓練數據生成輸出，另一個（判別器）則評估該輸出。

這兩者本質上被編程為一場競賽。生成器試圖產生足以欺騙判別器的輸出，而判別器則致力於辨識人工生成的數據。這種對抗性過程能在無需額外人工干預的情況下，優化AI輸出使其更為逼真。GAN在生成逼真的照片或影片等特定應用領域最為有效，而非用於通用型AI。

幻覺

「幻覺」是人工智慧產業中用來描述模型產生錯誤或虛構資訊的術語。這是人工智慧品質與可靠性面臨的一大挑戰。

幻覺可能產生具誤導性的生成式AI輸出，並伴隨潛在的現實世界風險——例如針對健康諮詢所提供的有害醫療建議。

普遍認為，AI 虛構資訊的問題源於訓練資料的缺口。幻覺現象的普遍性正推動一股趨勢，促使開發更專業、垂直化的 AI 模型——即具備更狹窄專業知識的領域特定系統——以此來縮小知識缺口並將虛假資訊的風險降至最低。

推論

推論是指運行已訓練的人工智慧模型，以針對新資料進行預測或得出結論的過程。值得注意的是，若未經事先訓練便無法進行推論；模型必須先從資料集中學習模式，才能有效運用該知識進行外推。

多種硬體皆可執行推論，從智慧型手機處理器、強大的 GPU 到客製化 AI 加速器皆然。然而，並非所有硬體的效能都相同。相較於配備高階 AI 晶片的雲端伺服器，若在標準筆記型電腦上執行超大型模型，所需時間將長到不切實際。

[參見：訓練]

大型語言模型 (LLM)

大型語言模型（LLM）是驅動諸如 ChatGPT、Claude、Google 的 Gemini、Meta 的 Llama、Microsoft Copilot 以及 Mistral 的 Le Chat 等熱門助理的 AI 模型。當您與 AI 助理互動時，其實是在與一個大型語言模型進行互動，該模型會直接處理您的請求，或借助各種工具（例如網頁瀏覽或程式碼解釋器）來處理。

LLM 是由數十億個數值參數（或權重）組成的深度神經網路，它們學習單詞與短語之間的關係，從而建立語言的多維度表徵——一種語言地圖。

這些模型是透過分析數十億本書籍、文章和對話紀錄中的模式來訓練的。當您向 LLM 發出提示時，它會生成最符合您輸入內容的語言模式。

（參見：神經網路）

記憶體快取

記憶體快取是指一種能提升推論效能（即 AI 的回應生成能力）的過程。本質上，快取是一種旨在提高推論效率的優化技術。AI 仰賴密集的數學運算，而每項運算都會消耗電力。透過儲存特定計算結果以供未來查詢重複使用，快取能減少模型必須執行的運算次數。 記憶體快取有不同類型，其中 KV（鍵值）快取是基於 Transformer 模型的知名範例。KV 快取透過減少生成答案所需的時間與運算成本，來提升效率並加速回應。

（參見：推論）

神經網路

神經網路是一種多層次的演算法結構，不僅是深度學習的基礎，更廣泛地說，也是大型語言模型興起後生成式人工智慧熱潮的根基。

儘管從人類大腦中相互連接的神經元汲取靈感來設計資料處理演算法的構想可追溯至 1940 年代，但真正釋放此理論潛力的，是近年來由電玩產業驅動的圖形處理單元（GPU）普及化。 這些晶片被證明極其適合訓練比以往可能的多出許多層次的演算法，使基於神經網路的人工智慧系統能在語音辨識、自主導航和藥物發現等領域取得卓越的表現。

（參見：大型語言模型 [LLM]）

開源

開源指的是軟體——或日益增多的AI模型——其底層程式碼對公眾開放，任何人皆可使用、檢視或修改。在AI領域，Meta的Llama模型系列是顯著的例子；在作業系統領域，Linux則是歷史上的經典對應案例。開源模式讓全球的研究人員、開發者和企業能夠在彼此的工作基礎上進行建構，加速進展，並實現封閉系統難以提供的獨立安全審計。 封閉式原始碼則意味著程式碼是私有的——您可以使用產品，但無法了解其運作原理，例如 OpenAI 的 GPT 模型。這種區別已成為人工智慧產業內的核心爭論點。

並行化

並行化意指同時執行多項運算，而非依序進行——就像讓十名員工同時處理專案的不同環節，而非由一人逐步完成所有工作。在人工智慧領域，並行化是訓練與推論的基礎。 現代 GPU 專為並行執行數千次運算而設計，這正是它們成為業界硬體骨幹的關鍵原因。隨著 AI 系統日益複雜、模型規模不斷擴大，能否在多顆晶片與多台機器間進行工作並行化，已成為決定模型建構與部署速度及成本效益的關鍵因素。針對更佳並行化策略的研究，如今已發展成一門獨立的學科領域。

RAMageddon

「RAMageddon」是對席捲科技產業一項嚴峻趨勢所創造的俏皮新詞：隨機存取記憶體（RAM）晶片日益短缺，而這正是驅動我們日常使用幾乎所有科技產品的關鍵元件。隨著人工智慧產業的爆炸性成長，各大科技公司與人工智慧實驗室——皆競相打造最強大且高效的人工智慧——為其資料中心採購了如此龐大的 RAM 數量，以致於幾乎沒有剩餘供應給其他業者。此供應瓶頸正推高剩餘庫存的價格。

其影響遍及遊戲產業（因記憶體晶片短缺，廠商已調漲遊戲主機價格）、消費性電子產品（短缺可能導致智慧型手機出貨量出現十多年來最大幅度的下滑），以及一般企業運算領域（企業正苦於為自家資料中心籌措足夠的 RAM）。預期價格飆升將持續至短缺結束為止，但不幸的是，目前幾乎沒有跡象顯示這情況會很快結束。

強化學習

強化學習是一種訓練方法，AI 系統透過試錯來學習，並因正確行動而獲得獎勵——這類似於用零食訓練寵物，只是這裡的「寵物」是神經網路，而「零食」則是表示成功的數學訊號。與基於標記範例的固定資料集進行訓練的監督式學習不同，強化學習允許模型探索環境、採取行動，並根據反饋持續更新其行為。 這種方法已被證實特別有效，可用於訓練 AI 玩遊戲、控制機器人，以及近年來提升大型語言模型的推理能力。諸如「基於人類反饋的強化學習」（RLHF）等技術，現已成為頂尖 AI 實驗室微調模型以提升其實用性、準確性和安全性之核心。

令牌

人機溝通面臨顯而易見的挑戰：人類使用自然語言，而 AI 程式則透過複雜且基於數據的演算法流程執行任務。標記（Token）彌合了這道鴻溝。它們是人機溝通的基本構成單元，代表大型語言模型（LLM）處理或產出的離散數據片段。標記是透過分詞（tokenization）過程產生的，該過程將原始文本分解為語言模型能理解的易處理單位，類似於編譯器將人類語言翻譯成電腦可讀的二進位碼。 在企業環境中，語素也決定了成本——大多數 AI 公司是按語素計費的，這意味著企業使用得越多，支付的費用就越高。

標記吞吐量

再次強調，標記是 AI 語言模型為進行處理而將語言拆解成的微小文字片段——通常是單字的一部分；在理解 AI 工作負載時，它們大致相當於「單字」。吞吐量指的是在特定時間內能處理的量，因此標記吞吐量本質上衡量的是系統能同時處理多少 AI 工作。 高標記吞吐量是 AI 基礎設施團隊的關鍵目標，因為它決定了模型能同時服務多少用戶，以及每位用戶獲得回應的速度。AI 研究員安德烈·卡帕西（Andrej Karpathy）曾描述，當他的 AI 訂閱服務閒置時會感到焦慮——這呼應了他攻讀研究所時對昂貴硬體未被充分利用的擔憂——這種心情恰恰說明了為何最大化標記吞吐量已成為該領域的執念。

訓練

開發機器學習 AI 涉及一個稱為「訓練」的過程。簡單來說，這涉及將資料輸入模型，使其能夠學習模式並產生有用的輸出。這是系統對資料中的特徵做出反應的過程，並將其輸出調整至預期的目標——無論是識別貓咪的圖片，還是應要求創作一首俳句。

訓練成本可能高昂，因為它需要海量的數據，且所需數據量持續呈上升趨勢。這就是為什麼混合方法（例如使用針對性數據對基於規則的人工智慧進行微調）能夠在不從頭開始的情況下，有效控制成本。

[參見：推論]

遷移學習

一種技術，其利用預先訓練好的 AI 模型作為起點，來開發適用於不同（但通常相關）任務的新模型。這使得先前訓練週期中獲得的知識得以重新應用。

遷移學習能透過縮短模型開發流程來提升效率，在針對新任務的數據有限時也相當實用。然而，此方法仍有其局限性。若模型仰賴遷移學習來獲得泛化能力，通常仍需針對特定領域的數據進行額外訓練，才能在專注的領域中表現出色。

（參見：微調）

權重

權重是人工智慧訓練的核心，因為它們決定了訓練資料中不同特徵（或輸入變數）所賦予的重要性（或「權重」），從而形塑模型的輸出。

換言之，權重是數值參數，用於定義在特定訓練任務中，資料集內哪些要素最具重要性。其運作原理是將輸入值進行乘法運算。模型訓練通常從隨機分配的權重開始，並隨著模型迭代調整，以產生更貼近目標的輸出結果。

舉例來說，一個利用歷史房地產數據訓練以預測房價的人工智慧模型，可能會針對諸如臥室與浴室數量、房產類型（獨棟或半獨立式）、停車位供應、車庫等特徵設定權重。模型賦予各輸入變量的權重，反映了這些變量根據資料集對房產價值的影響程度。

驗證損失

驗證損失是一項指標，用以顯示 AI 模型在訓練期間的學習成效——數值越低表示表現越好。 研究人員將其視為即時成績單加以密切監控，藉此決定何時停止訓練、調整超參數，或調查潛在問題。它有助於識別的關鍵問題之一是過擬合，即模型僅記住訓練資料而非學習可泛化的模式。不妨將其視為真正理解課業內容的學生，與僅死記去年考試題目的學生之間的差異——驗證損失有助於揭示您的模型正朝哪個方向發展。

本文會定期更新最新資訊。