關鍵 AI 名詞解釋：從 LLM 到幻覺

人工智慧的世界浩瀚而複雜。這個領域的專家經常使用專業術語來解釋他們的工作。這就是為什麼我們對人工智慧產業的報導包括這些專業術語。我們收集了這份詞彙表，以闡明您在我們的文章中會遇到的關鍵詞和短語。

我們會定期更新本指南，因為研究人員會開發新方法，並找出 AI 尖端領域的新安全問題。

AGI

人工智慧（Artificial General Intelligence），或稱 AGI，是一個廣泛且常引起爭議的術語。一般而言，AGI 是指在各種任務上超越人類能力的人工智能。OpenAI 的 Sam Altman 將其描述為「您可以聘請為同事的中位數人類」，而 OpenAI 的章程則將 AGI 定義為「在最具經濟價值的工作上超越人類的高度自主系統」。Google DeepMind 則提出稍有不同的看法，將 AGI 定義為「在大多數的認知任務上，至少與人類具有同等能力的人工智能」。即使在頂尖的 AI 研究人員之間，這個概念仍然是不固定的。

AI 代理

AI 代理是一種工具，可利用 AI 自動執行多步驟任務，超越簡單的聊天機互動。這可能包括歸檔支出、預訂旅遊或管理程式碼。作為一個不斷演進的領域，「AI 代理」的定義可能會有所不同，而且必要的基礎架構仍在發展中。基本而言，它是指可協調多個 AI 模型以達成複雜目標的自主系統。

思考鏈

人類可以立即回答簡單的問題，但複雜的問題往往需要將問題分解成不同的步驟。舉例來說，解決一個關於農場動物的邏輯難題需要進行中間計算。

在人工智能中，思維鏈推理是一種技術，大型語言模型會將問題分解成較小的邏輯步驟。這個過程雖然較慢，但卻能大幅提高準確度，尤其是在邏輯或編碼任務上。專門的推理模型建立在傳統的 LLM 上，並透過強化學習針對這種逐步思考的方式進行最佳化。

(請參閱：大型語言模型)

加入我們的 TechCrunch 環節：人工智能

確保您能參加我們首屈一指的 AI 產業活動，講者來自 OpenAI、Anthropic 和 Cohere。在有限的時間內，僅需 $292 即可獲得全天的入場證，提供專家講座、研討會和強大的人際網路。

在 TechCrunch Sessions 上參展：人工智能

在 TechCrunch Sessions: AI 向 1200 多位決策者展示您的創新：AI.請在 5 月 9 日前以合理的價格取得攤位，售完即止。

深度學習

深度學習是機器學習的一個複雜分支，其人工智能演算法採用多層人工神經網路。此架構使其能夠識別複雜的模式和關聯性，遠遠超越決策樹等簡單的模型。受人類大腦的啟發，深度學習模型可自動從資料中學習關鍵特徵，而無需人類手動定義。它們透過重複和錯誤修正來改進。

然而，這些模型需要大量的資料集（數百萬點或更多）和大量的計算資源來進行訓練，因此相較於傳統的機器學習，開發成本較高。

(請參閱：神經網路)

擴散

擴散是許多現代人工智能模型背後的核心技術，可產生藝術、音樂和文字。這些系統的靈感來自於物理學，它們會逐漸將雜訊添加到資料（如影像或聲音）中，直到其原始結構完全模糊為止。與自然界中不可逆的過程不同，人工智能擴散模型學會逆轉這種破壞，從雜訊中重建連貫的資料，從而賦予它們強大的產生能力。

蒸餾

蒸餾是一種「師生」技術，可將知識從大型 AI 模型轉移到較小型的模型。開發人員查詢教師模型並記錄其輸出，然後用於訓練學生模型以模仿教師的行為。這個過程可以創造出更小、更快、更有效率的模型，而且效能損失極小，這種方法被認為是 GPT-4 Turbo 等版本的幕後推手。

從競爭對手的模型中提煉雖然通常在內部使用，但通常會違反 API 服務條款，引起業界在道德與法律上的考量。

微調

這是指對先前存在的 AI 模型進行額外訓練，使其針對特定任務或領域的效能更為專精。這包括餵給模型新的、以任務為導向的資料。許多 AI 創業公司一開始會先建立通用的大型語言模型，然後運用專屬資料對其進行微調，以增強其在特定領域（如法律或醫學）的實用性。

(請參閱：大型語言模型 [LLM])

GAN

生成對抗網絡 (Generative Adversarial Network) 或 GAN 是一種機器學習框架，可推動生成逼真資料（包括深度偽造資料）方面的進步。它使用兩個互相競爭的神經網路：一個是用來建立資料的產生器，另一個則是用來評估資料真偽的判別器。這個對抗過程促使產生器產生越來越逼真的輸出，而無需不斷的人為干預。GAN 在影像產生等專注應用上表現優異，但較不適合一般用途的 AI。

幻覺

幻覺是 AI 模型產生錯誤或虛構資訊的業界術語。這是 AI 可靠性與安全性的一大挑戰。錯誤的輸出可能會造成真實世界的風險，例如提供有害的醫療建議。雖然大多數 GenAI 工具都包含免責聲明，但由於訓練資料的固有缺口，問題仍然存在，尤其是對於基礎廣泛的模型而言。這個問題驅使我們朝向更專門、更垂直的 AI 模型發展，這些模型會在更狹窄、更明確的知識領域內運作，以減少錯誤。

推論

推論是使用訓練好的 AI 模型從新資料進行預測或得出結論的過程。這是訓練之後的應用階段。推理可在各種硬體上執行，從智慧型手機到搭載專用 AI 晶片的雲端伺服器，但效能差異很大。與專用的高效能系統相比，大型模型在消費性硬體上的執行速度較慢。

[請參閱：訓練］

大型語言模型 (LLM)

大型語言模型或 LLM 為 ChatGPT、Claude 和 Gemini 等熱門 AI 助手提供動力。當您與這些工具互動時，您就是在與 LLM 互動，而 LLM 通常會增強網路瀏覽等功能。底層模型（例如 OpenAI 的 GPT）和消費者產品（例如 ChatGPT）可以有不同的名稱。

LLM 是具有數十億個參數的深度神經網路，可從大量文字中學習模式。它們會建立複雜的多維語言表達。當被提示時，它們會根據訓練期間學習到的統計模式來預測最可能的單字順序，從而產生回應。

(請參閱：神經網路)

神經網路

神經網路是深度學習和現代人工智能蓬勃發展的基本分層演算法結構。自 1940 年代以來，其概念靈感來自於人腦，而遊戲產業 GPU 的興起則釋放了它的實用威力。這些晶片能有效率地訓練多層次的網路，在語音辨識、自動導航和生成式人工智能等領域取得突破。

(請參閱：大型語言模型 [LLM])

訓練

訓練是將資料餵給機器學習模型，讓它學習模式並改善輸出的過程。一開始，模型只是一個隨機數的結構；訓練將它塑造成一個功能性的工具，無論是用於識別圖像或書寫文字。這個過程可能是資源密集型的，需要大量的資料和運算能力。混合式方法，例如微調基於規則的系統，可以幫助管理這些成本。

[請參閱：推理］

轉移學習

一種技術，將為某項任務訓練的模型，作為相關但不同任務的起點。這可充分利用先前學到的知識，節省時間和資源，尤其是當新任務的資料有限時。然而，模型通常需要在新領域的特定資料上進行額外的訓練，才能表現良好。

(請參閱：微調）

權重

權重是人工智能模型中的核心數值參數，在訓練過程中決定不同輸入特徵的重要性。這些參數最初是隨機設定的，並會隨著模型的學習而有系統地調整，從而形成其最終輸出。舉例來說，在預測房屋價格的模型中，會針對臥室數量或地點等特徵學習權重，根據訓練資料量化這些特徵對最終價格的影響。