生成式人工智慧：小型語言模型的日益興奮

Home AI新聞生成式人工智慧：小型語言模型的日益興奮

隨著生成式人工智慧在一年前的出現，科技工作者被大型語言模型（LLMs）的能力所吸引，這些模型能夠對提問給出類似人類的回答。在科技領域，重大進展往往隨著時間縮小尺寸。大型主機發展成客戶端-伺服器模型，而個人電腦則因應移動計算的需求，與平板電腦和智慧型手機攜手並進。生成式人工智慧軟體也正在展現出類似的趨勢。其主要驅動力是將小型、強大的生成式人工智慧服務部署在更小的設備上，這類似於十年前應用程式的移動化。

模型縮小的趨勢讓IT領導者在選擇合適的模型時感到困惑。不過，選擇小型語言模型（SLM）有一個戰略框架可供參考。

LLM與SLM的比較

首先，我們需要澄清LLMs與SLMs之間的區別，並意識到並沒有一個通用的標準來區分這兩者。LLMs通常包含數千億的參數，涵蓋在訓練過程中學習的權重和偏差。相對而言，SLMs則有數億至數十億的參數。

儘管LLMs能生成各種內容——文字、圖像、音頻和視頻，並能執行複雜的自然語言處理（NLP）任務，但它們需要大量的伺服器容量、存儲空間和GPU來運行。與LLMs相關的高成本可能會使一些組織卻步，尤其是考慮到環境、社會與治理（ESG）合規性，因為這些模型需要大量計算資源來進行訓練、增強、微調和其他任務。

然而，SLMs在資源消耗上更低，但提供意想不到的強勁性能，有時在特定基準上可媲美LLMs。它們的可定制性使組織能根據特定任務進行調整，例如針對所選數據集進行訓練或透過檢索增強生成（RAG）來改善搜尋結果。對許多組織而言，SLMs在本地部署非常理想。

縮小模型的趨勢在超大規模企業和新創公司中愈發受到重視，許多公司正推出專為移動設備（如筆記型電腦和智慧型手機）設計的小型模型。顯著的例子有Google在12月推出的Gemini系列，包含了緊湊型Nano模型，以及Mistral AI的Mixtral 8x7b和Microsoft的Phi-2模型。2月，Google還推出了Gemma模型。

選擇合適的模型

在LLM與SLM之間選擇，取決於滿足需求所需的參數數量及預算。以下是幾個指導原則，以協助判斷SLM是否合適您的組織：

1. 評估業務需求：明確確定您希望解決的具體問題，例如新建一個客戶服務聊天機器人或增強銷售和市場行銷的內容創建。了解您的案例至關重要。

2. 研究市場：探索各種模型，以找出基於當前資源（包括人力、流程和技術）的最佳適配。考慮與您的任務相關的尺寸、性能指標以及訓練和微調所需的數據質量。確保其可擴展性和安全性符合要求。

3. 進行模型測試：通過試點計劃測試選定的SLM，以評估模型的準確性、普遍性、可解釋性和速度。確定這些方面的優缺點。

4. 評估資源需求：評估組織的伺服器、存儲和GPU需求及其相關成本。考慮是否應實施可觀察性和AIOps，以分析輸出與業務成果之間的關聯。

5. 制定部署策略：制定一個全面的策略，以將選定的SLM整合到現有系統中，處理安全性和數據隱私問題，並計劃維護和支持。如果選擇公共模型，請確保提供強有力的支持；如果選擇開源，則要隨時關注任何變更。

最後的思考

生成式人工智慧的領域正在迅速發展，保持資訊更新至關重要，以避免錯過重要的進展。一個不斷增長的合作夥伴生態系統隨時可以協助您選擇合適的模型、基礎設施以及量身定制的策略。通過與合適的夥伴合作，您可以為您的員工和客戶創造優化的生成式人工智慧服務。

準備好合作與創新了嗎？了解Dell APEX for Generative AI如何幫助您將AI無縫整合進入運營中。

伊隆·馬斯克對OpenAI提起訴訟，指控其違反創始原則

Mistral AI 與微軟、IBM 等科技巨頭攜手合作，於業界掀起巨浪