Jaxon AI 與 IBM watsonx 合作對抗 AI 錯誤生成挑戰

Home AI新聞 Jaxon AI 與 IBM watsonx 合作對抗 AI 錯誤生成挑戰

Updated on 十二月 17 2023

當人工智慧系統產生不準確內容—通常被稱為“幻覺”—時，其後果不一定會很嚴重。然而，若在軍事科技中使用的人工智慧系統發生幻覺，影響將可能更加嚴重。

Jaxon AI最初為美國空軍開發人工智慧系統，重點在於可靠性和準確性。現在，該公司正擴展至企業市場，推出一種針對大型語言模型(LLMs)中的幻覺和不準確性問題的專用人工智慧語言(DSAIL)。此技術結合了IBM的watsonx基礎模型，為創造更可靠的人工智慧解決方案提供了新思路。

如何通過DSAIL降低AI幻覺風險

幻覺是指人工智慧產生不準確回應，常因訓練數據不完整或缺乏驗證而致。DSAIL框架通過將自然語言輸入轉換為二進制格式來減少此風險。該格式經過一系列檢查—如布爾滿足器—以確保AI的回應在發送前遵循所有約束，從而提升其在實際應用中的可靠性。

減少幻覺的一種常見策略是檢索增強生成(RAG)。在此模型中，LLM訪問知識庫以提供準確回答。Cohen指出，儘管RAG是DSAIL方法的一部分，但輸出仍需通過進一步的驗證檢查，進一步降低幻覺的可能性。

IBM watsonx在Jaxon人工智慧系統中的角色

Jaxon利用IBM的watsonx庫中的模型作為其人工智慧系統的重要組成部分。特別是，IBM StarCoder模型能根據設計規範自動生成AI專案的初始代碼。

StarCoder是一個於五月推出的開源倡議，得到ServiceNow和Hugging Face的支持，它是IBM watsonx庫中多個代碼生成工具之一。IBM生態系統工程和開發者倡導副總裁Savio Rodrigues確認，IBM是StarCoder項目的創始貢獻者，並強調與Hugging Face的合作，以增強企業對開源模型的訪問。

雖然StarCoder展示出廣泛的能力，IBM還提供專門針對特定應用的代碼生成模型，如COBOL遷移和量子計算開發。

IBM在生成式AI市場中的戰略定位

生成式AI和LLM領域競爭激烈，主要玩家包括OpenAI、Microsoft、Google和AWS。IBM希望在這一市場中分得一杯羹，通過IBM Build計劃支持開發者和獨立軟體供應商(ISVs)如Jaxon AI。

IBM Build為合作夥伴提供訪問watsonx的權限、技術支持及市場進入協助，旨在交付以可靠性、性能和一致定價為特徵的信賴AI基礎模型。“我們的客戶信任IBM的AI方法，特別是在模型訓練及法律檢查方面，”Rodrigues強調。

新澤西州在普林斯頓大學揭幕新興的東岸人工智慧中心

解鎖大型語言模型：駕馭在線實驗的混亂