日本電信公司NTT近期在舊金山召開的新聞發布會上,揭示了一系列創新的研究計畫,旨在提升人工智慧(AI)技術和改善數據中心的能源效率。NTT的研究人員介紹了一種新開發的語言模型(LLM),能夠分析文件中的圖形元素,並宣布與哈佛大學合作開展一項名為“智慧的物理學”的開創性研究領域,重點在於開發可持續且可靠的AI。
在會議上,NTT展示了其全光網絡,專為分佈式數據中心設計,在低延遲通信方面實現了顯著的進展。NTT IOWN發展辦公室副總裁新井陽介強調,將大型數據中心搬至郊區能降低成本並提高能源效率,特別是通過NTT的快速光纖連接。NTT擁有超過33萬名員工,年營收達970億美元,每年在研究和開發上投資超過36億美元。該公司五年前在矽谷設立了研發部門,並在舊金山的Upgrade 2024活動中展示了其進展。
“我們的使命是將您的常態觀念提升到新高度,”NTT Research的總裁兼首席執行官五味和則表示。
美國與英國的低延遲網絡
新井指出,NTT的IOWN全光網絡(APN)示範實現了連接數據中心之間的極低通信延遲,這對AI分析和金融服務至關重要。他提到,城市地區面臨高成本、土地短缺和電力價格昂貴等挑戰,NTT正在探索將數據中心分散到郊區的可行性,並使用支持每秒高達400吉比特數據傳輸率的光纖電纜進行連接。
在英國的測試中,位於相隔100公里的數據中心在APN連接下的網絡延遲不到一毫秒,這一性能顯著減少了與傳統網絡相比的延遲變化,讓地理上分散的數據中心在功能上更為接近單一中心。英國已經將位於倫敦北部和東部的數據中心連接起來,並通過NTT的創新光無線網絡(IOWN)APN實現了小於一毫秒的往返延遲。在美國北維吉尼亞州也觀察到了類似的結果。
該計劃旨在將遙遠的IT基礎設施轉變為統一的數據中心體驗,當地的二氧化碳排放規範和空間限制驅使運營商尋求郊區替代方案。然而,地理上分散的中心仍面臨延遲挑戰,NTT的光子鏈路將用於解決這些問題。
先進的數據中心示範
NTT和NTT DATA在英國和美國的獨立試驗中,成功地利用APN技術連接數據中心。測試顯示,英國的數據中心延遲低於一毫秒,且延遲變化非常小。相比之下,傳統網絡的延遲通常超過2000微秒。
APN系統滿足當前和新興應用的嚴苛延遲要求,包括工業物聯網的實時AI分析、智能能源管理和自然災害響應。在金融領域,NTT DATA正在運行的示範中,低延遲對交易和匯款至關重要。
新井表示:“數據中心的需求在增加,但土地短缺和電力供應限制了新設施的發展。我們旨在創造更具能源效率的數據中心以克服這些挑戰。”
視覺理解的創新
NTT還介紹了一項在視覺機器閱讀理解方面的突破,使LLM能夠解讀文件中的圖形元素,包括圖表和圖解。這項技術由NTT與東北大學的鈴木純合作開發,已應用於NTT的輕量級LLM tsuzumi。
與主要模型進行基準測試時,NTT的LLM在各種文件理解任務上超越了開源選項如LLaVA和OpenAI的GPT-3.5及GPT-4。NTT高級研究員西田恭介承認,LLM的能力持續增強,但仍面臨處理多種模式信息的挑戰。
tsuzumi於2023年11月首次亮相,提供了兩種變體:一種是擁有6億個參數的超輕量版本,另一種是擁有70億個參數的輕量版本。其小巧的體積大幅降低了能源消耗和訓練成本,成為企業的可持續選擇。
tsuzumi的潛在應用包括呼叫中心的自動化、數字記錄管理和軟件工程任務。目前該模型支持超過20種語言,包括英語和日語,並正在與500多家全球公司進行商業試驗。
與哈佛大學腦科學中心的合作
NTT Research已向哈佛大學腦科學中心(CBS)捐贈了一筆可觀的資金,以建立NTT哈佛腦科學獎學金計劃,促進在智慧物理學新興領域的博士後研究。這項可再生的兩年捐贈有望超過170萬美元,支持計算機科學、神經科學和心理學交叉領域的創新研究。
NTT與哈佛CBS的聯合研究曾產生有價值的見解,包括運用認知科學原則解決AI偏見。最近的出版物探討了生成性AI的科學及其在神經科學中的應用。
五味表示:“支持哈佛CBS與我們利用AI解決計算公平和可持續性等緊迫問題的願景相符。”
在矽谷的獨特地位
NTT在美國加州陽光谷設有大量辦公室,以其對基礎研究的承諾而脫穎而出。在過去五年裡,NTT Research發表了超過450篇學術論文,並在多個科學領域榮獲多個卓越獎項。
五味指出,持續的研究重點包括開發光子集成電路和研究大腦功能,以更好地理解計算過程。此外,NTT還計劃推進抗量子加密技術,以應對未來的量子計算挑戰。
隨著NTT的不斷前進,該公司設想創造生物系統的“數位雙胞胎”,例如心臟,以模擬藥物反應,實現個性化醫療。
通過這些戰略舉措,NTT不僅在推進技術發展,也在提升AI及數據中心運營的未來。