伊隆·馬斯克的 AI 計算集群 Colossus 現已正式啟用,並計劃在不久的將來將處理能力加倍。
在 9 月 3 日,特斯拉首席執行官馬斯克在 X 平台上宣布,xAI 最新創作的超級 AI 訓練集群 Colossus 已經啟動。該團隊在短短 122 天內完成了設置,並計劃在未來幾個月內增加 100,000 顆 GPU,其中 50,000 顆將使用更先進的 Nvidia H200,預期將進一步提升處理能力。
Colossus 的公告引起了業界的廣泛關注。風險投資公司 ARK Invest 的首席執行官凱西·伍德對馬斯克表示祝賀,稱這一成就「令人印象深刻」,並暗示 xAI 將在未來推出更多重大進展。
據去年初的報導,馬斯克正在為特斯拉採購大量 GPU。Colossus 初次公布於 5 月,並於 7 月開始運行。馬斯克在 5 月 25 日的演講中提到,希望打造一台名為「計算能力超級工廠」的超級電腦,預計其性能將是最接近競爭對手的四倍,並將使用 Nvidia 的 H100 GPU。
在 7 月 22 日,馬斯克宣布 xAI 團隊及其他合作夥伴已經開始在孟菲斯超級集群上進行訓練。Colossus 由 100,000 顆液冷 H100 GPU 組成,運作於單一 RDMA 結構上,被譽為「全球最強大的 AI 訓練集群」。馬斯克計劃在今年 12 月之前訓練出「世界最強的 AI,根據各項指標來衡量」。
來自 xAI 的 Grok 大型模型將在 Colossus 上進行訓練。xAI 成立於去年 7 月,旨在「理解宇宙的真實本質」,並與 X 和特斯拉等公司緊密合作。去年 11 月,xAI 發布了第一個大型模型 Grok-1,而在 8 月 13 日的測試版本中,則引入了 Grok-2 的圖像生成能力。馬斯克表示,Grok-3 將在 Colossus 上進行訓練,預計年底前推出。
今年 5 月,xAI 完成了 60 億美元的 B輪融資,使其融資後估值從 180 億美元上升至 240 億美元。在推進 AI 技術的同時,馬斯克在 AI 可能帶來的安全風險上表達了自己的擔憂,呼籲建立監管措施。
在 8 月 27 日,馬斯克在 X 上發表對加州參議院法案 SB 1047 的支持,該法案要求開發成本超過 1 億美元的 AI 模型報告安全風險。這項提案在科技界引發了爭議,許多人擔心其可能抑制美國的創新。該法案遭到了 xAI 競爭對手 OpenAI 的抵制。
總之,馬斯克在推進 AI 發展的同時,對可能的風險保持深入關注,並倡導建立適當的監管框架。