由Meta开发的开源大语言模型Llama 2正在迅速被企业采纳,这一趋势得益于戴尔科技公司(Dell Technologies)的支持。戴尔宣布将Llama 2集成至其生成性人工智能硬件的经过验证设计以及本地生成性AI解决方案中。这一合作大幅提升了企业环境中对Llama 2的访问,标志着企业从依赖云计算向本地部署的转变。
Llama 2于7月首次发布,目前得到了微软Azure、亚马逊AWS和谷歌云等主要云服务提供商的支持。然而,戴尔的策略不同,因为它专注于将这一开源大语言模型直接提供给企业用户。戴尔不仅为客户启用Llama 2,还在内部应用中加以利用。戴尔AI战略高级副总裁Matt Baker强调,支持Llama 2与公司将AI融入企业数据的愿景完美契合。“绝大多数数据存储在本地,这一开放访问模式使数据的直接集成成为可能,”Baker说道。他还指出,Llama 2家族具有高达700亿个参数,适用于强大的本地应用。
除了对Llama 2的支持,戴尔还在多种内部应用中使用该模型,致力于开发检索增强生成(RAG)等应用,以提升其知识管理系统。虽然戴尔希望通过其生成性AI的硬件和专业服务实现盈利,Baker明确表示,公司并不对Llama 2进行商业化。“我们认为Llama 2是一项有价值的能力,我们的目标是简化客户的访问方式,”他补充道。
据Meta生成性AI开源负责人Joe Spisak称,Meta对戴尔支持Llama 2的信心得到了用户的积极反馈,过去一个月Llama 2的下载量接近3000万次。Llama 2不仅是一个强大的大语言模型,更是更广泛的生成性AI生态系统中重要的组成部分,包括PyTorch机器学习框架。
Spisak指出,Llama 2在AI生态系统中被广泛应用,云服务提供商与硬件合作伙伴如高通(Qualcomm)共同利用这一模型进行LLM优化。与戴尔的合作尤为重要,因为它使得Llama 2可以在本地环境中部署,这对数据隐私敏感的组织至关重要。“尽管公共云是一个选项,但在对数据敏感性有顾虑的环境中运行Llama 2正是这一开放模型的优势所在,”Spisak解释道。“Llama 2取得了适当的平衡,使得在多种环境中部署成为可能。”
与戴尔的协作将进一步加深Llama开发社区对企业需求的理解。随着更多应用案例的出现,这将为优化Llama的能力提供宝贵的见解。“与戴尔等合作伙伴的合作提升了我们的平台,最终助力Llama 3和Llama 4等改进版本的开发,促进一个更安全、更开放的生态系统,”Spisak总结道。