乔纳森·罗斯(Jonathan Ross),AI芯片初创公司Groq的联合创始人,昨天在VB Transform大会上宣布了一个非凡的成就:在短短四个月内,Groq已经吸引了28万名开发者使用其平台,罗斯称这一里程碑在硬件行业是前所未有的。
“据我们所知,这是任何新硬件平台中开发者采纳速度最快的,”罗斯在接受VentureBeat的马特·马歇尔(Matt Marshall)采访时表示。“我们没想到会如此迅速地走红。”
Groq创新的无内存芯片架构是其快速发展的重要驱动因素。与传统GPU不同,Groq的设计消除了外部内存,罗斯将其视为实现高效AI推理的“真正瓶颈”。
近期,公司展示了其实时语音转写能力,力求在行业中与领军者竞争。罗斯将AI推理中的速度重要性比作等待Google搜索结果的恼人经历:“想象一下,如果得到答案需要10秒,那将是多么痛苦。”
这种爆炸式增长带来了管理消耗巨大需求的挑战。罗斯表示:“我们的团队正忙得不可开交,正在举办电缆派对来搭建机架,这太疯狂了。”
Groq的宏伟蓝图:从快速增长到市场领导地位
尽管面临扩展挑战,Groq正在利用其势头。公司已向首批50名客户询问提高支付额度的事宜,36小时内超过35家客户签署了采购订单,远超预期。“我们的重点是尽快提高生产能力,”罗斯确认。
展望未来,罗斯设定了宏伟目标:“我们计划在明年年底前占据全球AI推理市场的一半。”为了实现这一目标,Groq计划部署170万个AI处理器,罗斯指出,这一数字是去年Nvidia部署数量的三倍。
分析师们密切关注Groq快速的开发者采纳情况,认为这是市场兴趣的良好指示,尽管长期成功并非必然。AI芯片行业正在观察Groq如何满足日益增长的需求。
一个受Google启发的AI硬件愿景
罗斯借鉴了他在Google的经验,他曾参与开发Tensor处理单元(TPU)。“我们的目标是确保每个人都能访问AI,”他解释道,把在Google的工作与Groq的使命联系起来。
如果Groq能够持续增长并兑现承诺的性能,它就有潜力打破AI推理硬件市场的现状,并挑战像Nvidia这样的老牌企业。“使用CPU来运行这些模型效率极低;同样,如果有LPU可用,使用GPU并不是理想选择,”罗斯强调。
随着Groq扩大生产,罗斯也承认未来面临的挑战。他指出,在Google的经验影响了他们的方法:“在Google处理搜索时,我们不会依赖单台服务器来响应查询”,这突显了Groq创新的分布式方法论。
凭借前所未有的增长和雄心勃勃的目标,Groq正将自身定位为AI芯片市场的潜在颠覆者。随着他们努力满足激增的需求并履行承诺,科技行业期待看到Groq是否能够真正挑战这一领域的老牌巨头。