2024-07-01 01:58

比英伟达快 20 倍!Sohu 芯片引爆 AI 算力革命

1.8万

文章来源: 智子矩阵


图片来源:由无界AI生成
图片来源:由无界AI生成


提起搜狐,你或许会想起那个承载着青春记忆的门户网站,或是曾经火爆一时的搜狐视频。但今天,我们要聊的不是新闻资讯,也不是热播剧集,而是一款来自硅谷初创公司,却偏偏跟搜狐同名的 AI 芯片——Sohu。它带着颠覆行业的气势横空出世,甚至让芯片巨头英伟达也感受到了压力。

Sohu 芯片有多快?

它能以每秒 50 万个 token 的速度运行 Llama 70B 模型,性能是英伟达 H100 服务器的 20 倍,号称 “史上最快 AI 芯片”。只需要 一台 8 卡 Sohu 服务器,就能取代 160 块 H100,这效率,简直是降维打击!


Sohu 的秘诀是什么? 答案是 “专注”。与英伟达 GPU 追求 “全能” 不同,Sohu 是一款专门为 Transformer 模型 设计的 ASIC 芯片。它放弃了对 CNN、LSTM 等其他 AI 模型的支持,将全部资源集中于优化 Transformer 性能,最终实现了速度和成本上的双重突破。



为什么说 ASIC 是 AI 芯片的未来?

近年来,GPU 性能提升的速度明显放缓。数据显示,过去四年中,GPU 的计算密度(TFLOPS/mm²)仅仅提升了约 15%。为了维持性能增长,英伟达、AMD 等厂商开始将两颗 GPU 封装在一起,作为单一产品推向市场,但这终究只是权宜之计。


随着摩尔定律逐渐失效,GPU 性能提升的空间越来越小,而 AI 模型的规模和复杂度却在不断增长,对算力的需求也越来越高。在这种情况下,ASIC 芯片凭借其定制化设计的优势,能够在特定任务上实现比 GPU 更高的性能和效率,因此受到了越来越多的关注。

例如,在比特币挖矿领域,ASIC 矿机的出现就迅速成为了 GPU 矿机的有力竞争者。如今,AI 模型的训练成本动辄数十亿美元,任何一点性能提升都能带来巨大的经济效益。因此,越来越多的公司开始投入到 AI ASIC 芯片的研发中,希望在未来的 AI 算力市场占据一席之地。

当然,ASIC 芯片也并非没有缺点。由于其定制化程度高,研发成本和风险也更高,同时灵活性也低于 GPU。未来,GPU 和 ASIC 芯片可能会在 AI 算力市场长期共存,各自发挥优势。

Sohu 的出现,对英伟达意味着什么?

尽管英伟达凭借强大的 GPU 性能和 CUDA 生态,在 AI 芯片市场占据着主导地位,但 Sohu 的出现无疑是一个危险的信号。

首先,Sohu 的性能优势太过明显,足以打破英伟达在 AI 训练领域的垄断地位。

其次,Sohu 背后的公司来头也不小,他们获得了来自 OpenAI、谷歌等巨头的投资,资金实力雄厚。

更重要的是,Sohu 的成功验证了 ASIC 芯片在 AI 领域的巨大潜力,未来将有更多公司加入这场竞争,英伟达的压力可想而知。

当然,Sohu 也并非没有挑战。ASIC 芯片的研发成本高昂,风险巨大,Sohu 公司能否持续推出具有竞争力的产品还有待观察。

此外,英伟达也在积极布局 ASIC 芯片领域,并推出了 Grace Hopper 等产品线。未来,AI 芯片市场将迎来更加激烈的竞争。

Sohu 的出现,预示着 AI 芯片市场即将迎来一场新的革命。 就像智能手机取代功能机一样,ASIC 芯片或许也将逐步取代 GPU,成为 AI 时代的算力基石?

本文链接:https://www.aixinzhijie.com/article/6846182
转载请注明文章出处

评论
登录 账号发表你的看法,还没有账号?立即免费 注册
下载
分享
收藏
阅读
评论
点赞
上一篇
下一篇