文章来源:头部科技
文丨择吉
大模型时代,算力运营商受到市场追捧。
清华系AI创业公司无问芯穹近日完成近5亿元A轮融资。
至此,这家成立仅16个月的创业公司,已累计完成近10亿元融资。
据统计,无问芯穹是目前国内大模型赛道累计融资额最高的AI Infra公司,没有之一。
此次A 轮融资,无问芯穹一口气新增15 家股东,投资方阵容令人惊叹,涵盖北京上海等地的国资/地方基金,市场化头部VC,还有券商直投和产业CVC——联合领投方为社保基金中关村自主创新专项基金(君联资本担任管理人)、启明创投和洪泰基金,跟投方包括联想创投、小米、软通高科等战略投资方,国开科创、上海人工智能产业投资基金(临港科创投担任管理人)、徐汇科创投等国资基金,以及顺为资本、达晨财智、德同资本、尚势资本、森若玉坤、申万宏源、正景资本等财务机构。
无问芯穹的独角兽之路似乎如鱼得水。目前,该公司并未披露最新估值。
“唯一具备全栈技术能力的创业团队”
无问芯穹联合创始人、CEO夏立雪分享到,“我们是国内除大厂外,唯一具备全栈技术能力的团队。”
算力市场空间之广阔有目共睹,理所当然的,背后的技术层栈要求也很高。
无问芯穹的底层解法是,提供高效整合异构算力资源的好用算力平台,以及支持软硬件联合优化与加速的中间件,实现模型与算力垂直打通,打造全栈技术能力,让异构芯片真正转化为大算力。
无问芯穹以“释放无穹算力,让AGI触手可及”为使命,致力于成为大模型时代首选的“算力运营商”,基于对AI行业的深刻理解和长期实践,无问芯穹超前判断大模型的实际可用算力不仅取决于芯片的理论算力,还可通过优化系数放大算力利用效率,通过集群规模放大整体算力规模。
无问芯穹提出“芯片算力×优化系数(软硬协同)×集群规模(多元异构)=AI模型算力”公式。遵循这一公式,无问芯穹将通过软硬件联合优化技术,持续提升芯片算力在大模型任务中的利用率,并通过多元异构算力适配技术,提升集群算力利用率,扩大行业整体算力供给。
通过激活多元异构算力和软硬件联合优化,无问芯穹目标让大模型的落地成本降低10000倍,如同“水电煤”一般,成为行业触手可及、广泛受益的新质生产力,加速AGI的普惠进程。
目前,无问芯穹基本已经做到了1000倍下降。这1000倍是针对大模型,结合了在算法层、硬件层、软件层多个层次的联合优化。
无问芯穹AI模型算力公式
无问芯穹相当于是大模型算力领域的“淘宝”,助力大模型应用开发降本增效,破解算力焦虑。
具体看来,在软硬件联合优化方面,无问芯穹通过自研的推理加速技术FlashDecoding++大幅提升主流硬件和异构硬件的利用率,超越在先SOTA,完成多个主流开源大模型在摩尔线程、壁仞、寒武纪、燧原、海光、NVIDIA、AMD、华为昇腾等10余种计算卡上的适配,并在部分计算卡上实现了行业第一的推理加速成果,高效满足各行业愈发高涨的大模型推理需求。
基于这一方案取得的优化效果,无问芯穹已与AMD签署战略合作,携手推动商用AI应用的性能提升。
无问芯穹在多元异构算力适配方面也拥有业界稀缺的异构适配与集群能力禀赋。
7月发布的大规模异构分布式混合训练系统HETHUB,是业内首次在华为昇腾、天数智芯、沐曦、摩尔线程和AMD、NVIDIA共六种芯片“4+2”组合间实现了千卡规模的异构算力混合训练,集群算力利用率最高达到97.6%,平均高出基准方案约30%,这意味着,在相同的多元芯片机房条件或者集群条件下,无问芯穹可将训练总时长压缩30%。
无问芯穹依托软硬协同、多元异构技术优势,已基于多元芯片算力底座打造出Infini-AI异构云平台。
该平台向下兼容多元异构算力芯片,可有效激活全国各地沉睡异构算力,现已运营的算力覆盖全国15座城市。
此外,Infini-AI异构云平台还包含一站式AI平台(AIStudio)和大模型服务平台(GenStudio)。
其中,AIStudio一站式AI平台为机器学习开发者提供高性价比的开发调试、分布式训练与高性能推理工具,覆盖从数据托管、代码开发、模型训练、模型部署的全生命周期。GenStudio大模型服务平台则为大模型应用开发者提供高性能、易上手、安全可靠的多场景大模型服务,全面覆盖了从大模型开发到服务化部署的全流程,有效降低了开发成本和门槛。
自平台上线以来,已有Kimi、LiblibAI、猎聘、生数科技、智谱AI等多个大模型行业头部客户在Infini-AI异构云平台上稳定使用异构算力,并享受无问芯穹提供的大模型开发工具链服务。
目前,无问芯穹正在强力推进和产业链中最具价值的客户建立战略合作,再推广到更广泛的市场中实现标准化、批量化复制,建立规模优势。
如此吸金的AI创业公司,
是怎么炼成的?
无问芯穹独特的人才竞争力,源于清华电子系的深厚底蕴、十余年的技术积累和丰富的产业经验所形成的产研结合的复合型团队。
去年5月31日,无问芯穹成立。团队生根于清华NICS-EFC实验室。该实验室成立于2008年,全称“Nanoscale Integrated Circuits and System Lab, Energy Efficient Computing Group”,专注于电子工程领域。
该实验室的领导者,正是无问芯穹的发起人、也是这家公司的灵魂人物:清华电子系系主任——汪玉。汪玉的参与,似乎成了无问芯穹最有底气的背书。
汪玉本人的本硕博都在清华就读,2007年留校任教,长期专注于智能芯片,高效电路与系统的研究。这也是说无问芯穹是根正苗红的清华系出身的原因。
汪玉是国内芯片领域公认的大咖。他曾多次在顶级会议中拿到最佳论文,谷歌学术引用达17000余次。
除了学术界,汪玉在产业界也很有建树,是芯片领域的连续创业者。
2016年1月,以汪玉教授为负责人的深度学习处理器项目,通过清华大学电子信息学院论证并获得支持。随后,项目团队以知识产权转化入股,创立AI芯片公司深鉴科技,进行产业化运营。而汪玉的得意门生姚颂和单羿,正是深鉴科技创始成员。
2018年,深鉴科技被全球最大的FPGA厂商赛灵思收购,随后赛灵思也被美国芯片巨头AMD所收购。因此,深鉴科技成为目前国内商业化发展最成功的AI芯片公司。
如今,汪玉选择再次携手自己的学生进行创业,共同创办了无问芯穹。
无问芯穹联合创始人、CEO夏立雪是汪玉的学生,是汪玉做博导后带的博士。
联合创始人、CTO颜深根同为清华人,现在是电子工程系副研究员,曾任商汤科技数据与计算平台部执行研究总监,带队搭建过万卡集群。
联合创始人兼首席科学家戴国浩,同为清华校友,分别于 2014 年和 2019 年取得清华电子工程系工学学士和博士学位,2022年成为上海交通大学电子信息与电气工程学院长聘教轨副教授。
这几人带队,在无问芯穹组建了150多人的队伍,其中100多人专注于AI大模型软硬件技术研发。大模型研发算力高昂,投资初创芯片公司,或许是最具性价比的方式。
算力是AI发展的前哨和基石,支撑模型能力迈向下一代的算力系统,还需要去研发和构建。不完全统计,宣布拥有千卡规模的中国算力集群已不少于100个,绝大部分集群已经或正在从同构转向异构。
同时,我国特殊的本地化需求,迫切呼唤有人能把不同厂商的异构芯片资源整合起来,发挥出最高效率。
在此过程中,以无问芯穹为代表的清华系AI创业新势力的崛起为代表,我们或将看到越来越多的“算力运营商”成为大家瞩目的焦点。
本文链接:https://www.aixinzhijie.com/article/6846586
转载请注明文章出处