14.9万元,满血流畅运行DeepSeek一体机抱回家!清华90后初创出品

亿百体育app官方下载苹果手机
你的位置:亿百体育app官方下载苹果手机 > 新闻动态 > 14.9万元,满血流畅运行DeepSeek一体机抱回家!清华90后初创出品
14.9万元,满血流畅运行DeepSeek一体机抱回家!清华90后初创出品
发布日期:2025-05-21 20:48    点击次数:59

满血 DeepSeek 一体机,价格竟然被打到10 万元级别了!

而且还不是量化版本,正是那个 671B 参数、最高质量的 FP8 原版。

或许有小伙伴要问了,那跑 DeepSeek-R1/V3 的速度,能跟官方一较高下吗?

可以的,甚至是更快的那种。例如我们提个问题,来感受一下这个 feel:

一个汉字具有左右结构,左边是木,右边是乞。这个字是什么?只需回答这个字即可。

△左:一体机;右:DeepSeek 官网

从视频中不难看出,不仅答案精准,一体机的速度也是肉眼可见地比 DeepSeek 官网快上一些,粗略估计是已经接近了22 tokens/s。

那么这个一体机到底是什么来头?

不卖关子,它就是由北京行云集成电路最新推出的产品——褐蚁 HY90,具体价格定到了14.9 万元。

而且除了产品,这家公司本身也是有不少的"标签"在身上的,其中最为吸睛或许当属 CEO 了:

季宇,清华 90 后博士、前华为"天才少年"、计算机学会 CCF 优博奖获得者。

那么褐蚁 HY90 具体执行起更多任务时,又会是什么样的效果?

来,更多维度的一波实测走起。

实测 10 万元级的 DeepSeek 一体机

我们先在褐蚁 HY90 部署 DeepSeek-R1,来测试一下它的推理能力。

有请 AIME 2025 的数学题:

Find the sum of all integer bases b>9 for which 17b   is a divisor of 97b.

从内容生成的速度上来看,褐蚁 HY90 面对数学推理问题,依旧是可以保持接近 20+ tokens/s。

并且最终给到的答案也是精准无误:70。

再来一道新版类似" 9.9 和 9.11 哪个大"、" Strawberry 里面有几个‘ r ’",极度迷惑一众 AI 的难题:

让 7 米长的甘蔗通过 2 米高 1 米宽的门。

△左:一体机;右:DeepSeek 官网

速度依旧在线,并且这个问题已经是难不倒 DeepSeek,给出的答案也是正解。

而除了 DeepSeek 之外,我们还在褐蚁 HY90 上体验了一把类似Deep Research的功能:

由此可见,无论是什么类型的题目,褐蚁 HY90 都能以相对较快的速度丝滑处理。

不过有一说一,以往的一体机,即便是搭载 Q4 量化版本,成本动辄就要达到 200 万元。

而褐蚁 HY90 在搭载满血、未量化的 DeepSeek 情况下,不仅能够保证速度,更是把价格打掉了一个数量级。

因此,接下来的一个问题便是:

如何炼成的?

在我们聊"如何实现"之前,且需了解一下"什么在阻碍"。

首先,大家提到一体机,第一反应大概率就是 GPU,而它本身就或许构成了短板。

因为传统 GPU 方案因显存容量限制,例如 671GB 需求需多张 A100 显卡,成本已经超过了百万的级别。

而 CPU 方案则受限于内存带宽,因为大模型推理需要频繁加载参数(如 671B 参数的 FP8 精度模型占用约 671GB 内存)。

如果内存带宽不足,就会导致计算单元(CPU 核心)长时间等待数据,形成"内存墙"(Memory Wall),严重影响推理速度。

针对上述的短板,行云的褐蚁一体机采用双路 AMD 9005 系列 CPU,通过 1TB/s 的高内存带宽满足基础推理需求,同时搭配一张中高端消费级 GPU 作为算力补充。

这种异构计算架构通过软件协同优化,既解决了纯 CPU 方案在部分推理阶段的算力不足问题,又显著降低了成本,将硬件投入压缩至 10 万元以内。

除此之外,行云自主研发的推理引擎框架通过算法优化和任务调度,同样对 token 生成速率起到了显著的提升作用。

在 FP8 精度下,Decode 阶段速度稳定在 20TPS 以上,且受上下文长度影响较小(128K 上下文仍保持 15TPS);Prefill 阶段在 16K 上下文内首字延迟控制在 80 秒以内。

这种高效推理能力尤其适合需要连续生成大量 token 的场景(如 AI Agent),大幅缩短任务响应时间。

不仅如此,团队还针对大模型运行需求,精准平衡了计算能力与内存带宽,支持满血 FP8 精度的 R1/V3 模型,并预留扩展能力,未来可支持 1.5T 参数量的模型。

通过参数压缩技术(如 INT4 量化),进一步将 Decode 速度提升至 28TPS(1K 上下文),满足不同场景对速度与精度的灵活需求。

据了解,团队后续还将对 MoE 类的模型提供较好的支持。

褐蚁一体机的出现,可以说是改写了行业的格局——

此前运行满血 671B 模型需百万级设备,而同类低配方案(如 32B/70B 模型)仍需 20-40 万元。

行云通过技术整合,将最高质量的模型体验直接带入 10 万元价位,为中小团队提供了低门槛、高扩展性的 AI 部署方案。

这一技术突破不仅实现了"高性能 + 低成本"的平衡,更推动了大模型在智能客服、数据分析等场景的普惠应用。

清华 90 后创办的公司

最后,正如我们刚才提到的,行云除了产品本身之外,创始团队同样也有不少的亮点。

首先就是创始人兼 CEO季宇,他本科就读于清华大学物理系,后转向计算机体系结构方向,获得清华大学计算机体系结构博士学位。

在学术研究方面,他曾作为共同第一作者在顶级期刊《自然》(Nature)上发表计算机体系结构相关论文,并荣获中国计算机学会(CCF)优秀博士学位论文奖(CCF 优博奖)。

△行云集成电路创始人兼 CEO,季宇

在 2023 年 8 月成立行云集成电路之前,季宇曾在华为海思昇腾芯片团队,担任昇腾 AI 芯片编译器专家,负责多个昇腾编译器项目,也曾入选"华为天才少年"。

在华为期间,正因长期专注于 AI 编译器优化和处理器微架构等挑战性问题,也让他积累了丰富的 AI 芯片研发经验。

除了季宇本人之外,CTO余洪敏拥有深厚的学术背景和丰富的行业经验。

他本科毕业于华中科技大学,后在中国科学院半导体研究所获得博士学位。

在职业履历方面,余洪敏曾担任百度昆仑芯、华为海思车载昇腾芯片等多款芯片的负责人,并曾在地平线担任芯片研发总监。

他长期领导和管理超过 100 人的研发团队,精通芯片研发设计全流程,具备丰富的实战经验——成功主导 10 余款芯片的流片与量产,并多次推动先进工艺数据中心芯片的架构设计、工程实现及大规模商用部署。

值得一提的是,在去年 11 月份,行云集成电路还得到了一众明星资本的投资,包括智谱 AI、峰瑞资本、嘉御资本、春华资本、中科创星、同创伟业奇绩创坛、水木清华校友基金等。

由此,从行云集成电路成立至今的发展来看,是有产品,有团队,更有市场的那种了。

但更重要的一点是,这家刚成立两年的公司,一举实现了一体机圈子里类似的 DeepSeek 的"高性能 + 低成本"——

嗯,"中国初创"的含金量还在持续上升。

一体机近期可从官方公众号预约体验,更多详情见↓

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法!

—  完  —

� � 点亮星标 � �

科技前沿进展每日见



上一篇:岳阳世纪男科医院从细节着手,改善男性就医体验_患者_治疗_医疗
下一篇:金正恩视察重要坦克工厂 强调更迭陆军装甲武器_建设_成果_武力

Powered by 亿百体育app官方下载苹果手机 @2013-2022 RSS地图 HTML地图

Copyright Powered by365站群 © 2013-2024