算力、模型、智能体、应用,四层都自己做。客户可以整套拿走,也可以只要其中一层。
聊天是一问一答。智能体要连续走几十步:边读、边调工具、边写,上下文越滚越长。看下面这个任务怎么一步步变重。
每走一步就长一截,可到几十万至百万。行业观察
不做缓存,每一步都要把历史重读一遍:单任务是聊天的 5–30 倍。行业观察
单步 95%,连续 30 步全对只有约 21%。示意计算
示意动画:红色表示这一步要重读的历史,蓝色是这一步新增的内容。节奏也不同:智能体是「调一次模型、执行工具 30–60 秒、再调一次」,不是人打字的节奏。
历史被一遍遍重算,词元消耗成倍增加。
每一步都要先读完全部历史才能开口。
一步出错,后面全跟着错,只能整段重来。
算力让缓存留得住,模型只算新增,智能体只重做错的那一步,应用把它变成产品。
名字借自半导体:从设计到制造都自己做的,叫 IDM。算力中心做算力,模型服务商做模型,应用公司做应用——AIDM 四层都做。
让模型在优化过的硬件上跑得快、用得起;把业务约束写进模型本身。
用户说一句话,到拿到结果,中间要过七步。请求先一层层往下走,推理完成后再回到上面审查、结算。
④ 路由错了,⑤ 的缓存就白存了;没有 ⑥,任务越长越做不完。任何一层单独做好,都接不住这条请求。
下面的片段都来自线上产品:RayWorld R1 样片取自 rayworld.ai,作品片段取自小影马。
客户可以整套拿走 AIDM,也可以只要其中一层。
| 层 | 豪泓自研 | 采用的开源技术 |
|---|---|---|
| L0 算力 | GPU 底层优化、异构协同、会话亲和路由与调度 | 分页显存参考 PagedAttention 等开源推理框架思路 |
| L1 文本推理 | 有状态缓存、通道锁定等推理工程 | DeepSeek 等开源模型;推测解码技术 DSpark |
| L1 世界模型 | RayWorld R1 的结构改造、新增权重、验收标准 | 开源视频基座模型 |
| L2 智能体 | H2 Harness 编排框架 | 对接开源与商用模型,按能力槽路由 |
| L3 应用 | 小影马、小影马直播、H2 Code | — |
给想转型为 AI 技术公司的企业,重点是上市公司:钱和卡都有,但卡的利用率低,没有自己的模型能力,也没有能写进财报的 AI 产品与收入。
给任何有重复性知识工作的企业。按客户的工作流定制一套多 Agent 系统,部署在客户本地,数据不出域。
两样都要的客户,拿到的就是整套 AIDM。
一台 8 卡 H200 服务器,每月产值。只出租,卖的是卡时;部署模型,卖的是推理;做成智能体,卖的是完成的工作。
重资产生意。收入跟着卡数与出租率走,市场按算力资产与租金回报给估值。
收入跟着用户与任务量增长,可以写进财报的是 AI 产品收入,市场按收入规模与增长给估值。
每月产值为经营测算,按一台 8 卡 H200 服务器估算,以实际运行数据为准。从 A 走到 B,差的不是卡,而是四层技术:L0 让卡跑得满,L1 让推理快且便宜,L2 让智能体把长任务做完,L3 把能力变成能卖的产品。
与本网站同一份内容、同一套数字。可直接转发给投资人、决策者与技术负责人。
接入方式与官方接口一致,最快 4–6 周上线第一个产品。