新品发布｜速石Token中枢：你的AI资源需要一个“大脑”

速石科技

2月前浏览289

上一集我们还在唠大模型厂商吃不消了，兜里没算力了，到处买买买都买不到现货。

还没过两天，企业也纷纷宣布爆仓了：

Uber4个月烧掉2026一整年的钱

米哈游一个员工一晚上烧200万人民币Token

等等，就不多举例了。。

这些企业Token消耗曲线大差不差，基本都长这样：

老板们纷纷痛心了，不是谁都有那个底气当是“放一场大烟花”呀~

自媒体们纷纷开始唱衰，说Token经济学失效了。

恕在下不敢苟同

我们认为：当企业开始认真讨论Token成本的时候，Token经济学才开始生效。

大家终于像对待其他商业资源一样，理性思考Token的投入产出，这才是企业应有的态度。

有人说：我上来就是一刀，砍掉Token额度，问题不就解决了？！

哦，是吗？

然后呢？

您对这个一天一个样的AI世界是没什么眷恋了是么？

那如果不能一刀切？

怎么办？

接下来出场的是咱们速石科技推出的全新产品——速石Token中枢（FAAP-fastHub）。

本文速览：

速石Token中枢（FAAP-fastHub）是什么？
我们的目标用户——有企业级私有化部署需求的企业/组织
速石Token中枢的四大核心价值
提前解答：几个根本性疑问
企业在什么节点应该购买速石Token中枢？
速石Token中枢产品矩阵与正确打开方式
常见问题FAQ

速石Token中枢（FAAP-fastHub）是什么？

速石Token中枢（FAAP-fastHub）是面向企业与组织的AI资源治理与运营中心，旨在将分散的公有模型、私有模型以及托管模型资源统一纳入同一个企业级LLM（大模型）网关与控制面，让AI从可使用走向可管理、可运营、可持续发展。

速石Token中枢通过统一接入、统一治理、统一计量和统一运营能力，帮助企业建立从资源接入、治理运营到服务交付的完整AI基础设施体系。既支撑企业内部的AI资源治理，也支撑运营商、智算中心等对外运营场景，通过一套控制面，帮助用户把“散装AI”变成可管理、可计量、可运营的组织级资产。

我们的目标用户——有企业级私有化部署需求的企业/组织

我们的目标用户，是两类需要将大模型从“散装试用”升级为“组织级可控资产”的实体：

第一类：内部治理型——大型企业、金融机构、医疗机构、国资单位、院校科研机构。

他们面临多模型、多团队、多预算、高合规要求的内部混乱，需要私有化部署，数据不出机房，满足等保及行业审计要求。

典型特征：

模型来源多：公有云模型、开源模型、海外模型、自己训练的模型……全都有
使用主体多：多个部门、多个项目组、甚至多个子公司，各自为政
管不住：没有统一入口，没有统一权限，没有统一预算，没有统一审计
成本黑洞：钱花了，但不知道花在哪、值不值
安全靠自觉：没有护栏，敏感数据可能外泄，出了问题才追责
资源浪费：本地GPU闲置，私有模型没人用，因为不知道怎么分配

第二类：对外运营型——运营商、智算中心、政企平台。当然，还有大型集团企业由内部治理型逐渐演化而成的对外运营需求。

他们希望将AI能力打包为可计费的Token服务，输出给外部客户，同样需要私有化或混合部署，确保租户数据隔离与商业数据安全。

典型特征：

有资源：有GPU、有模型、有算力，或者能接入多家模型供应商
有客户：有企业客户、开发者、行业用户，想卖AI服务给他们
缺底座：没有多租户、没有计量计费、没有出账对账的系统
靠人工：月底手动导日志、手动算账、手动对账，效率极低、易出错
无法规模化：十个客户还能手工算，一千个客户就崩了

速石Token中枢（FAAP-fastHub）既可作为企业内部的LLM 控制面（企业内控场景），也可作为面向租户的对外运营平台（运营场景）—— 这两类场景共用同一套控制面引擎。

无论哪一类，我们都深度支持企业级私有化部署场景——你的模型、你的数据、你的合规边界，都在你的控制范围内。

PS：十年间，我们陪伴了数百家企业客户。今天这款产品，正是那段经验的自然延伸。《Hello World~大家好，重新跟大家介绍一下速石科技》

速石Token中枢（FAAP-fastHub）的四大核心价值

我们的四大核心价值：

统一接入：建立统一入口，解决“怎么接”

我们把外部不同模型供应商提供的异构模型、fastHub MaaS资源、企业私有化模型与自建GPU资源纳入同一LLM网关入口，统一抽象为可管理、可对外服务的模型资源。

通过统一入口、统一路由和统一策略来降低接入复杂度与稳定性风险，减少重复适配与分散的模型维护成本。

模型中立：不绑定任何一家模型或云厂商，想换就换
入口统一：所有模型都接到同一个“总入口”。业务系统只认这个入口
规则绑定：模型接进来，自动就有了权限控制、路由选择、用量计量、安全审计，不用额外开发
内外统一：为本地模型与资源提供Token级计量能力

统一治理：建立规则体系，解决“怎么管”

我们在AI资源和业务系统之间增加了一层统一控制层。无论是企业内部的部门，还是对外服务的客户，所有规则都集中定义、统一执行，从而避免规则散落在各个业务系统中，降低管理复杂度并提升运营效率。

主要包括六类治理：身份权限、模型范围、路由策略、稳定性、预算审计、安全护栏

业务系统只管发请求，管理员自动判断：你是谁、有没有权限、预算够不够、该走哪条路、安不安全。

这样做的好处是：规则改一次，所有系统都生效；换模型不用改代码；安全审计统一做。

统一计量：建立资源账本体系，解决“怎么算”

我们统一记录外部模型与本地模型的Token消耗、成本、预算、配额和使用归因，把原本分散、难以管理的模型调用，转化为组织可核算、可约束、可归因的AI资源账本。

尤其是对于本地GPU和私有化模型的消耗，不再是一笔糊涂账，而是被纳入统一计量口径，用同一把“尺子”计量，从而进一步支持内部资源分配、课题预算、部门核算或平台化运营。

让企业能够清楚地知道谁在使用AI、使用了哪些模型、消耗了多少资源、是否超出预算，以及哪些业务场景最具优化空间。

对于对外运营型用户，我们提供“对外计费的原始账本”，也就是底层数据。

统一运营：建立Token运营底座，解决“怎么持续创造价值”

我们作为底层运营控制平台，将外部模型、本地GPU、私有模型统一纳入同一个运营视图，通过统一的策略、统一的计量和统一的治理能力，为上层各种AI服务提供支撑。

对内：给不同部门、不同课题组分配额度，看他们用了多少，超了自动停。

对外：给企业客户开独立账户，提供用量计费、月底出账。（我们只提供运营底座与计费原始数据，对外开票与商务结算需要客户对接自有财务系统或商务流程。）

这个过程是标准化的：

资源统一：不管资源来自哪里，都在同一个池子里，同一个运营视图
流程统一：开户、发Key、配额度、看用量、对账——全流程自动化
服务输出统一：不管是内部共享，还是对外销售，底层一套不用改，换上层服务模式就行

提前解答：几个根本性疑问

疑问一：不就是个API网关/代理吗？

API网关或代理，只解决了上一章节“统一入口”这一件事。

疑问二：不就是个模型市场吗？

模型市场关注的是模型交易和模型供给。

而速石Token中枢关注的是模型资源进入组织之后的管理与运营。

疑问三：不就是个成本统计工具吗？

成本统计只是上一章节“统一计量”的其中一部分。

疑问四：这是IT/信息化部门的事，不关业务的事吧

最终决策及受益部门一定是业务部门。

可以结合我们上一篇文章《为什么1个Token有时值一分钱，有时值一百块？》第三章节“Token币值到底由什么来决定”一起看。

疑问五：我们自己用开源工具（比如LiteLLM、OneAPI、NewAPI）搭一套不就行了，为什么要买？

当然可以，而且很多企业在AI建设初期都会这么做。

开源工具能够快速解决模型聚合和统一调用的问题，对于个人开发者、小团队或者验证阶段的项目来说，是非常好的选择。

但当AI开始进入企业核心业务之后，问题往往不再是“能不能接模型”，而是“能不能长期稳定地管理和运营这些资源”。比如：未来三年谁维护？出了问题谁负责？规则升级谁跟？安全事件谁兜底？

开源工具解决“能搭起来”，速石企业级Token中枢产品负责解决“能长期运营”。

企业在什么节点应该购买速石Token中枢（FAAP-fastHub）？

企业是否需要Token中枢，不取决于消耗了多少Token，而取决于AI是否正在从“个人提效工具”变成“组织级生产资源”。

当出现以下任意一种情况时，通常意味着企业已经进入AI资源管理阶段：

使用多个模型，或同时存在国内模型、海外模型、私有模型混合资源
AI开始跨部门、跨项目或多人协同使用
AI预算独立，账单失控或超出企业承受范围
企业对AI调用有安全审计要求
管理层开始关注AI投入产出比（ROI）

以下两个信号我们认为拥有一票通过权：

本地已建设或计划建设私有化AI平台
组织开始向内部共享或向外部客户提供AI服务，即有对外运营需求

不是Token用得多才需要治理，而是AI用得深、用得广、用得正式，就必须有控制面。这个转变发生时，靠Excel、靠自觉、靠临时脚本已经无法支撑。

速石Token中枢（FAAP-fastHub）就是为这个节点准备的产品——帮你把“散装AI”变成“可管理、可计量、可运营”的企业能力。当AI开始被整个组织使用时，Token中枢就是帮助企业管理、分配和运营AI资源的“大脑”。

最好的时机并不是在账单爆炸之后，就像ERP也不是等库存乱了再上。

在混乱发生之前建立秩序，永远比事后整顿成本更低。

速石Token中枢（FAAP-fastHub）产品矩阵与正确打开方式

fastHub Team & Team Pro（中文名：元驭）

fastHub Team面向团队级和部门级AI应用场景，帮助组织快速建立统一的AI使用入口和基础治理能力。通过统一接入多种模型资源，实现权限管理、资源配额、使用统计和成本可视化，让团队能够安全、高效地共享AI能力。

适用于企业创新团队、研发部门、项目组以及高校实验室等场景，是组织迈向AI 规范化使用的第一步。

可无缝接入fastHub MaaS产品，快速获取模型资源补充。

fastHub Enterprise

fastHub Enterprise面向企业级和平台级AI运营场景，提供覆盖组织治理、资源管理、预算控制、审计追踪、多租户运营和服务交付的完整控制体系。

帮助企业统一管理公有模型、私有模型、托管模型及本地算力资源，建立从接入、治理、计量到运营的全生命周期管理能力，支撑大型企业、高校、科研机构、运营商和智算中心的规模化AI建设与持续运营。

企业内控场景：组织级治理、身份联邦、高级RBAC、部门/ 租户/工作空间、审计合规、安全护栏、高可用与容灾

对外运营场景：在内控能力之上，启用多租户、配额套餐、计量计费、对账核账、出账数据、服务运营支撑能力

可无缝接入fastHub MaaS产品，快速获取模型资源补充。

fastHub MaaS

fastHub MaaS（Model as a Service）是速石提供的托管式多供应商模型服务平台，为企业提供统一、稳定、安全的模型供给能力，帮助用户快速获取和使用外部模型资源。

MaaS可以独立作为模型服务平台使用，也可以无缝接入fastHub Team和Enterprise产品，成为统一治理体系中的模型资源来源，为企业提供从模型供给到资源运营的完整闭环。

速石Token中枢（FAAP-fastHub）产品矩阵的正确打开方式——fastHub Team & Enterprise产品与MaaS平台联合一体化使用。

fastHub Team & Enterprise产品解决“怎么接、怎么管、怎么算、怎么运营”的问题，fastHub MaaS平台解决“模型从哪里来”的问题。

速石Token中枢产品联动一体化使用的价值主要体现为两点：

1. 一个平台负责到底，全链路可控，更安全、更合规，降低管理复杂度

对于企业来说，真正麻烦的往往不是技术本身，而是供应商太多。

fastHub Team & Enterprise产品与MaaS平台联合一体化使用，企业无需在多个供应商之间来回协调，面对的是统一的平台、统一的服务体系和统一的责任主体，无论是技术支持、服务保障还是资源管理，都更加简单高效，能实现更完整的安全治理、审计追踪和合规管理能力。

2. 更智能的资源调度与成本优化，从“能用”走向“越用越好”

由于同时掌握模型服务和资源运营能力，速石Token中枢可以将模型运行数据、资源使用情况和业务反馈结合分析，持续发现问题、优化策略、调整模型和资源配置，让平台能力随着使用不断迭代提升，在保证效果的同时进一步降低整体成本。

常见问题FAQ

Q1：企业已经接入多个模型，为什么还需要速石Token中枢？

模型接入解决的是“能用”。

速石Token中枢解决的是：谁能用、怎么用、花多少钱、是否安全、如何运营。

这是两个完全不同层面的能力。

Q2：我们规模很小，暂时不需要，以后再说吧

团队小、模型少，手工管理确实可行。

但AI使用量的增长是非线性的，以后再想建规则，清理成本非常高。

速石Token中枢的Team一体机产品（元驭）非常轻量，且开箱即用，可以“低成本试点”，先解决‘统一入口’和‘成本可见’两个最痛的点。以后要不要用更深的治理，您自己按需选择。

Q3：只有大型企业才需要Token中枢吗？

不是。

只要组织同时使用多个模型、多个部门或多个项目共享AI资源，就会逐渐产生治理需求。区别只是规模和复杂度不同。

Q4：本地GPU资源也能纳入管理吗？

可以。

速石Token中枢不仅管理公有模型API，也能够将本地模型和私有GPU资源纳入统一管理和计量体系。

Q5：我们企业目前只想内部用AI，未来有可能对外服务，需要两套系统吗？

不需要。

速石Token中枢同一套控制面同时支撑“企业内控”与“对外运营”两类场景，可以“同一平台，平滑升级。”

Q6：我们想用速石Token中枢做对外运营，它能直接出账单、开票、对接微信支付吗？

不能。

速石Token中枢提供的是运营底座与原始账本（租户用量明细、套餐计费数据、出账数据接口）。开票、合同、支付、客户前台界面等，需要您对接自己的财务系统、ERP或开票服务。我们不做“收银台前台”。

Q7：我们已经买了云厂商的AI服务，为什么还要用速石Token中枢？

速石Token中枢是模型中立的，可以统一接入多家云厂商的模型、海外模型、您自建的私有模型和本地GPU。

TA不绑定任何单一云或模型，而是帮您统一治理所有来源。更不是替代云厂商，而是在其上加一层“企业级控制面”。

来源：速石科技

生信实证系列Vol.15：如何用AlphaFold2，啪，一键预测100+蛋白质结构

"结构就是功能"——蛋白质的工作原理和作用取决于其3D形状。2020年末，基于深度神经网络的AlphaFold2，一举破解了困扰生物学界长达五十年之久的“蛋白质折叠”难题，改变了科学研究的游戏规则，可以从蛋白质序列直接预测蛋白质结构，实现了计算机蛋白质建模极高的精确度。自AF2问世以来，全世界数百万研究者已经在疟疾疫苗、癌症治疗和酶设计等诸多领域取得了突破。2024年5月初，AlphaFold3再登Nature，基于Diffusion（扩散技术）架构，将技术延伸到蛋白质折叠之外，能以原子级精度准确预测蛋白质、DNA、RNA、配体等生命分子的结构及相互作用。为了避免Diffusion技术在一些无结构区域产生“幻觉”，DeepMind还创新了一种交叉蒸馏（cross-distillation）方法，把AF2预测的结构数据预添加到AF3的预训练集中，减少AF3的预测失误。AF2代码已开源，AF3目测不会开源，也不能商用。我们今天的主角——只能是AlphaFold2。想知道怎么使用AlphaFold2最最快乐？怎么快速完成蛋白质结构预测任务？我们能在背后帮你默默干点什么？来吧——01先复习一下AlphaFold2计算的正确打开方式我们通常说的AlphaFold2是指一个利用多个外部开源程序和数据库，通过蛋白质序列预测其3D结构的系统。整个蛋白质结构预测计算过程大致可以分为两个阶段：数据预处理一包括多序列比对（MSA）和模板搜索（Template Search）两个步骤，主要是利用已知的蛋白质序列和结构模板，获得不同蛋白质之间的共有进化信息来提升目标蛋白质结构预测的准确性。需要比对和搜索的数据总和达到了TB量级，涉及数据库密集I/O读写，因此对I/O有较高的要求。这一阶段主要使用HMMER与HH-suite软件，以及Uniprot、MGnify、PDB等多个蛋白质数据库。计算耗时与蛋白序列长度正相关，主要使用CPU计算资源。AF2训练数据集覆盖多个数据库，比如UniRef90/MGnify/PDB/BFD等，目前完整版大小约为2.62TB，是世界范围内较为权威的蛋白质三维结构数据库。2022年7月28日，Google DeepMind将数据库从近100万个结构扩展到超过2亿个结构，涵盖了植物、细菌、动物和其他微生物等多个类别。模型推理与优化二基于端到端的Transformer神经网络模型，AF2输入Templates、MSA序列和pairing信息，其中pairing和MSA信息相互迭代更新，检测蛋白质中氨基酸之间相互作用的模式，输出基于它们的3D结构。再用OpenMM软件对预测的3D结构进行物理放松，解决结构违规与冲突。使用Recycling（将输出重新加入到输入再重复refinement）进行多轮迭代训练和测试，多轮迭代优化有一定的必要性，较为复杂的蛋白可能在多轮之后才能折叠到正确的结构。这一阶段计算耗时与迭代次数正相关，主要使用GPU计算资源。02Workflow全流程自动化随心组合，当一个甩手掌柜作为一个系统，AlphaFold2借助了多个外部开源软件和数据库，整个计算过程也比较复杂。如果用户想要自行使用，不但要下载庞大的数据库，还需要自行搭建使用环境，对IT能力的要求不可谓不高。用户看到的基本都是左边这种画面，我们能做的第一点——就是提供一个平台，把左边变成右边：而第二点，我们能跨越系统各个软件之间，包括对软件内部的不同步骤任意重新排列组合，做成自动化的Workflow。一次制作，反复使用，省时省力，还不用担心中间出错。比如？多数据库同时多序列比对（MSA）一多序列比对需要在多个蛋白质数据库里进行查找。常规使用模式，用户要手动依次在N个数据库里进行搜索，整个过程耗时等于N次搜索的时间之和。我们可以让不同数据库的搜索同时进行，并做成一个固定Workflow，自动执行，整个过程花费时间将等于耗时最长的数据库搜索时间。既节约时间，又省事。全计算流程与资源自由组合二不仅仅限于某一个步骤，我们能做全计算流程的自定义Workflow。上一节我们复习了，AF2第一阶段适合用CPU资源，第二阶段使用GPU计算效果最佳，每个阶段还涉及到不同软件包。整个计算过程比较复杂，需要在不同阶段的不同步骤使用不同软件包调用不同底层资源进行计算，手动操作工作量不小。而且，常规使用模式，可能会从头到尾使用一种资源计算，这样比较简单，但是会比较吃亏，要么第一阶段GPU纯纯浪费，要么第二阶段慢得吐血，计算时间是原来的数倍。我们能把整个计算流程与资源自由组合，让用户全程可视化操作，只需要输入不同参数即可。既能实现应用与资源的最佳适配，还能自动化操作，省去大量手动时间。当然，还有无数种其他组合的可能性。不止是AlphaFold2，自定义Workflow也能应用在其他场景，戳：1分钟告诉你用MOE模拟200000个分子要花多少钱03扫清技术障碍TB级数据库与I/O瓶颈问题 AF2训练数据库完整版大小约为2.62TB，数据预处理阶段需要在数据库中执行多次随机搜索，这会导致密集的I/O读写。如果数据的读取或写入速度跟不上，就会影响到整个计算过程的效率。这可能会导致：1. 同一任务多次计算，耗时却不同；2. I/O等待超时，任务异常退出；3. 即便增加CPU资源，也无法加速计算。为了解决这一问题，我们对整个数据库做了梳理和拆分。其中最大的BFD数据库接近2T，对I/O的要求非常高。因此，我们将高频I/O的BFD数据库存放在本地磁盘，其他数据库存放在网络共享存储上。这带来了两大好处：第一、磁盘空间换时间，计算速度更快将高频访问的BFD数据库放在本地磁盘上，I/O读写速度快，非常适合需要快速响应的数据。因为本地磁盘是与机器绑定的，如果不止一台机器，这会导致本地磁盘存储空间增加。而其他对I/O读写速度要求不高的数据库可以放在网络共享存储上，方便所有机器共享读取和写入，减少数据同步问题。整体来说，用磁盘空间换取时间，让I/O对计算的影响降到最低，显著提升了AF2的运算效率。第二、为未来可能的大规模并发计算扫清技术障碍关于这一点，我们进入下一节。04大规模并发！同时预测100+蛋白质结构对用户来说，不可能一次只预测1个蛋白质结构。那么，如果要同时预测100+蛋白质结构，怎么玩？如果是以前，你不但需要搭好运行环境，准备好计算资源，然后一个一个预测，而且每一个还得手动走一遍完整的计算流程。这个过程一听就十分漫长，而且容易出错。而现在——已知一：我们有Workflow全流程自动化的能力，单个蛋白质预测已经是一个自动化的Workflow了；已知二：我们解决了I/O瓶颈问题，也就是说，多台机器对I/O读写瓶颈问题已经解决。100+蛋白质结构预测，又有什么难的？现在，我们只需要再多做一步，同时运行有100+个不同输入参数的Workflow，就行了。而完成这一步需要具备两个条件：充分的CPU/GPU资源一我们调用10万核CPU资源，使用AutoDock Vina帮用户进行了2800万量级的大规模分子对接，将运算效率提高2920倍：提速2920倍！用AutoDock Vina对接2800万个分子我们智能自动化调度云端GPU/CPU异构资源，包括155个NVIDIA Tesla V100和部分CPU资源，将运算16008个Amber任务的耗时从单GPU的4个月缩短到20小时：155个GPU！多云场景下的Amber自由能计算调度器能力二这么多机器和任务，怎么适配，按什么策略使用最佳，怎么配置、启动、关闭，提高整体资源利用率，最好还能自动化管理、辅助管理决策等等，甚至怎么DEBUG，这需要的可不止是一点点技术。详情可戳：国产调度器之光——Fsched到底有多能打？到这里，这100+蛋白质预测任务，就可以一次性跑完了。05V100 VS A100关于GPU的一点选型建议那么多GPU型号，你选哪个？市面上的GPU型号不少，性能和价格差异也很大。我们选取了3个蛋白质，分别使用V100和A100进行了一轮计算：可以看到，对同一个蛋白质进行结构预测，A100用时约为V100的60-64%。而目前的市场价，无论是小时租赁、包月预留还是裸卡买断，A100至少是V100的2倍以上。也就是说，A100是以2倍多的价格，去换取约三分之一的性能提升。两相比较，除非不差钱，我们推荐使用V100。实证小结 1.AlphaFold2是一个系统，涉及到很多数据库和不同软件，我们的Workflow全流程自动化，让用户可以随心组合，轻松上手蛋白质结构预测；2.我们用磁盘空间换时间的手段，既解决了TB级数据带来的I/O瓶颈问题，也为大规模并发计算扫清了技术障碍；3.fastone可支持多个AlphaFold2任务大规模自动并行；4.GPU也需要选型，我们推荐V100。本次生信实证系列Vol.15就到这里。关于fastone云平台在各种BIO应用上的表现，可以点击以下应用名称查看：Vina │ Amber │ MOE │ LeDock速石科技新药研发行业白皮书，可以戳下方查看：新药研发37问 │ 顶尖药企AIDD调研 - END -来源：速石科技