连接大模型到设备
云锦OS多模态AI操作系统
连接大模型到设备,为具身智能提供计算底座与服务
云锦OS通过小型化C++计算框架VT-Transfomer及配套的VT-Apps工具链把云端大模型的黑盒转化为具身智能要求的白盒,包括AI计算的小型化、透明化与国产化,建立连接大模型能力与工业AI应用之间的计算与服务平台,提供的产品与解决方案包括算力底座,小型化C++开源计算框架,预训练模型与VT-Apps工具链。
不同于其他的计算架构,云锦OS是面向应用的异构分布式计算,一个应用适配一个独占的模型与算力芯片,VT-Transformer计算框架通过高速连接器vt-xCCL实现模型到算力的传输与连接,包括视频解码模型独占专用视频计算卡,视觉计算模型独占视觉计算卡,大小尺寸LLM模型各自利用大小算力的加速卡,从而实现单卡100%计算利用率与极致成本。 小型化,国产化,透明化的产品与交易模式提供了低成本的AI计算解决方案,让客户可以以当前市场1/3的价格就可以开始他们的AI工业化应用。
异构算力+多模态AI计算平台+混合模型+行业应用软件
混合模型(M) <-> 异构算力(N)
小型化+工具化+开源化 = AI总拥有成本降低10倍