VT-Transformer 开源计算框架

整体替代Python/CUDA套娃 加速提升国产算力的可用性

VT-Transfomer 开源计算框架

训练成本下降5倍


云锦微的开源一体化C++计算框架VT-Transformer,可完整替代NVIDIA CUDA/PYTHON计算框架,用于适配低资源国产算力芯片平台,包括爱芯元智,寒武纪,海光等。提供从8T到200T的大小模型国产训推一体机与边缘智能体产品,以1/3 NVIDIA算力产品价格交付同等大小模型适配性能,并为企业AI开发者提供开源预训练模型与计算框架代码,工具,降低企业AI开发者的进入成本。


Github开源网址:https://github.com/viitrix/vt-transformer

VT-Transfomer 技术架构

VT-Transformer 一体化C++开源计算框架及VT-PRT并行计算框架致力于解决AI infra的基础开发建设的可用,易用及便捷性,已实现NVIDIA PYTHON/CUDA替代,可大幅降低训练成本,提升推理性能,使主流开源模型可适配国产低资源算力。


VT-Transfomer 技术优势

云锦微边缘计算人工智能平台