中科曙光发布Token加速技术体系
摘要:近日,中科曙光发布scaleFabric Token加速技术体系。该体系以scaleFabric原生无损RDMA(远程直接内存访问)高速网络为核心,通过计算、存储与网络协同,减少数据传输和读取过程中的等待,提升大模型运行效率。其中,支持GPU直接发起网络通信的IBGDA技术,已在十万卡级集群中完成验证,实现国内首次规模化落地。(证券时报)...
近日,中科曙光发布scaleFabric Token加速技术体系。
该体系以scaleFabric原生无损RDMA(远程直接内存访问)高速网络为核心,通过计算、存储与网络协同,减少数据传输和读取过程中的等待,提升大模型运行效率。
其中,支持GPU直接发起网络通信的IBGDA技术,已在十万卡级集群中完成验证,实现国内首次规模化落地。
免责声明:本文由公众财经网采集整理,内容来源于公开信息,仅供参考,不构成投资建议。如有侵权或错误,请联系删除。