银河麒麟智算操作系统面向人工智能大模型训练与推理,通过兼容开放的架构实现对异构软硬件资源统一管理,提供统一的训练与推理框架,丰富的算子库和主流开发工具链支持,依托云化平台实现CPU/GPU/NPU等异构算力的智能调度与弹性扩展,为用户提供从模型开发到大规模部署的全流程支持,兼具安全创新、生态友好和能效优化特性,为AI产业化提供操作系统级基础支撑。
·
基于银河麒麟高级服务器操作系统;
·
通过中国信息安全测评中心的安全可靠测评、公安
部三所《GB 20272 操作系统安全技术要求》第四级测评。
· 英伟达+沐曦/天数,沐曦+天数的异构混合训练; · 集群级多机多卡拓扑感知调度; · 智算任务多维故障感知与自动容错。
· 优化后算子性能均达到或超过主流开源框架; · 国产平台上推理性能达到X86+A100平台75%以上; · 国产平台上综合训练性能达到X86+A100平台的70%以上。
· 支持ARM、C86、X86指令集架构; · 支持沐曦、天数、海光、英伟达等; · 统一算子库150+适配模型150+。
· 安全可信保障:支持国产化软硬件与本地化部署,全面满足金融机构对数据安全的严格要求。 · 专属模型支撑能力:具备金融行业专属大型模型的支撑能力,可广泛应用于金融风险控制等关键业务场景,确保模型与业务需求的高度契合。 · 性能优越:采用拓扑感知调度、线程与内存优化、算子优化与融合、通信性能优化等先进技术,实现性能的数倍提升,充分满足金融机构的业务需求。
· 安全可信保障:支持国产化软硬件与本地化部署,全面满足党政机关数据保密的严格要求。 · 智能公文处理:集成智能化公文写作、摘要提炼、总结归纳、语义校对、涉政内容审核等多项功能,能够自动检测并识别逻辑错误与表达偏差,有效提升公文处理的效率和合规性。 · 性能优越:对推理引擎、显存占用等方面进行了深入研究与优化,实现性能大幅提升,显著增强推理效率。
· 智能应答:支持文字、图片等多种交互方式,支持全天候7×24小时不间断服务响应。
· 知识体系接入:支持接入自主建设的知识库,确保库内内容实时性与有效性,进而提升问答准确性。支持网络检索功能,进一步提升问答体验。
· 性能优越:针对模型进行精细化调优,确保其与主流数据库良好兼容,全面支持向量化检索技术。
· 功能完善:覆盖代码生成、代码注释、代码翻译、代码调试、代码修复等多项功能,为软件开发提供全方位支持。 · 兼容良好:插件自主研发,全面兼容主流操作系统与集成开发环境。 · 性能优越:针对推理引擎vLLM进行精细化调优,显著提升MoE架构模型的推理性能,确保高效能输出。
支持国产X86、ARM CPU
支持国产沐曦、天数、摩尔、海光等AI芯片
支持长城、浪潮、曙光、天固信安、同泰怡、新华三
等国产AI服务器
支持国产AI开发平台和AI大模型服务平台
支持国产AI大模型的训练和推理