400-089-1870

神州鲲泰基于银河麒麟操作系统的GenAI平台一体机解决方案

方案背景

Programme background


人工智能技术的发展如火如荼,AI大模型的颠覆式创新应用让消费市场应接不暇,承包了科技圈的大部分热点。但与之相对,企业市场对于生成式AI的落地探索仍然在路上。每一个企业用户都意味着一个独立的差异化细分市场和行业场景,而通用大模型往往需要大量的训练才能从“通才”变为“专才”,从而在企业实际业务场景中发挥价值和优势。而对于那些对数据保密性要求较高的企业而言,如何将自身的核心数据资产安全“训练”成所需的大模型能力,并在实际业务场景中真正得到应用,是更为谨慎的思考。

技术路线

Technical route


芯片架构:鲲鹏CPU、昇腾NPU 

整机硬件:神州鲲泰KunTai A924训练型/推理型AI服务器)

操作系统:银河麒麟高级服务器操作系统V10

基础软件:Milvus向量数据库,Kafka,Minio,Redis

应用软件:神州问学AI PaaS云原生集成平台

方案架构

Scheme architecture


方案优势

Solution advantage


方案基于银河麒麟高级服务器操作系统V10,为业务应用平台提供全方位的安全保护,具备自主创新、安全精简、稳定高效等特点

基于鲲鹏+昇腾打造,满足自主创新部署需求

软硬一体交付,私域算力开箱即用,一键部署,训练推理无缝切换 

40+业界主流大模型覆盖,开发应用灵活选择,支持多个大模型并行训练推理 

内置标准化AI应用开发框架、多行业语料数据集、多类型向量数据库、AI应用低代码开发平台和RAG、Agent等多种能力

应用场景

Application scenarios


本方案搭载一站式 AI 应用集成平台,在企业应用落地时,提供算力、模型、数据、应用开发等功能,为平台化运营提供支撑。构建适合自身的应用以适应特定的业务流、数据流。可在众多场景使用,例如智能问答、文档解析、内容生成、Agent智能体任务等。


成功案例

Success case


案例名称:某500强医药企业循证医学+医药代表培训案例

建设内容:利用Agent和RAG的开放范式,结合大模型AI应用,帮助医药代表全面提升医学文献的阅读和学习效率训练生成智能培训机器人,校验话术,模拟询证,高效提升医药代表的专业应答能力。

案例价值:

显著提升循证速度阅读效率培训质量;

提供全栈自主创新软硬件整合与部署方案,有效保护企业数据和模型安全,满足监管需求,帮助实现业务创新和价值飞跃。

案例名称:某省级人社厅数字柜员案例

建设内容:通过AI的大模型赋能, 在线下大厅和线上提供数字人的咨询能力, 建立常规问题智能柜员,利用大语言模型+RAG技术和自有知识库训练,进行语音互动对话,实践业务自动化和智能辅助服务;

案例价值:基于全栈自主创新的鲲泰算力底座银河麒麟操作系统,显著提升总体业务量和应答次数,解决经常性需要长时间咨询后再办业务的周期问题, 改造业务流程, 提升咨询效率, 减少用户排队时间, 同时节省咨询的人力资源