智慧城市网

 

　　城市治理大模型落地面临复杂挑战
 

　　近年来，国家及地方政府不断推出各类政策，积极加速城市治理大模型建设的进程。然而，在探索大模型的落地与实际应用中，却面临不少现实挑战：
 

　　◉ 当前算力资源仍难以获取，现有的政务云算力以通用算力为主，无法满足大模型训练和推理所需的多元算力资源需求。
 

　　◉ 项目实施交付复杂，大模型作为新兴技术部署流程繁琐，实施人员难以应对。
 

　　◉ 适配调优耗时耗力，实际部署中需要花费大量的时间和资源来进行硬件与算法的兼容性适配，还要针对硬件特点做特定调优。
 

　　◉ 难以横向扩展，随着业务量增长或者基座模型参数量的变化，算力需求增加，算力平滑扩容成为亟需解决的问题。
 

　　城市治理大模型一体机解决方案
 

　　面对上述挑战，新华三集团凭借深厚的技术积淀，与数字政通联合推出了面向政府数字化转型典型场景的大模型一体机解决方案。该方案可以帮助用户快速部署 “开箱即用”的政务私域大模型，助力客户实现智能化转型。
 

　　该方案采用新华三全国产大模型训推旗舰H3C UniServer R5330 G7作为智能算力底座，内置数字政通人和大模型，经过多轮次严格测试与优化，针对“12345热线平台的工单处置流程自动化”和“行政执法平台的案件智能评查”这两个场景的私域数据微调后处理准确度达85%以上，应用推理精度达90%以上。
 

　　人和大模型是数字政通从“网格化”到“一网统管”发展过程中，专注城市治理行业应用，立足全国多个项目沉淀的业务和数据基础，全面拥抱生成式人工智能技术趋势而发布的AI大模型产品；该模型基于通用大模型底座，结合城市治理行业经验和专业知识进行微调，打造更符合行业需求的应用新范式，具备专业的知识问答、语言理解、文本处理、逻辑推理等能力；同时，通过持续学习和优化，不断提升专业领域的场景应用效果，解决民生诉求、法治政府、城市管理、基层治理、城市运营等行业场景的痛点问题，做城市治理的业务专家。
 

　　本次推出的城市治理大模型一体机解决方案基于新华三全国产大模型训推旗舰H3C UniServer R5330 G7打造而成，支持业界领先的GPU，可同时搭载8块双宽GPU，提供多种灵活的GPU拓扑架构，拥有广泛的模型兼容性，兼容超过200个主流AI模型，涵盖计算机视觉、自然语言处理等多个领域。
 

　　◉ R5330 G7预置训练框架、模型文件，节省了从零开始搭建环境的时间和成本，提升大模型应用效率
 

　　◉ 硬件与算法的紧密集成，使得系统在性能、稳定性和兼容性方面得到优化，减少了用户在配置和维护上的复杂性
 

　　◉ 采用2颗高性能国产处理器，搭配国产PCIe加速卡，构建自主私域一体机
 

　　新华三携手数字政通打造的城市治理大模型一体机解决方案，以创新技术赋能城市治理，不仅是大模型与创新技术的完美结合，更是为数字中国的建设注入了新动力。面向未来，新华三集团将秉持“精耕务实，为时代赋智慧”的理念，不断携手更多合作伙伴，赋能百行百业数字化变革。