城市治理大模型落地面臨復雜挑戰
 

　　近年來，國家及地方政府不斷推出各類政策，積極加速城市治理大模型建設的進程。然而，在探索大模型的落地與實際應用中，卻面臨不少現實挑戰：
 

　　? 當前算力資源仍難以獲取，現有的政務云算力以通用算力為主，無法滿足大模型訓練和推理所需的多元算力資源需求。
 

　　? 項目實施交付復雜，大模型作為新興技術部署流程繁瑣，實施人員難以應對。
 

　　? 適配調優耗時耗力，實際部署中需要花費大量的時間和資源來進行硬件與算法的兼容性適配，還要針對硬件特點做特定調優。
 

　　? 難以橫向擴展，隨著業務量增長或者基座模型參數量的變化，算力需求增加，算力平滑擴容成為亟需解決的問題。
 

　　城市治理大模型一體機解決方案
 

　　面對上述挑戰，新華三集團憑借深厚的技術積淀，與數字政通聯合推出了面向政府數字化轉型典型場景的大模型一體機解決方案。該方案可以幫助用戶快速部署 “開箱即用”的政務私域大模型，助力客戶實現智能化轉型。
 

　　該方案采用新華三全國產大模型訓推旗艦H3C UniServer R5330 G7作為智能算力底座，內置數字政通人和大模型，經過多輪次嚴格測試與優化，針對“12345熱線平臺的工單處置流程自動化”和“行政執法平臺的案件智能評查”這兩個場景的私域數據微調后處理準確度達85%以上，應用推理精度達90%以上。
 

　　人和大模型是數字政通從“網格化”到“一網統管”發展過程中，專注城市治理行業應用，立足全國多個項目沉淀的業務和數據基礎，全面擁抱生成式人工智能技術趨勢而發布的AI大模型產品；該模型基于通用大模型底座，結合城市治理行業經驗和專業知識進行微調，打造更符合行業需求的應用新范式，具備專業的知識問答、語言理解、文本處理、邏輯推理等能力；同時，通過持續學習和優化，不斷提升專業領域的場景應用效果，解決民生訴求、法治政府、城市管理、基層治理、城市運營等行業場景的痛點問題，做城市治理的業務專家。
 

　　本次推出的城市治理大模型一體機解決方案基于新華三全國產大模型訓推旗艦H3C UniServer R5330 G7打造而成，支持業界領先的GPU，可同時搭載8塊雙寬GPU，提供多種靈活的GPU拓撲架構，擁有廣泛的模型兼容性，兼容超過200個主流AI模型，涵蓋計算機視覺、自然語言處理等多個領域。
 

　　? R5330 G7預置訓練框架、模型文件，節省了從零開始搭建環境的時間和成本，提升大模型應用效率
 

　　? 硬件與算法的緊密集成，使得系統在性能、穩定性和兼容性方面得到優化，減少了用戶在配置和維護上的復雜性
 

　　? 采用2顆高性能國產處理器，搭配國產PCIe加速卡，構建自主私域一體機
 

　　新華三攜手數字政通打造的城市治理大模型一體機解決方案，以創新技術賦能城市治理，不僅是大模型與創新技術的完美結合，更是為數字中國的建設注入了新動力。面向未來，新華三集團將秉持“精耕務實，為時代賦智慧”的理念，不斷攜手更多合作伙伴，賦能百行百業數字化變革。