金山云全面晉級智算服務體系 助力大模型應用加速落地

升級內容

• 基礎云升級：通過整合軟硬一體化能力，對計算、存儲、網絡進行全面升級，構建高性能基礎設施。這為智算云的發(fā)展奠定了堅實基礎，能夠更好地滿足大模型對算力、存儲和網絡的高要求，確保大模型訓練和運行過程中的高效穩(wěn)定。
• 智算網優(yōu)化：不僅提供多種組網架構，還自研了 RoCE 網絡監(jiān)控平臺，為運維人員提供全面且直觀的網絡視圖，并通過算力平臺幫助其更加合理地分配和利用資源，提升了客戶業(yè)務的連續(xù)性和便捷性。
• 智算平臺建設：涵蓋數據平臺、訓練平臺、推理平臺和存儲平臺，為大模型客戶提供穩(wěn)定、易用的平臺，保障其持續(xù)運行時間和性能。同時，研發(fā)并發(fā)布了包括 Serverless Spark 在內的多款 Serverless 形態(tài)數據類產品，其中 Serverless Spark 在 AIGC 客戶數據清洗場景中表現(xiàn)出色，得到了眾多頭部通用人工智能公司的認可。
• 行業(yè)模型構建：以輕舟行業(yè)大模型為核心，構建了從平臺、模型到應用的全棧能力。發(fā)布了 qzhou 系列多尺寸行業(yè)基座模型，包括 13B、32B 和 70B 等版本，這些模型在多個權威標準評測集上表現(xiàn)出色。還針對政務、法律和金融等場景推出了專用模型，并已成功落地。

助力大模型應用加速落地的方式

• 提供高性能基礎設施：大模型訓練和運行需要強大的計算、存儲和網絡支持。金山云升級后的基礎云提供了高性能基礎設施，滿足了大模型對資源的高需求，保障大模型能夠快速、穩(wěn)定地進行訓練和推理，減少因基礎設施性能不足導致的訓練時間過長或故障中斷等問題。
• 優(yōu)化智算網：自研的 RoCE 網絡監(jiān)控平臺可以實時監(jiān)控網絡狀態(tài)，及時發(fā)現(xiàn)和解決網絡擁塞、延遲高等問題，確保數據在各個節(jié)點之間的快速、高效傳輸。多種組網架構和算力平臺能夠根據大模型的需求靈活分配資源，提高資源利用率，進一步提升大模型的訓練和運行效率。
• 提供 Serverless 形態(tài)數據類產品：Serverless Spark 等產品可以幫助大模型客戶更高效地處理數據，尤其是在數據清洗等場景中表現(xiàn)突出，大大減少了數據預處理的時間和工作量，使大模型能夠更快地進入訓練階段，加速大模型應用的落地。
• 構建行業(yè)模型全棧能力：qzhou 系列行業(yè)基座模型和針對不同場景的專用模型，為各行業(yè)大模型應用提供了精準的模型基礎，減少了企業(yè)從頭訓練模型的時間和成本。這些模型在權威評測集上的出色表現(xiàn)，也證明了其在實際應用中的可靠性和有效性，能夠助力各行業(yè)客戶快速構建和部署大模型應用，實現(xiàn)智能化轉型。
• 提供一站式開發(fā)及應用平臺：一站式瀚海大模型開發(fā)及應用平臺涵蓋了智能對話、內容創(chuàng)作等多個場景，支持零代碼 / 低代碼開發(fā)，降低了人工智能應用搭建的門檻，使企業(yè)和開發(fā)者能夠更快速地開發(fā)和部署大模型應用。同時，瀚海訓練平臺為大模型大規(guī)模分布式訓練提供了穩(wěn)定、易用和極致性能的深度學習訓練環(huán)境，進一步加速了大模型應用的落地。同時，金山云還將聯(lián)合信永中和專業(yè)領域專家，利用領域專家知識與數據，持續(xù)迭代優(yōu)化包括審計與合規(guī)領域在內的領域大模型，并快速構建行業(yè)人工智能原生應用、賦能千行百業(yè)。