當前位置:首頁 >  科技 >  IT業(yè)界 >  正文

青云科技發(fā)布AI智算平臺2.0,落地多地多中心運營運維

 2024-07-29 17:38  來源: 互聯(lián)網(wǎng)   我來投稿 撤稿糾錯

  域名預訂/競價,好“米”不錯過

青云AI 智算平臺打造算力中心建設的新模式,像管理本地資源一樣管理 AI 基礎設施,對 AI 算力進行動態(tài)監(jiān)控調整,以滿足不同業(yè)務的需求,提高 AI 算力的整體使用效率和管理效率。日前,青云科技(qingcloud.com)發(fā)布的AI智算平臺2.0 新版本,全面擁抱云原生,實現(xiàn)從 AI 基礎設施到 AI 開發(fā)訓練推理的全流程高效管理。

功能升級,重塑算力管理體驗

青云AI智算平臺2.0通過統(tǒng)一的集群管理,實現(xiàn)對 NVIDIA、國產(chǎn) GPU 等多種異構算力的高效調度。無論是高速 IB、RoCE 網(wǎng)絡建設,還是并行文件存儲集群管理,平臺均能提供從物理機到容器的全方位管理。新版平臺支持共享 GPU、單卡、多卡、多節(jié)點的算力調度,用戶可根據(jù)實際業(yè)務需求按需申請使用,極大地提高了算力資源的使用效率。

新增節(jié)點監(jiān)控、任務監(jiān)控、容器組監(jiān)控、高速網(wǎng)絡監(jiān)控和 GPU 監(jiān)控等功能,青云AI智算平臺2.0提供從硬件故障處理到資源使用情況的全方位監(jiān)控,及時發(fā)現(xiàn)并解決潛在問題。同時,可視化的自定義告警配置支持郵件、企微、webhook等多種通知渠道,確保用戶隨時掌握 AI 基礎設施的運行狀態(tài)。

在算力調度的基礎上,青云AI智算平臺2.0支持自定義鏡像倉庫,同時內(nèi)置 TensorFlow、PyTorch、MPI、DeepSpeed 等常用計算框架,支持一鍵創(chuàng)建開發(fā)機、分布式任務,自動掛載并行文件存儲等常用 AI 業(yè)務流程。用戶只需上傳代碼,即可快速啟動多機多節(jié)點的分布式訓練,系統(tǒng)將自動調度到可用 GPU 進行計算,任務完成后自動釋放資源。

借助青云公有云和AI算力云的運營經(jīng)驗,青云AI智算平臺2.0平臺提供規(guī)格定價、在線充值、購買產(chǎn)品的全流程自服務管理,減少運營的技術人員、管理人員投入,同時減少客戶試用溝通和準備環(huán)境的時間,加快算力中心資源售賣,提升資源運營效率。

解決多地多中心運營運維難題

青云近期在某國企構建多地多中心的大規(guī)模智算基礎設施項目里,充分發(fā)揮了AI智算平臺2.0在資源統(tǒng)一管理、按需調度及高效運維方面的卓越能力。

該大規(guī)模智算基礎設施項目初步計劃在跨省的多地建設智算中心并統(tǒng)一對外運營。面對多點布局的復雜挑戰(zhàn),青云AI智算平臺2.0憑借其領先的資源管理技術,實現(xiàn)了對CPU、GPU、HPC算力、多元化存儲系統(tǒng)等資源的全面整合,將各種異構服務器、存儲、網(wǎng)絡設備統(tǒng)一納入管理范圍,實現(xiàn)了資源的無縫對接與智能調度,編織出一張高效協(xié)同的算力資源網(wǎng)。

青云AI智算平臺2.0通過標準化、流程化的運維管理,大幅降低了運營成本,提升了整體效率。平臺不僅提供了資源的規(guī)范化、可視化管理,還支持多租戶模式下的精準資源分配,以及包括計量計費、客戶管理在內(nèi)的全套服務運營功能,為該大規(guī)模智算基礎設施項目搭建起跨地域的統(tǒng)一運維體系。

在青云AI智算平臺2.0的加持下,該大規(guī)模智算基礎設施項目不僅關注資源調度與運維,更注重應用的落地與技術的開放兼容。平臺的分布式調度與管理能力,加之開放的應用框架和模型服務,為算法開發(fā)到模型部署的全流程提供了堅實支撐,加速了從創(chuàng)新想法到產(chǎn)品實現(xiàn)的轉化過程。

目前該大規(guī)模智算基礎設施項目的部分智算中心已經(jīng)建設完成。各地智算中心都將作為Sub Zone(可用區(qū)),通過Global Zone(全局區(qū)域)對外提供通用算力、高性能算力及智能算力,將為最終用戶提供了資源豐富、按需擴展、智能調度的資源環(huán)境,降低算力資源使用成本的同時,極大提升創(chuàng)新效率。

借助青云 AI 智算平臺 2.0,企業(yè)可以輕松應對 AI 算力建設與運營的挑戰(zhàn),實現(xiàn)高效、靈活的 AI 算力管理,降低成本,提高競爭力。

申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!

相關文章

熱門排行

信息推薦