去年以來，以ChatGPT為代表的大模型迅速紅遍全球，展現出變革經濟社會的巨大潛能。全球主流科技公司紛紛參與其中，推動智能算力需求高速增長。華為公司去年曾預測，到2025年，智能算力需求將增長100倍。

與之相呼應的，是蓬勃興起的智算中心。從政策面看，我國2022年全面啟動“東數西算”工程建設，在京津冀、長三角、粵港澳大灣區、成渝、內蒙古、貴州、甘肅、寧夏建設8個國家算力樞紐，并規劃了10個國家數據中心集群。從產業來看，運營商資本開支重心正在向算力偏移，并大規模采購智算設備。

智算中心的未來將如何演變？構建跨數據中心的AI訓練集群是其中一個重要研究方向， “Region Scale Al”，已經成為業界關注的熱點話題。

ODCC（開放數據中心委員會）攜手華為公司，在2024年3月28日召開的ODCC春季全會-新技術與測試工作組會議上提出了“Region Scale AI”研究項目。華為2012網絡技術實驗室專家李映輝做了《Region Scale AI 場景與挑戰》主題報告，介紹了AI大模型訓練對算力需求不斷增加的背景下，多數據中心聯合訓練的發展趨勢與業界實踐，深入分析了該場景下面臨的組網和通信挑戰，通過現網實驗數據初步論證了AI集群跨AZ、跨Region聯合訓練的可行性，并給出了“Region Scale AI”研究項目的工作計劃。李映輝因為此項目立項，榮獲ODCC2024年春季全會MVP演講嘉賓稱號。

報告中，還介紹了該場景下的創新技術探索和研究工作，包括跨AZ的模型切分算法、集合通信算法，以及如何在長距網絡上實現高吞吐傳輸、高性能加解密協議等等。同時指出，隨著AI模型的增大以及芯片算力的增強，未來跨AZ訓練對網絡帶寬的需求還會進一步增長，需要進一步考慮DCN和DCI網絡架構的演進。

單集群AI訓練存在極限，跨DC AI訓練成趨勢

業內人士都能感受到AI大模型發展的加速度。主流科技公司正在盡可能快地開發大模型并迭代新版本，以期在這個全新的產業中占據先機。大模型的訓練參數在過去5年增長百倍，已經達到萬億級，預計未來5年參數將再增長百倍，達到百萬億量級！

智算能力也隨之快速升級，目前單一數據中心已經達到萬卡集群規模，以盡力滿足幾乎永無止境的AI計算需求。公開消息顯示，華為昇騰AI集群2023年升級為萬卡AI集群；螞蟻基礎大模型已具備萬卡AI集群；中國電信宣布推出了首個國產單池萬卡液冷算力集群。

AI集群是通過將多個計算機節點連接起來，形成協同工作的計算環境，從而為人工智能應用提供強大的計算能力和數據處理能力。據了解，其技術門檻隨著訓練量快速增長而不斷抬高，絕非簡單的算力設備堆砌。僅有少數幾家廠商能夠提供萬卡AI集群，面對大模型參數的指數級增長，壓力巨大。

然而，任何具體事物都存在極限，算力集群同樣如此。單一AI集群不可能無限制擴張，會受到電力供應等因素影響，比如一些公司甚至考慮將數據中心建設在核電站附近。預計今后一個十萬卡級別的AI集群，需要上百MW的電力供應。跨數據中心AI訓練可以有效解決單集群供電不足問題，引起業界廣泛關注。

此外，云計算有峰谷效應，單集群算力面臨部署碎片化問題，難以承載云上大規模AI訓練業務，導致資源利用率下降。采用多個數據中心組成的跨AZ、跨Region AI訓練集群，可有效支撐十萬卡甚至百萬卡級別的訓練任務，同時提高資源利用率，將是智算產業發展和探索的重要方向。

業界大型科技公司紛紛啟動跨DC訓練技術研究

面向云上AI資源碎片化問題，微軟提出了“Singularity”框架，Planet-scale可搶占、可遷移、可彈性伸縮的AI任務調度。該框架可實現資源調度高彈性和可遷移性，增加云上AI資源利用率，但缺乏關注跨集群的訓練性能。面向公有云AI訓練網絡異構問題，AWS提出了MiCS方案，能夠充分利用異構網絡帶寬，通過減少較慢鏈路上的網絡流量，攤銷昂貴的全局梯度同步開銷。為了解決AI訓練集群造價昂貴問題，Meta提出去中心化異構訓練。利用分布式、異構和低帶寬互聯的AI訓練資源來訓練基礎大模型，降低訓練成本。

Region Scale AI研究計劃啟動，已制定進度表

華為云技術專家楊永強近日在交流中向SDNLAB表示，數字經濟是根本，東數西算是實施的第一步，華為云大力支持國家的東數西算戰略，積極布局Regionless等技術創新，其中東數西訓自不必說，而跨AZ、跨Region、線上線下跨集群的AI訓練等高階訴求也日益顯現。參數交換會大幅提升跨Region的數據流量，弱網長距下的Regionless確定性高速傳輸需求迫切，有機會打造成東數西算的 “特高壓”。

“Region Scale AI研究”項目旨在通過跨數據中心聯合訓練，突破單集群建設限制，靈活高效利用算力資源。未來幾個月，ODCC將與業界針對Region Scale AI面臨的技術挑戰展開具體研究，探索技術方向，期望在年內形成研究成果，并在9月份ODDC年度大會進行成果發布。

數字經濟時代，算力就是生產力。尤其是智能算力，在復雜的國際政經形勢下，能否取得突破，關系到新型數字技術的產業競爭力。ODCC跨AZ訓練立項已經走出了第一步，探索智算產業的發展路徑。未來華為公司會繼續在產業界開展分布式AI訓練的聯合創新、認證測試、標準制定等系列工作，也愿意與業界伙伴一起，賦能我國數字經濟產業的高質量發展。