人工智慧產業正邁入全新發展階段。過去幾年，市場對 AI 的關注主要聚焦於運算能力的提升。隨著大型語言模型的快速發展，GPU 已成為 AI 基礎設施中最受矚目的關鍵環節。企業透過採購更多 AI 加速晶片，建置更大規模的資料中心，以滿足模型訓練與推論的需求。
在這個階段，市場競爭邏輯相當明確：誰擁有更多、更強大的 AI 晶片，誰就能取得更強的運算能力。然而，隨著 AI 模型規模不斷擴大，這種競爭模式正逐漸轉變。當 AI 資料中心從數百顆 GPU 擴展到數千甚至數萬顆 GPU 時，全新問題開始浮現。大量運算晶片需同時運作，而晶片間的資料交換速度、網路連線效率及通訊延遲，正影響整體系統效能。AI 資料中心的挑戰已不再只是「晶片越多越好」，而是如何讓大量晶片高效協同運作。這意味著 AI 基礎設施的競爭，正從單一晶片競爭，邁向系統級競爭。
未來 AI 資料中心的核心能力，不僅取決於 GPU 的效能，也取決於運算、儲存與網路之間能否形成高效率的協同。高速互連，正成為 AI 基礎設施的新關鍵。
為什麼 GPU 數量增加後，網路成為新瓶頸
AI 模型訓練與傳統運算任務有明顯差異。傳統伺服器多半處理相對獨立的任務，而 AI 模型訓練則需大量運算節點協同完成。一個大型 AI 模型可能需數千顆 GPU 同步運作，這些 GPU 之間必須不斷交換資料。
舉例來說，在訓練大型語言模型時，不同 GPU 需同步模型參數、共享運算結果。若網路連線速度不足，即使 GPU 本身運算效能再強，也可能因等待資料傳輸而降低使用率。
因此，AI 資料中心內部形成了一條全新的效能鏈：
- AI 晶片負責運算；
- HBM 提供高速資料存取；
- 網路系統負責連接不同運算節點。
只要其中任一環節受限，都會影響整體效率。過去，市場多關注 GPU 數量成長，但隨著 AI 集群規模擴大，網路正成為決定 AI 資料中心效能的關鍵因素。這也是為何近年高速交換晶片、光通訊及資料中心網路架構備受矚目的原因。
高速互連如何支撐下一代 AI 基礎設施
高速互連的核心目標，是讓不同運算單元之間能高速交換資料。在 AI 資料中心中，互連技術涵蓋多個層級，包括：
- 伺服器內部連線；
- 伺服器之間連線；
- 資料中心內部網路；
- 不同資料中心間的資料傳輸。
隨著 AI 模型日益複雜，資料傳輸需求持續攀升，傳統網路架構正面臨壓力。未來 AI 資料中心將需要更高頻寬、更低延遲及更高穩定性的網路系統。
高速互連的重要性主要體現在三個層面：
能提升 GPU 使用率。若網路速度無法跟上運算速度，大量運算資源可能處於等待狀態。
能支援更大規模 AI 集群。隨著模型規模擴大，企業需部署更多運算節點，而高效網路是大規模協同的基礎。
高速互連有助降低資料中心營運成本。更高效率的資料傳輸意味著資源浪費更少，也有助於降低整體能源消耗。
因此，高速互連正從輔助基礎設施，逐步成為 AI 資料中心的核心組成。
光通訊為何成為 AI 網路升級的重要方向
隨著 AI 資料中心規模擴大，傳統銅線連接技術正面臨挑戰。銅線連接雖然成本較低，但在高速、大規模資料傳輸場景下有其限制。例如，當資料傳輸距離拉長時，訊號損耗與能源消耗都會提高。相較之下，光通訊具備更高頻寬、更低延遲及更適合遠距離傳輸的特性。因此，光通訊正成為 AI 資料中心升級的重要方向。
未來 AI 資料中心對光通訊的需求主要來自幾個層面：
GPU 集群規模擴大，需要更高速的資料交換。
資料中心內部連線數量增加，需要更高效的網路架構。
AI 推論應用成長，需要更穩定且低延遲的資料傳輸能力。
這推動市場關注光模組、光互連及相關技術企業。過去光通訊多被視為傳統通訊基礎設施的一環，而 AI 的發展正賦予這一領域全新的成長動能。
交換晶片成為 AI 網路核心組件
除了光通訊外，交換晶片也是 AI 網路的重要組成。若說 GPU 負責運算，交換晶片則負責管理不同運算節點間的資料流動。大型 AI 集群需大量 GPU 協同運作，而交換晶片決定這些設備如何連接、如何分配資料以及如何提升通訊效率。
因此，AI 資料中心的發展正帶動交換晶片需求成長。目前，Broadcom 等企業在網路 ASIC 與交換晶片領域擁有強大市場地位。同時，Marvell 也透過資料中心網路晶片、光互連及客製化 ASIC 等方向，積極布局 AI 基礎設施市場。
未來 AI 網路競爭可能形成新的產業分工：
NVIDIA 提供 AI 運算能力；
HBM 企業提供高速儲存；
Broadcom、Marvell 等企業提供網路連接能力。AI 資料中心不再只是單一晶片企業的競爭，而是完整基礎設施生態體系的競爭。
Broadcom、Marvell 等企業如何布局 AI 網路市場
隨著 AI 資料中心需求增加，網路基礎設施企業正獲得更多市場關注。Broadcom 的優勢主要集中在網路 ASIC、交換晶片及資料中心連接領域。隨著 AI 集群規模擴大，高效能交換網路的重要性不斷提升，公司相關業務備受市場矚目。Marvell 則更聚焦於資料基礎設施晶片，包括資料中心網路、光互連及客製化 ASIC 解決方案。隨著 AI 應用從訓練階段擴展到推論階段，資料傳輸需求可能進一步提升，這為網路基礎設施企業帶來全新成長空間。
不過，需要注意的是，AI 網路市場競爭同樣激烈。
企業需面對：
- 技術升級速度加快；
- 客戶集中度高；
- AI 資本支出變動；
- 競爭企業持續投入。
未來能取得長期優勢的企業，不僅需要技術實力，也需穩定的供應鏈與客戶生態。
AI 資料中心基礎設施未來發展方向
AI 資料中心的未來發展，將不再只是單純增加 GPU 數量，而是圍繞整體系統效率優化展開。
高速互連需求將持續成長。隨著 AI 模型規模擴大、運算節點數量增加，網路效能的重要性將進一步提升。
資料中心架構將更趨複雜。未來 AI 資料中心可能同時包含 GPU、ASIC、儲存設備及不同類型運算資源，需更靈活的網路體系支援。
能源效率成為關鍵指標。AI 資料中心功耗持續攀升，如何透過更高效的運算與通訊降低能源消耗，將成為企業競爭的重要方向。
因此，AI 基礎設施未來的發展，將從單純追求算力規模，轉向整體效率最佳化。
高速互連正是這一轉變中的關鍵環節。
AI 網路產業鏈有哪些機會
隨著高速互連成為 AI 資料中心的重要需求，相關產業鏈正加速擴展。
光通訊領域：AI 資料中心對高速光模組與光互連方案需求提升，相關企業有望受惠於產業升級。
網路晶片領域：交換晶片、資料中心 ASIC 等產品將承擔更多資料調度任務。
伺服器與系統製造領域：AI 伺服器需更複雜的網路設計與硬體整合能力，帶動製造環節升級。
半導體設備與製造領域：高速互連晶片同樣仰賴先進製程技術，產業升級將帶動相關供應鏈需求。
未來 AI 投資機會，將不再侷限於單一晶片，而是擴散至整體基礎設施體系。
AI 高速互連面臨哪些挑戰
雖然高速互連已成為 AI 資料中心的重要方向，但產業仍面臨多重挑戰。
技術競爭。AI 網路技術發展迅速，企業需持續投入研發，以因應不斷提升的資料傳輸需求。
成本壓力。高速光通訊、先進交換晶片及資料中心升級都需龐大資本投入。
AI 需求變動。若未來 AI 資料中心建置速度低於預期，相關基礎設施投資也可能受到影響。
此外，不同技術路線間的競爭也可能影響產業發展，例如光通訊、銅線連接及其他新型互連技術未來或將出現不同應用場景。
因此，高速互連雖具長期發展潛力，但仍需密切關注產業變化。
Gate 股票交易如何關注 AI 基礎設施產業鏈
隨著 AI 產業鏈不斷擴展，投資人關注焦點正從 GPU 領導企業，延伸至網路、光通訊、儲存及資料中心基礎設施等多元領域。
Gate 股票交易支援美股、港股與韓股 7 × 24 小時交易，讓用戶能更靈活掌握全球 AI 基礎設施市場動態。從 AI 晶片企業，到高速互連、網路設備及半導體供應鏈公司，市場參與者可依據產業趨勢觀察不同領域的發展機會。
AI 時代的競爭，正從單點技術競爭，轉向完整生態體系的競爭。高速互連作為連接運算資源的關鍵基礎設施，也正成為 AI 資料中心發展的核心組成。
總結：AI 下一階段競爭，可能是連接能力的競爭
AI 產業正進入全新階段。過去市場競爭重點在於運算能力，未來則將更關注整體系統效率。
GPU 決定算力基礎，HBM 提供資料支援，而高速互連則讓大量運算資源高效協同。隨著 AI 資料中心規模持續擴大，網路連接能力的重要性正不斷提升。未來 AI 產業鏈的價值分布，將不再集中於單一晶片環節，而是擴展至儲存、網路、製造及基礎設施等多元領域。
高速互連，正是 AI 資料中心邁向下一階段的關鍵基石。
FAQs
Q1：為什麼 AI 資料中心需要高速互連？
因為大型 AI 模型需要大量 GPU 協同運算，高速互連能降低通訊延遲，提升整體運算效率。
Q2：高速互連主要包括哪些技術？
主要涵蓋光通訊、光模組、高速交換晶片及資料中心網路架構。
Q3：Broadcom 和 Marvell 在 AI 網路中有什麼作用？
兩家公司主要布局資料中心網路晶片、交換晶片及相關基礎設施解決方案。
Q4：AI 發展為什麼會推動光通訊需求成長？
隨著 GPU 集群規模擴大，資料傳輸需求增加，傳統連接方式難以滿足 AI 資料中心需求。
Q5：AI 基礎設施未來還有哪些方向值得關注？
除了高速互連，還包括 HBM 儲存、先進封裝、伺服器製造、電力供應及半導體設備等領域。
