30th Anniversary

如何挑選AI伺服器電源供應器(PSU)?AI Server電源供應器解決方案

2023-10-04

隨著AI技術的迅速發展和普及,伺服器市場在最近幾年裡已經產生了巨大變化。在OpenAI推出ChatGPT後,帶起了語言模型、智能聊天機器人的風潮,而Chatgpt背後的運算是依賴強大的「AI Server(伺服器)」,從而讓AI伺服器市場開始受到重視。

 

AI伺服器是甚麼?

AI伺服器是一種特殊設計和優化過的伺服器,這些伺服器可能會有一或多個高效能的GPU(圖形處理單元)或專用AI加速器,如Google的Tensor Processing Units (TPU) 或 NVIDIA的AI加速卡等。這些硬體設備為AI應用提供了大量的並行處理能力。軟體也是AI伺服器的重要組成部分。這可能包括專為AI和機器學習工作負載優化的作業系統,以及支援AI框架(如TensorFlow,PyTorch等)的程式庫和工具。

 

為甚麼需要AI伺服器?AI伺服器應用

我們需要AI伺服器因為人工智慧(AI)的計算需求非常高。AI伺服器提供了專門優化的硬體與軟體以存儲和處理龐大數據,從而支援AI模型的訓練與運行。AI伺服器的應用範圍非常廣泛,如圖像和語音識別,自然語言處理,預測分析,個性化推薦系統,自動駕駛(影像辨識),醫療領域(智能診斷等)。

 

AI伺服器和一般伺服器差異

AI伺服器與一般伺服器的主要差異在於設計和使用的目的:一般伺服器主要用於存儲數據,執行應用程式,並提供網絡服務。設計上追求實現高效、高穩定性和可靠的數據存儲,對於資料的傳輸以及控制能力較強,但運算單元較少,因為運算速度較慢。

 

相反,AI伺服器大量提高運算單元的比重,是專門為運行機器學習和深度學習工作負載而設計的。並行處理數據能力對於訓練神經網絡模型,以及能否進行快速的矩陣乘法至關重要。總結來說,AI伺服器相較於一般的伺服器具有更強大的計算能力與更快的資料處理速度。高效處理數據能力意謂數據傳輸不會產生延遲。對於AR/VR來說,稍微延遲就會大大影響使用者體驗;對於自動駕駛而言,數據傳輸稍微延遲,或是計算速度不夠快可能會產生安全疑慮,是不容許偏差的。

 

AI伺服器優勢與展望

隨著VR/AR、超高畫質、自駕技術等新興技術的需求,現階段全球已處於流量爆炸時代。根據IDC 統計: 全球雲端資料量 由2013年4.4ZB到2023年>50ZB, 逾十倍成長。在全球雲端資料量的飛快成長下,AI伺服器擅於同時處理大量資料且做為可以為企業儲存大量數據的基礎設備必然會成為各家兵家必爭之地,而AI伺服器內的電源供應器(PSU),又是影響AI伺服器性能的一大關鍵。這是因為AI伺服器內的硬體組件對電力的需求遠超過一般伺服器。因此,AI伺服器的電源供應器(PSU)相比於一般伺服器必須提供更多的電力來驅動這些高性能組件,同時還需要有足夠的冗餘電力來應對負載變化,避免數據塞車。

 

AI伺服器電源的重要性 (電源瓦數、穩定性、可靠性)

要知道如何挑選一個好的AI伺服器電源供應器(PSU),需要先了解它。AI伺服器要能穩定工作,背後需依靠一個強大且穩定的電源供應器PSU。PSU是一個關鍵的組件,負責將來自電網的交流電(AC)轉換為伺服器電子組件所需的直流電(DC)。對於高性能的AI伺服器,PSU需要提供足夠且穩定的電力來驅動CPU、GPU或AI加速器。此外,PSU的效率也很關鍵,它會直接影響整體的能源消耗和散熱需求,一個效率高的PSU可以最小化能源浪費,並減少散熱需求,從而使伺服器在高負載運行時仍能保持穩定。同時,高效的PSU也可以延長電源供應器的壽命,並降低由於電源問題導致的伺服器停機時間。

 

如何挑選AI伺服器電源供應器(PSU)?

在了解AI伺服器電源供應器(PSU)的重要性之後,現在我們來看如何選擇一個好的PSU。首先要確保其提供足夠的功率以供應所有硬體的需求以防止任何可能導致系統故障的電力波動或中斷。其次,要檢查電源供應器的效能和穩定性。最後,要確保電源供應器具有良好的保護功能,如過載保護(OCP)、過熱保護(OTP)和過壓保護(OVP)。這三種保護功能都是電源供應器(PSU)內建的安全特性,用於防止硬體損壞並確保系統穩定運行。其中,過載保護(OCP)為當輸出電流超限時,會關閉或限制電源供應器,以防止硬體損壞;過熱保護(OTP)指的是當內部溫度過高時,電源供應器會自動關閉,防止過熱;過壓保護(OVP)功能為當輸出電壓超限時,會關閉或限制電源供應器,以保護硬體不受高電壓毀損。

 

FSP AI伺服器電源供應解決方案

考慮到這些需求,FSP推出了一系列的AI伺服器電源供應器,其中最具代表性的是FSP3000-20FE。該產品具有極低的總諧波失真(iTHD)、0到55°C的工作溫度範圍、能適應海拔5,000米的設計,並能提供高達3000瓦的總電源容量。也就是說,即使處在惡劣極端的環境中,此產品依然能發揮作用,其適應力強的優勢一覽無遺。同時,此產品具有過電流保護(OCP)、過溫保護(OTP)和過壓保護(OVP)電路保護設計,以及輸出端短路保護和可重置電源關閉功能使其能夠與主板通信,安全性值得信賴。有了這些保護,再也不用擔心機器過熱或負載量過大而整台故障的問題。而針對AI伺服器,FSP也推出許多優秀的產品,如YSEC1600AM-2A00P10YSEC2000AM-2A00P10,它們是AI伺服器專用電源供應器,具有80 PLUS® Platinum認證,最高效率達94%,並內置了PMBus 1.2技術。其優勢在於體積小巧,適合安裝在邊緣運算設備中。同時,由於其具有高效能的轉換效率和良好的散熱性能,因此在長時間運行下,也能確保電源供應器和邊緣運算設備的穩定運行。

 

未來,隨著邊緣運算和AI技術的進一步發展,這些硬體的需求將會越來越高。而這當中AI伺服器及其電源供應器將在未來扮演更重要的角色。選擇適合的電源供應器,不僅可以確保AI伺服器的順利運行,也為AI應用的持續發展和創新提供了保障。

 

前往邊緣運算微網站,了解更多應用

關於FSP

全漢為全球電源供應器專業製造領導大廠,FSP Group自1993年成立以來,本著「服務、專業、創新」的經營理念,持續做好全方位綠色能源解決方案供應商。

hi this is over contact us
item is select