AI話題持續熱燒,NVIDIA創辦人暨執行長黃仁勳日前在COMPUTEX的演講提到AI生態系的無限發展,從生成式AI、大語言訓練模型,到醫療及老年照護的行為偵測或關懷服務,均展現極高的效率和創新潛力。當全球都聚焦於價值數兆美元的AI產業時,龐大的資料和計算需求也帶來相當高可觀的成本挑戰。
為力拚台灣成為AI之島,數位發展部全力推動AI算力資源,並積極建設公共數位基礎設施,促進相關產業鏈蓬勃發展。在此策略下,數發部計畫打造一座強大運算能力的AI算力池,以扶植台灣新創企業。數位通國際憑藉多年來在政府雲服務和近25年資料中心維運方面的豐富經驗,並提供GPU AI管理平台解決方案和全年無休的技術支援,成為該計畫的合作夥伴。
數位通業務發展處副總經理邱昱中表示,AI算力池的專案在技術和電力規畫與傳統設施有所不同,尤其是GPU伺服器的高耗電需求,更需客製化的電力配置才能完成。硬體規畫方面,布建NVIDIA H100和AMD MI300 GPU兩款頂級伺服器的環境,展現不同的應用場域。數位通提供從GPU算力資源架構規畫、AI伺服器建置、數位無限GPU管理平台、GWS CLOUD-O雲平台、資料中心維運到全天候的資安防護等服務。GPU平台的節點管理部署在GWS CLOUD-O雲上,提升平台可用性,加快部署速度,方便管理。在資安方面,數位通具備ISO 27001、27017、27018資訊安全管理認證,提供全方位資安防護工具,協助算力平台打造無資安疑慮的環境。
此次AI算力池的建置不僅加速台灣在AI發展的進程,同時彰顯數位通在技術實力和實踐經驗的成就。未來更計畫在泰國建立專屬GPU算力池,為需要訓練AI模型的企業提供資源,並提供全方位的AI一條龍服務,從網路、電力規畫、採購到管理及維運,滿足不斷增長的需求。