採用輝達頂級晶片　數發部打造AI算力計畫7月開跑

數發部力拚台灣成為AI之島，今年斥資新台幣數千萬元購買輝達（NVIDIA）、超微（AMD）頂級算力晶片，建構「算力池」提供給產業運用，最快7月免費對外開放資服業者申請AI算力，包括基因排序、氣候變遷、長照行為偵測等模擬運算，可望讓創新點子「跑得更快」。

▲圖為有黃仁勳和鴻海董事長劉揚偉簽名的NVIDIA HGX H100 GPU基板。（圖／記者王翊綺攝影）

生成式人工智慧影響廣泛，各行各業對AI應用愈加渴求，數發部數位產業署啟動透過為期4年、總經費22億元的數位公共建設「數位產業跨域軟體基盤暨數位服務躍升計畫」，希望為軟體業打地基，今年計畫總經費約4億元。

數發部數位產業署副署長胡貝蒂接受中央社採訪時表示，「數位產業跨域軟體基盤暨數位服務躍升計畫」屬於數位公共建設，透過打造AI算力、數據、程式碼3大元件庫，讓許多模型與應用不用從零開始，有需求者可以到3間倉庫取用有需要的元件，加速業者的創新應用。

近年蔚為熱潮的生成式AI應用，需要大量資料與算力，也帶動AI產業鏈蓬勃發展。胡貝蒂說，AI算力要價不菲，企業就算想用，一來可能買不到足夠算力，二來階段性使用完畢，也可能有剩餘算力沒被善加運用，數產署打造「AI算力池」，透過算力共享概念，有需求的團隊就可以申請AI算力。

數位產業署打造的AI算力池，首年度規劃採用輝達的H100晶片32片、AMD的MI300X晶片8片，展示強大運算火力，後續逐年視需求增購繪圖處理器（GPU）算力。

▲數產署打造「AI算力池」，讓有需求的團隊可申請AI算力。圖為輝達GTC大會上使用最新一代晶片打造的AI伺服器。（圖／中央社）

至於哪些題目可以運算，胡貝蒂表示，考量新創團隊初期資源較少，因此可能作為加分項目，樂見產業帶著題目組隊申請，希望主題對社會影響力高。規劃7月開放業者可以申請AI算力，後續由審查小組審核計畫，申請一次約可使用6週算力，目標今年讓60家業者使用AI算力。

例如，金融業可能在客服上會需要大型語言模型，機構針對照護者行為偵測可能也有對AI運算的需求，部分社福單位礙於人力，也希望透過AI提升工作效率。

胡貝蒂舉例，基金會可能有不少照顧服務員在拜訪老人時都需要紀錄、回答提問等，但照服員可能光查閱手冊資料就需要不少時間，若彙整照服員的相關知識，訓練為具備特定知識背景的聊天機器人，有望讓新手照服員快速上手，藉此投入更多心力做關懷服務。若開發這類模型，也有機會擴散到其他有類似需求的單位。

藉由AI算力計畫，胡貝蒂表示，希望可以更了解民間對於AI算力的需求，未來規劃AI生態園區時，也可以回饋相關意見。