聯發科推AI平台「達哥」！繁體中文LLM也來了　生態系超豪華

記者王翊綺／台北報導

▲聯發科（2454）今（9）日舉行生成式AI論壇，圖為聯發科技人工智慧暨數據工程處協理葉家順。（圖／記者王翊綺攝影）

聯發科（2454）今（9）日舉行生成式AI論壇，正式推出生成式AI服務平台「MediaTek DaVinci」，亦稱「聯發科技達哥」，並由聯發創新基地發表平台上最新的強大繁體中文大型語言模型MediaTek Research BreeXe（MR BreeXe），並聯合生態系夥伴現場展示客製化應用。目前達哥生態系持續擴大，超過20家高科技廠商、10家消費品牌、6家金融業以及3家電信業。

▲達哥生態系持續擴大。（圖／記者王翊綺攝影）

聯發科技人工智慧暨數據工程處協理葉家順指出，基於聯發科技生成式AI服務框架（GAI Service Framework, GAISF）而開發的MediaTek DaVinci，最初是為集團內部打造具資料安全性、提高生產力的生成式AI工具，獲各部門廣泛使用，並發展成可供外部企業導入的生成式AI服務平台與豐富的生態系，目前已有數十家來自高科技、金融、電信、法律、製造、銷售、服務、系統整合、雲端服務等行業的企業，以及教育機構、新創公司等加入MediaTek Davinci生態系。

MediaTek Davinci提供一個高整合度、高擴展性的開放平台，讓開發者可為各行業開發客製化生成式AI擴充外掛、助理等應用；對企業來說，能夠在資料安全的環境下，善用平台的豐富工具提高生產力與競爭力。

▲▼聯發科（2454）推出生成式AI服務平台「MediaTek DaVinci」（聯發科技達哥）以及繁體中文大型語言模型MediaTek Research BreeXe（MR BreeXe），並聯合生態系夥伴現場展示客製化應用。（圖／記者王翊綺攝影）

MediaTek Davinci支援各類大語言模型，包含聯發創新基地最新釋出的繁體中文大語言模型「MR BreeXe」。MR BreeXe以Mixtral 8x7B模型為基礎開發，繼承Mixtral多專家模型特有的節省運算資源、提升速度優勢，再加上聯發創新基地的預訓練（pre-training）之後，不但在繁體中文測試項目（TMMLU+、MT Bench TW）超越GPT-3.5，並對台灣常見之地端應用特別進行優化，提升產業界使用生成式AI 與檢索增強生成（RAG）的體驗。

MR BreeXe於輝達（NVIDIA）的Taipei -1 GPU超級電腦DGX H100上進行訓練，透過MediaTek Davinci，支援全地端與部分地端的佈設場景，並可依需求進行多樣本學習（few-shot learning）甚至微調（fine-tuning）的客製化。

▲▼聯發科生成式AI服務框架以及達哥商店。（圖／記者王翊綺攝影）

▲聯發科達哥智慧助理與功能介紹。（圖／記者王翊綺攝影）

葉家順指出，MediaTek DaVinci解決許多企業在採用生成式AI的痛點，讓各行各業在確保資訊安全的環境下，可善用已有強大基礎的平台開發專屬的生成式AI應用。隨著更多企業與開發者加入MediaTek Davinci生態系，相信MediaTek DaVinci的能力將會持續爆發性成長，成為企業的得力助手。

▲聯發創新基地負責人許大山博士。（圖／記者王翊綺攝影）

聯發創新基地負責人許大山博士表示，MediaTek Research BreeXe繁體中文大型語言模型是聯發創新基地在大模型發展上最新的里程碑，提供優異語文理解能力和雲、地兩端的彈性，為現今繁體中文能力最強的語言模型，加上與MediaTek Davinci的搭配，相信能更貼近在地需求，激發更多在地的生成式AI應用。

今聯發科生成式AI論壇由國立臺灣大學教授李宏毅開場暢談生成式AI發展與應用、策略合作夥伴賽微科技說明MediaTek Davinci平台的導入與系統整合、API媒合平台群鼎團隊談應用程式介面生態系整合、AI智能數據公司意藍資訊談即將在MediaTek DaVinci平台上架的AI輿情助理、群聯電子介紹其「aiDAPTIV+」服務方案如何賦能AI模型及伺服器廠商。