怕AI「顛覆國家政權」！中共箝制意識形態　聊天機器人也得聽黨話

中國網信辦正研議，規範生成式人工智慧的內容需符合社會主義核心價值觀，不得顛覆國家政權等，上海政法學院前副教授陳道英說，即因如此，所有中國人工智慧企業都得學如何戴著腳鐐跳舞。

中國國家網信辦11日發布「生成式人工智能服務管理辦法」的徵求意見稿，要求生成式人工智慧（Generative AI）正式向社會大眾提供服務前，應依規定申報安全評估。

▲中國網信辦正研議，規範人工智慧的內容需符合社會主義核心價值觀。（示意圖／翻攝自Pixabay圖庫）

至於安全評估的項目，根據研議中的辦法第4條，生成式AI產生的內容應體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一等。

香港南華早報（SCMP）今（25）日報導，新加坡國立大學李光耀公共政策學院副教授及助理院長吳木鑾表示，雖然中國對於國安的監控涵蓋政治、經濟與社會等層面幾乎無所不包，但北京最在意的還是危及政權。他說，沒有人能確保生成AI百分百會說甚麼，對於中共而言，最不樂見就是民眾藉此而反抗中共的執政，保險起見並符合當局的內容監控措施，北京當局才會立即劃定界線，可以預見還將頒布更多的規範。

陳道英則說，即因如此，中國所有與AI有關的企業和開發商，都必須學習如何戴著腳鐐跳舞，不難想見，意識型態的掌控就是中共管制AI的主旋律。他表示，政治別出岔是中共最在意的，因此監管機關將確保AI的演算數據和陳述，完全符合黨的論調，以捍衛中共統治的合法性。陳道英指出，AI這把利器將被（北京）用於替政府效力，並強化中共的執政，並使官員得以藉此防範任何可能爆發的政治動盪。

紐約時報（The New York Times）則報導，卡內基國際和平基金會（Carnegie Endowment for International Peace）研究員希恩（Matt Sheehan）說，當前人工智慧浪潮給中共帶來新風險。他表示，聊天機器人生成的陳述難以預料，有時甚至是荒謬或錯誤（也就是研究人員稱為「幻覺」）的，這是向來非常執著於網路言論管理的中共當局所不容。

像是今年2月初，中國的人工智慧工程師兼企業家徐亮發布的「元語智能」手機軟體，可說是中國對ChatGPT的最早回應。但元語智能生成的答覆，包括預測中國經濟前景黯淡，界定俄烏戰爭是俄侵烏，完全不符合黨的路線和媒體報導，數日後就被當局下架。徐亮表示，他正在修改程式並創造更「愛國」的機器人，包括過濾敏感關鍵詞，僱傭更多人工審查以標記有疑慮的答案，甚至正訓練能檢測「不正確觀點」的模型。