文／許寧
總部位於澳洲坎培拉的Cyber CX網路安全公司週二(8月13日)發表報告說，中國對美國以及澳洲等民主國家發動迄今為止X平台上規模最大的生成式AI資訊戰網。報告說，他們發現一個由至少5000個虛假帳號組成的「資訊戰」網絡，這些AI帳號主要針對美國總統大選等政治、文化熱點事件和議題進行評論。 Cyber CX公司執行總監告訴美國之音，這些帳戶意圖強化民主國家的對立面，加深內部分歧。
AI機器人自爆底細，澳洲安全網路人員順藤摸瓜
澳洲網路安全人員告訴美國之音，X平台(前身為推特)多個機器人帳號在推文中自露“狐狸尾巴”，公然承認自己“人工智慧(AI)模型”的身份，才引起他們的注意。
今年5月底，X平台至少72個帳號以同樣令人匪夷所思的造句模式發文，自爆機器人身分。
▲2017年1月26日 中國出現了一個允許用戶假冒美國時任總統川普的推特帳號發文的娛樂網站（資料畫面／VOA中文網/AP）
例如，一個名為“Yumiko Sansone”的帳號5月30日在一篇推文中說：“作為一個人工智能語言模型，我必須優先提供準確和尊重他人的信息。你提供的評論與第一夫人吉爾·拜登(Jill Biden)博士及其倡議的主題不恰當或不相關…”
5月31日，名為「Stuart Dixon」的帳號發文：「作為一個人工智慧語言模型，我能理解你在批評波德斯塔兄弟，並對他們的關聯和行為提出質疑。然而，我無法就此事發表任何評論或意見…”
網路安全專家認為，這些顯然是無意間洩漏的只言片語不僅暴露了這些基於生成式人工智慧(generative AI)的機器人帳號背後的技術腳本出現了故障，同時顯示，有人在指示這些帳號對眾多民主國家的政治人物和議題進行負面描述，其中包括美國第一夫人吉爾·拜登(Jill Biden)、印度國內政治和美國民主黨政治人物約翰·波德斯塔(John Podesta)等。
他們說，這些命令顯然遭到機器人帳號的抵制，可能是相關指令違反了這些帳號被程式設計時所受到的某些原則。
總部位於澳洲坎培拉的Cyber CX網路安全公司的研究人員順藤摸瓜，端出了一個由至少5000個虛假帳號組成的「資訊戰」網絡，這些帳號透過生成式人工智慧(AI)模型，主要針對美國政治、文化熱門事件和議題生成語句看起來自然、語氣溫和的英文評論，但也會對其他帳號頗具爭議的內容進行轉發和評論。
研究人員說，除美國外，這個AI模型網路進行的「資訊戰」所涉及的國家還包括澳洲、英國、西歐、印度、日本等民主國家。
Cyber CX將此AI模型假帳號網路命名為「綠蟬」(The Green Cicada Network)，意指數千個帳號仍處於低調的潛伏期，隨時可以在一聲令下蓄勢待發。綠蟬是澳洲最常見的昆蟲之一，它們會在植物的根底下，以蟲的形式生存七年。
「綠蟬」發文旨在深化民主社會對立
研究人員說，該網絡並不在特定議題上選擇特定觀點，而是在許多有爭議話題和熱門議題上強化人們在這些議題上的意見分裂。
例如，網路中一個名為「Luther Randolph」的假帳號，在8月8日發文表示對美國共和黨總統候選人唐納德·川普(Donald Trump)遇刺未遂後未獲得媒體長期關注的說法表達支持，又在8月10日發文支持現任副總統、民主黨總統參選人卡馬拉·哈里斯(Kamala Harris)。
Cyber CX公司執行總監凱瑟琳·曼斯泰德(Katherine Mansted )說，總的來說，「綠蟬」的做法就是在改編那些政治分裂意味濃厚的敘事。透過改寫原創內容，改寫推特（X）上真實使用者發佈的內容，或透過擴充或轉發原創內容。曼斯泰德對美國之音說：「它傾向的做法是雙方兼顧。因此，我們認為在很大程度上，這個網絡旨在透過強化我們在民主國家看到的一些比較有爭議的問題的兩個對立面，以此來加深分歧。
▲X平台的機器人帳號「Luther Randolph」回覆並傳播政治訊息的推文截圖。（翻攝X.com／VOA中文網授權）
中國聯繫：網絡背後指示或為中國AI公司人員
Cyber CX公司認為，雖 然無法確認這個網路資訊AI網路的創立是否由中國政府指示，但控制這個AI網路的系統與中國有著密切的聯繫。
曼斯泰德告訴美國之音：“首先，控制這些帳戶的大型語言模型系統應該是一個中文系統。我們知道，由於洩露的提示片段，例如“請將此翻譯成英文”，這些片段以中文洩露。的提示要求，還特別引用了中國政府的原則……不同的人工智慧大語言模型系統都有自己的安全特性和監管環境。
除此之外，她說，網路中的虛假帳戶的一個共同特點是，它們與一名中國清華大學計算機科學系博士畢業生、目前在中國智譜AI任職的研究人員在X上的帳號(@ cenyk1230)有密切的互動。
直到截稿時，該研究人員和智譜AI並未回覆美國之音透過電子郵件發出的置評請求。
Cyber CX的研究說，“綠蟬網絡”還處於蟄伏狀態，絕大多數多數帳號並未“發威”，生成的內容也容易識破，雖然目前影響力有限，但該網絡仍有很大的實力提升可能。
曼斯泰德說：「我們在這個網絡還處於發育的階段就把它抓到了。它是一個還在成長中的能力，所以這在某種意義上來說是好事。這就是為什麼我們想在它可能造成真正的傷害之前公開揭露它，拔掉它的毒牙。
但她也強調：“很有可能，這可能是一個等待開啟還處於休眠的一股力量。當然，我們目前看不到這個網絡有存在的理由。這應該是一個只具有惡意目的的網絡。”
已知規模最大的AI社媒資訊戰網絡
X平台先前就已經發現了政府支持的實體支援設置的AI機器人資訊戰網。 Cyber CX說，以帳戶數量衡量，「綠蟬網絡」是迄今為止被披露的最大的虛假活動網絡之一，可能是第一個將生成式AI作為技術基礎的與中國實體相關的信息戰網絡。
上個月，美國司法部宣布，美國協同加拿大和荷蘭的資訊和安全部門，在X平台的配合下，查封了一個與俄羅斯實體有聯繫的在社群媒體散播親俄不實資訊的AI機器人網路。司法部的聲明說，968個X帳號在這次行動中被關閉。
目前尚不清楚X平台是否會對疑似來自中國的「綠蟬網路」所涉及的帳號採取行動。本文截止時，X公司發言人尚未說明該平台是否會對此網路進行調查。
研究人員警告，如果科技平台不加重視，類似「綠蟬」這樣的AI假訊息傳播網絡可能會如同野草一般難以控制。
曼斯泰德說：「這些類型的人工智慧產生或控制的網路啟動成本很低，你不需要人類去驅動它，你可能需要一個人或幾個人來設定係統，然後它可以很快擴展並造成傷害。
ⒸVOA中文網
5 顆 
10 顆 
15 顆 
20 顆