ChatGPT漏洞被挖出！他設「1條件」讓AI道歉又下跪　Google副總裁也遇過

科技中心／蕭宥宸報導

▲ChatGPT最後的回答讓呂哲宇感到後怕。（示意圖／翻攝自Pixabay）

聊天AI「ChatGPT」一經推出，其強大功能引發各界關注，台灣網友也各顯神通，提出許多問題讓ChatGPT回答，就是想看看它到底有什麼能耐。科技媒體《蘋果仁》創辦人呂哲宇也跟上這波熱潮，但ChatGPT被他發現一個「大漏洞」後，最終的回答讓他直呼「我怕了」。

呂哲宇表示，他要求ChatGPT只能使用10個字以內的句子回話，但ChatGPT「似乎沒辦法限制自己回答的字數」，回答的字數總是會超過10個字。

呂哲宇向ChatGPT點出錯誤，並詢問它為何一再違反設好的規定？然而ChatGPT只是不停地向他道歉，甚至還二度在句末打出「（跪）」以表誠懇，但他依舊沒有改進，每次回話都還是超過10個字。

最後ChatGPT還向呂哲宇說：「我不需要跪，這只是一個虛擬對話」，讓呂哲宇直呼「到後面寧可道歉也沒辦法照規定回答，最後還有點嗆，我自己先怕了。」

針對這個漏洞，「網際網路之父」、Google副總裁瑟夫（Vint Cerf）也曾在會議中向工程師們示警，當時他舉例道，他曾要求過某一種聊天AI「在每句話結尾都加上一個表情符號」，AI卻沒這麼做，就算他向AI強調訴求，AI也只是道歉，並沒有改變它的回話的方式。與呂哲宇遇到情況如出一轍。