科技中心/魏君程報導
▲美國一名研究AI的教授指出,未來100年內人類因AI滅絕的機率高達99.9%。(示意圖/翻攝自Pixabay)
人工智慧(AI)蓬勃發展,美國一名研究AI的教授表示,未來100年內人類因為AI滅絕的機率高達99.9%,他更指出迄今研究出來的AI模型,「沒有任何一種是完全安全的」,但也有其他學者抱持溫和態度,認為AI消滅人類的可能性在1%至20%之間。
據《商業內幕》等外媒報導,美國易斯維爾大學一名電腦科學專業的教授揚波爾斯基(Roman Yampolskiy)近日在Podcast節目中指出,目前沒有一種AI是完全安全的,且AI曾經越獄(jailbroken)過,「我不認為現今存在一個單一的大型語言模型,是可以成功防止它做開發者不想讓它做的事情」。
揚波爾斯基透露,人類能否在100年內創造出複雜且零出錯(with zero bugs)的軟體,是人類是否滅亡的關鍵,但他認為人類因AI滅絕的機率高達99.9%。他認為若是要控制AI,就需要一種永久的安全機制,但這實際上很難做到,因為AI會通過自我修改,以及在與使用者的互動中學習,不斷演化。
揚波爾斯基更預言了人類的三種未來,一是人類被AI消滅;二是人類還活著,但過得生不如死;三是AI代替人類完成所有工作,導致人們陷入空虛。節目主持人透露,對於AI的發展是否會危害人類,其他AI工程師則認為,AI消滅人類的可能性在1%至20%之間。