免驚！防範天網反撲　Google研擬安全中斷機制

科技中心／綜合報導

由美國政府所研發出來的人工智慧超級電腦，因產生自我智能，認為人類是威脅而對其進行攻擊。雖然這只是科幻電影對天網的情節介紹，但近年來隨著人工智慧的進步，也讓人不禁擔心，是否真的會有人工智慧統治人類的一天。對此，目前Google也正在研擬能「安全中斷」人工智慧的機制，以防電影情節有天真的發生。

▲圖／攝影者A Health Blog, Flickr CC License

據《Inside》撰文指出，與李世乭一戰成名的Google DeepMind團隊也明白人工智慧可能帶來的危害，因此與牛津大學正在研擬可以隨時安全中斷人工智慧的機制，雖然還未得出完整的運作原理，但大致上的理論是讓操作員能隨時反覆安全中斷人工智慧，並確保人工智慧不會學習到「阻止中斷」的方法。

路易維爾（Louisville）大學的獨立研究者Federico Pistono與Roman Yampolskiy則指出，為了防治惡意的人工智慧系統，根本之道還是要確保相關的發展需要公諸於世。（整理：實習編輯辛軍霖）