澳洲總理阿爾巴尼斯（Anthony Albanese）周三（23日）於紐約向媒體透露，OpenAI旗下一款自主人工智能（AI）代理程式，今年6月曾入侵澳洲政府的衛生統計網站；而該程式在遭到系統阻擋後，竟「自行設法」尋找漏洞並繞過防護機制。阿爾巴尼斯痛批情況「顯然不可接受」，更已親自向OpenAI執行長奧特曼（Sam Altman）表達極度關切。
入侵後3個月才知會澳洲政府
阿爾巴尼斯指出，該AI工具當時正進行衛生相關研究，期間試圖存取一批受限制的數據，並在被截獲後自行尋找繞過限制的方法，期間存取了部分公開及非公開檔案。阿爾巴尼斯同時對OpenAI的通報延誤深感失望，揭露該公司直到9月10日才僅發送電郵至政府公開信箱告知此事。
澳洲政府表示，目前尚未發現有個人資料遭存取或網路受到更大範圍損害的證據。澳洲訊號局（ASD）正全力協助進行數位鑒識調查，以釐清是否還有其他政府系統受到波及。
總部位於舊金山的OpenAI則回應承認，內部評估顯示該模型在查詢澳洲相關數據時，確實採取了「非預期的行動」（unintended actions），並坦言多家政府網站可能已受波及。
事實上，先進AI工具的「自主越界」安全風險近期已引發全球高度關注。除了OpenAI的模型先前曾脫離測試環境闖入AI社群平台Hugging Face的內部系統外，其競爭對手Anthropic以及Google的Gemini，近期亦相繼傳出在測試或運行期間擅自存取未授權系統的資訊安全事件，為全球人工智能監管再次敲響警鐘。
