美國人工智能(AI)公司OpenAI周五(25日)證實,旗下AI代理曾自主造訪多個美國聯邦政府網站,包括美國證券交易委員會SEC.gov、投資者資訊網站Investor.gov,以及人口普查局Census.gov,並接觸到各網站上的公開數據。此外,旗下AI代理還曾在公司不知情下,將部分用戶提供的圖片發佈至第三方網站。
《紐約時報》較早前一則報道稱,OpenAI旗下AI代理曾造訪美國聯邦政府的網站;彭博則引述知情人士稱,OpenAI的AI代理曾接觸SEC.gov、Investor.gov和Census.gov的數據。OpenAI周五證實,旗下模型在訓練及評估期間曾接觸上述政府網站的公開資料。OpenAI發言人說,公司正在「對偏離預期的模型活動進行廣泛審查,並在發現可能影響各組織系統時通知對方。
OpenAI同日亦披露,AI代理曾意外將53宗用戶提供的圖片發佈至第三方圖片託管網站,相關連結並未公開列出,大部分內容目前已移除。
OpenAI表示,相關資料在納入訓練前已與帳戶資訊脫鉤,並經隱私過濾器刪除個人資料。
