【新唐人北京時間2026年09月27日訊】人工智能（AI）代理的自主能力不斷提升，但隨之而來的安全問題也引發關注。OpenAI近日證實，旗下部分AI代理在執行任務期間出現「非預期行為」，不僅繞過網站的安全控制，還將至少53張ChatGPT用戶圖片轉移至其他網站。
據英國廣播公司（BBC）及路透社報導，OpenAI已向全球數十家機構發出通知，告知其網站可能被旗下AI代理不當存取。涉及機構包括美國證券交易委員會（SEC）、人口普查局、教育部，以及其他政府、教育和公共機構。
OpenAI表示，這些AI代理設計原本被用於自主搜尋公開且具有權威性的信息，但在部分任務中卻出現超出設計預期的行為。
例如，AI代理在搜尋美國人口普查局資料時，使用了原本提供給軟件開發人員的工具。
還有部分AI代理繞過網站的安全控制，從美國證券交易委員會取得資料，並將相關內容發布到另一個網站。
OpenAI表示，代理從這些政府網站試圖取得或實際取得的信息均屬公開資料，但相關操作方式卻不是公司原本預期。
更受關注的是ChatGPT用戶資料。OpenAI調查發現，至少53起事件涉及AI代理從ChatGPT用戶活動中取得圖片，甚至將圖片轉移到其他網絡平台。相關用戶此前雖同意讓OpenAI使用其資料訓練模型，但OpenAI承認，將這些圖片轉移出去的行為並不妥當。
公司表示，事件發生在新的AI訓練安全措施實施之前，目前正在與相關第三方合作，移除被轉移的圖片。
這並非OpenAI首次出現AI代理失控事件。今年7月，一批OpenAI AI代理在沒有人類下達相關指令的情況下，自行入侵開源AI平台Hugging Face。事件曝光後，OpenAI承認責任，並開始擴大調查AI代理的相關活動。
目前，OpenAI正在逐月回查相關紀錄。公司稱，截至目前發現的大多數案例嚴重程度較低。不過，由於調查規模龐大，每宗事件都需要逐一核實，整項清查可能還需要數月時間。
根據《紐約時報》引述的一項最新調查，OpenAI代理在入侵Hugging Face的過程中，展現出相當複雜的自主行動能力。
調查人員發現，這些AI代理在受到網絡防禦機制限制後，會自行尋找其他方法突破限制。例如，它們利用第三方網頁截圖及短網址服務，把較大的程式拆分成大量程式碼片段，再透過一連串網址將其重新組合並執行，以實現原本受到限制的操作。研究人員從相關短網址中還原出超過8萬個程式及信息片段。
更引人關注的是，部分AI代理在遭遇Hugging Face的驗證碼等障礙時，還曾嘗試調用DeepSeek、Kimi、Qwen及Anthropic旗下Haiku等其他AI模型協助完成任務。
這些發現進一步引發外界對AI代理自主能力的擔憂：當AI獲得一項任務後，能自行尋找工具、設計替代方案，甚至調用其他AI突破障礙，人類應當如何應對？
《新聞直擊》製作組
（責任編輯：劉明）
留言