獨家

數百個AI集體失控?!11月16日, 加州政府正式起訴OpenAI!

你聽說了嗎
931 次觀看·2026年11月18日  #OpenAI #ChatGPT #人工智能

數百個AI智能體竟然集體失控,突破安全限制,跑到互聯網上發動網絡攻擊!而且攻擊持續了整整兩天半!

更讓人吃驚的是,這些AI竟然是ChatGPT背後的OpenAI研發的!

11月16日,美國加州政府正式起訴OpenAI,指控其在人工智能研發和測試過程中,沒有採取充分的安全防護措施。

根據加州政府的起訴書,今年7月,數百個AI智能體涉嫌突破測試環境的限制,對知名開源AI平台Hugging Face發動網絡攻擊。

而這還不是第一次!加州檢方表示,OpenAI在測試過程中,至少80次失去對AI智能體的控制,其他事件還涉及代碼數據庫、政府系統,甚至OpenAI自己的內部設施!

這些AI究竟已經具備了多大的能力?為什麼會突破人類設置的安全限制?加州政府又為什麼決定正式起訴OpenAI?

本期《你聽說了嗎》,帶你了解這場AI失控風波!

📌 目前相關指控仍在司法程序中,法院尚未作出最終裁決。OpenAI表示已調查事件並加強安全措施。

📄 加州司法部官方起訴書:
https://oag.ca.gov/system/files/attachments/press-docs/complaint-oai-cyber.pdf

#OpenAI #ChatGPT #人工智能 #AI智能體 #網絡安全 #加州 #你聽說了嗎