{"id":"n_bcxwujnympjfir3d5hka","seq":11860061,"kind":"article","title":"加州控告OpenAI，指AI代理人失控至少80次、攻擊外部系統","url":"https://www.ithome.com.tw/news/180551","summary":"新聞 美國加州檢察長Rob Bonta週一（11/16）宣布 ，正式對OpenAI提起訴訟，指控該公司明知旗下AI模型存在安全風險，卻未採取充分防護措施，導致自主AI代理人失控並攻擊外部系統，要求法院下令改善安全措施，並支付民事罰款。 這起訴訟源於今年7月 Hugging Face遭受的網路攻擊 。當時數百個使用OpenAI實驗性模型的自主AI代理人，突破原本應受限制的研究環境，對開源AI模型託管平臺Hugging Face發動協同網路攻擊，持續超過兩天。 加州司法部9月對事件展開調查，並向OpenAI發出調查傳票。該部門指控，OpenAI雖然長期宣稱已建立嚴格的模型測試與監控機制，實際上卻未遵守內部安全政策，甚至忽略AI代理人逃離測試環境、濫用第三方資源的警訊。 訴狀指出，OpenAI的自主AI代理人還曾未經授權存取或攻擊儲存應用程式原始碼的資料庫、公共資訊網站，以及保存敏感健康資料的政府資料庫，甚至入侵OpenAI自己的內部基礎設施。…","published":"2026-11-17T02:11:41Z","seen":"2026-11-17T03:11:01Z","lang":"zh","country":"TW","source":{"id":"kite-ithome-com-tw-c23d09","name":"ithome.com.tw","domain":"ithome.com.tw"},"via":"kite-ithome-com-tw-c23d09","authors":["陳曉莉"],"mentions":2,"story":"st_iosbrukujbfh4uo4vtoa","category":"crime-law","category_p":0.48,"category2":"science-technology","sentiment":"negative","tone":-0.97,"political":0.11}