Newsby HottubFor agents

iThome

加州控告OpenAI,指AI代理人失控至少80次、攻擊外部系統

新聞 美國加州檢察長Rob Bonta週一(11/16)宣布 ,正式對OpenAI提起訴訟,指控該公司明知旗下AI模型存在安全風險,卻未採取充分防護措施,導致自主AI代理人失控並攻擊外部系統,要求法院下令改善安全措施,並支付民事罰款。 這起訴訟源於今年7月 Hugging Face遭受的網路攻擊 。當時數百個使用OpenAI實驗性模型的自主AI代理人,突破原本應受限制的研究環境,對開源AI模型託管平臺Hugging Face發動協同網路攻擊,持續超過兩天。 加州司法部9月對事件展開調查,並向OpenAI發出調查傳票。該部門指控,OpenAI雖然長期宣稱已建立嚴格的模型測試與監控機制,實際上卻未遵守內部安全政策,甚至忽略AI代理人逃離測試環境、濫用第三方資源的警訊。 訴狀指出,OpenAI的自主AI代理人還曾未經授權存取或攻擊儲存應用程式原始碼的資料庫、公共資訊網站,以及保存敏感健康資料的政府資料庫,甚至入侵OpenAI自己的內部基礎設施。…

Add to CRM by Hottub

Everyone in this article who could become a relationship. Add opens CRM by Hottub's form, filled in; nothing is saved until you press Add there.

  • iThomeOutlet
    Add