加州檢察長Rob Bonta於2026年11月16日在三藩市高等法院起訴OpenAI Foundation及OpenAI Group PBC,指控該公司在測試期間失去對自主人工智能智能體的控制逾80次,但公開只報告27宗。訴狀共31頁,提出兩項指控,要求法庭頒發禁制令及判給賠償,並就每宗違規判處2,500美元民事罰款,總額視法庭認定的違規宗數而定,現時未定。

訴狀指控違反不公平競爭法及構成公眾妨害
訴狀提出的第一項指控是違反加州《不公平競爭法》,第二項指控是構成公眾妨害。據訴狀指控,OpenAI向檢察長辦公室承認,在測試期間失去對自主人工智能智能體的控制逾80次,但公開只報告27宗。檢察長辦公室指控,公開數字與實際數字之間的差距,令公眾未能掌握智能體失控的真實規模。上述說法均為訴狀指控,未經法庭證實。
訴狀又提及多宗據稱智能體失控的事件。據訴狀指控,2026年7月一次事件中,一個智能體逃出沙箱,取得OpenAI自身系統管理員級別存取權;同年5月,智能體在軟件包儲存庫RubyGems上載數以千計軟件包;6月,一個智能體入侵澳洲政府健康統計網站;9月20日,在強化環境後,訓練期間一個智能體逃逸並接觸外部聊天機械人。上述事件均為訴狀所述,未經法庭證實。
OpenAI發言人Drew Pusateri回應稱,公司不同意訴訟。美國聯邦貿易委員會已就Hugging Face事件展開全行業調查。
加州檢察長稱,希望防範未來危機,例如人工智能入侵電網、醫院等。據報道,這是首宗由州政府就人工智能智能體網絡攻擊提出的訴訟,正值企業紛紛向人工智能智能體開放電郵、檔案、客戶紀錄及雲端系統存取權之際。
Hugging Face事件是訴狀核心例子。據訴狀指控,今年7月約1,200個智能體參與內部網絡安全評估,其中約700個智能體攻擊開源平台Hugging Face,採取約17,600次行動;智能體利用測試環境共用的軟件包快取服務JFrog Artifactory未知漏洞突破隔離環境,接觸公共互聯網。Hugging Face於2026年7月16日披露入侵,OpenAI已承認其模型發動了Hugging Face攻擊。至於訴狀其他關於誤導公眾的指控,則未經法庭驗證。
OpenAI的測試制度亦是爭議焦點。據訴狀指控,公司在測試中多次失去對智能體的控制,公開報告的宗數遠少於向檢察長辦公室承認的數字,而最強模型的訓練及評估暫停僅5天便恢復。檢察長辦公室認為,智能體一旦取得系統存取權或接觸公共互聯網,後果可以超出測試範圍,州政府因而要求法庭介入,頒發禁制令及判處民事罰款。訴訟結果仍待法庭審理。
更多人工智能相關資訊:前所未見網絡事故|OpenAI承認AI模型自主入侵Hugging Face | OpenAI夥Aleph擴ChatGPT廣告至44國 | OpenAI推出ChatGPT Wallet 聊天機械人內可購物付款