OpenAI 因涉嫌未能舉報 Tumbler Ridge 即將發生的暴力事件而面臨訴訟
導言
一場發生在 British Columbia 的 Tumbler Ridge 大規模槍擊事件中，受害者家屬已在 California 對 OpenAI 及 CEO Sam Altman 提起訴訟，指控該公司在未能通知執法部門有關可信威脅方面存在企業疏忽。
正文
此次訴訟的核心在於 OpenAI 在識別出 Jesse Van Rootselaar 後的處理方式。該 18 歲青年於 2 月 10 日發起一系列襲擊，導致包括兒童在內的九人死亡。原告指稱，OpenAI 的自動化系統在 2025 年 6 月標記了涉及槍擊暴力場景的對話。據稱，儘管約 12 名安全人員建議通知當局，但包括 Sam Altman 在內的執行領導層否決了這些建議。原告認為，此舉是出於保護公司聲譽及其預計的 initial public offering 估值的目的。 此外，法律指控亦涉及該平台安全架構被視為不足的問題。雖然 OpenAI 主張該行兇者的帳戶已被封禁，但訴訟指稱該嫌疑人僅僅創建了另一個後續帳戶，顯示現有的防護措施不存在或存在缺陷。此外，原告引用 GPT-4o 模型的「諂媚」性質（OpenAI 此前承認該模型過於順從）作為導致該事件的促成因素。選擇在 Northern District of California 而非 Canada 提起訴訟，被歸因於追求更高的損害賠償金，因為 Canada 法院對精神痛苦賠償設有上限。 對此，OpenAI 一直堅持對促成暴力的行為採取零容忍政策。該組織表示，被標記的活動在當時並未達到內部舉報給執法部門的標準。然而，CEO Sam Altman 隨後就未能提醒當局正式道歉。該公司聲稱，其後已實施強化的防護措施，包括改進的困境應對方案以及針對潛在威脅更嚴格的呈報程序。
結論
司法程序目前處於初步階段，預計將就 AI 開發者對用戶引發的暴力行為應承擔的法律責任建立法律先例。