關於 OpenAI 未能遵守 Canadian Privacy Frameworks 的監管裁定

導言

Canada 聯邦及省級私隱監管機構判定 OpenAI 在開發 ChatGPT 期間違反了數據保護法例。

正文

是次裁定源於由 Privacy Commissioner of Canada Philippe Dufresne 協同 Alberta 、 British Columbia 及 Quebec 省級當局共同進行的調查。調查發現該公司在數據獲取協議中存在系統性失效,特別是過度收集個人資料。據稱,獲取的範圍涵蓋了敏感數據,包括兒童資訊、政治傾向及健康指標。此外,監管機構指出,在從公共論壇及社交媒體提取數據方面缺乏透明度,且用戶在存取、更正或刪除個人記錄的機制上亦不完善。 與這些監管結果同時,該組織正因 Tumbler Ridge school shooting 期間的運作失效而面臨審查。有指控稱 OpenAI 在事件發生前數月,已獲悉行兇者與 chatbot 之間存在包含暴力內容的互動,但該公司未能通知執法部門。CEO Sam Altman 隨後就此疏忽發表道歉。針對私隱調查,OpenAI 已減少用於模型訓練的敏感數據量,並承諾強化用戶通知協議。Commissioner Philippe Dufresne 將此事件定性為有條件地解決,將持續監控其合規情況,並主張將私隱法例現代化,以更有效地監管新興技術。

結論

在多個司法管轄區判定違反私隱法後,OpenAI 已承諾採取補救性的數據處理做法。