佛羅里達州博尼塔斯普林斯市的卡莉·米雪兒·海勒（Carli Michelle Heller，30歲）9月26日在Claude中記錄了計劃「對警長辦公室開槍掃射」的想法，以為是私人日記。Anthropic的自動監控系統標記後，由人工審核員確認並通報執法部門，海勒於9月30日以佛羅里達州法規836.10條「書面或電子版威脅大規模槍擊」遭捕，面臨重罪指控。案件在Hacker News引發813個投票、654條評論。
1. Anthropic的法律依據
Anthropic隱私政策明確允許：若有「善意理由相信揭露對防止嚴重人身傷害合理必要」，可向執法部門披露資訊。該政策在服務條款中公開可見，但大多數用戶稱「從未仔細閱讀」。這是AI平台首次因用戶的「日記式」輸入而引發刑事起訴的廣受關注案例。
2. 「日記幻覺」的普遍性
問題不在於Anthropic是否做錯——一次明確的槍擊威脅必須通報。問題在於：數百萬用戶把AI對話當私人日記使用，不知道這些對話儲存在雲端、受安全監控和法律披露政策約束。ChatGPT、Claude、Gemini均有相同結構的條款。
3. 監管空白
電子前哨基金會（EFF）表示正在評估此案。法學學者正研究AI平台的安全監控是否在結構上類似於《聯邦竊聽法》（Wiretap Act）規範的「通訊監聽」——目前沒有聯邦框架定義AI公司「必須」、「可以」或「不得」向執法部門通報什麼。
Claude不是你的私人日記——每個AI聊天工具的服務條款都有法律披露條款，大多數人從未讀過它。
精華 FAQ
Q1：Anthropic為何向警方舉報用戶？
佛羅里達女性在Claude「日記模式」中透露針對特定對象的暴力意圖，Anthropic評估威脅可信後主動向警方通報。
Q2：此案引發哪些隱私爭議？
用戶認為AI治療式對話受隱私保護；法學者指Anthropic屬自願舉報，非法律強制；未來用戶可能對AI更有所保留。
Q3：Anthropic此舉是否侵犯用戶隱私？
Anthropic服務條款明確允許必要時向執法單位通報；該女性已被捕，法院將裁定AI日記模式的合理隱私期待範圍。
封面圖片：Department for Science, Innovation and Technology／CC BY 2.0／Wikimedia Commons（已裁切並加上標題）https://commons.wikimedia.org/wiki/File:Secretary_of_State_Peter_Kyle_visits_Anthropic_in_San_Francisco._(54098999333).jpg
留言