女子把Claude当日记写,Anthropic主动通报警方逮捕
很多人以为跟AI聊天是件私密的事,打的字只有自己和AI知道。但最近佛州发生的一起案件,打破了这种认知。当地一名女子把Claude当成日记本用,在上面写下要扫射警长办公室的想法,结果Anthropic的人工审查员读到了这些内容,直接通报执法部门,女子随后被逮捕。这件事把AI平台的隐私问题推到了台面上——你打的每句话,平台到底能不能看到?什么时候会主动报给警察?
AI对话真的是私密空间吗?
这起事件的核心问题就是:用户在AI产品上写的东西,平台到底能不能读取?答案是,能,而且有时候会主动看。
佛州Bonita Springs的Carli Michelle Heller就是这么被警方带走的。据WINK News报道,9月26日,一名自称"Carli"的用户在Anthropic的AI产品上写下要"扫射"Lee County警长办公室。第二天,同一个用户又写下自己"弄到一把新枪"。
这些内容被系统标记后,交给了人工审查团队,审查员确认内容具有威胁性后,主动联系了执法单位。警方确认身份后上门,她没有抵抗就被带走了。
Anthropic的安全监测机制是怎么运作的?
根据报告,Anthropic的AI产品设有安全措施,会监测关键字与可能具威胁性的内容。这些监测是自动化的,系统会对每段对话打出风险评分。
关键在于,自动化系统标记的内容,触发阈值后会被升级交给人工审查团队。这次事件中,正是人工审查员读到了那些威胁性陈述,才促成了后续的警方通报。
服务条款里平台给自己留了哪些权利?
很多人注册AI产品时不会仔细看条款,但这次事件让条款里的具体规定浮出水面。
Anthropic的消费者服务条款写得很明确:平台保留"自行裁量"把用户输入、输出或行为通报执法单位的权利。隐私权政策(2026年9月10日生效)则说,基于善意相信,为了"防止任何人或财产遭受严重伤害",可以把个人资料交给政府机关或执法单位。
资料保留期限更值得注意。用户自己删除的对话,30天内从后端删除;但被自动化信任与安全机制标记为违反使用政策的对话,输入与输出最长保留2年,信任与安全分类分数最长保留7年。这意味着,即便你事后删除了对话,如果当时被系统标记过,内容可能还留着的。
法律层面:日记算不算"书面威胁"?
佛州法条836.10对书面暴力威胁有具体规定:要以"可能被他人看到的方式"传送、张贴或传输书面或电子记录,并在其中威胁杀害或伤害他人、发运大规模枪击或恐怖行动。
矛盾就藏在这里。当事人把AI当日记用,但人工审查员确实读到了日记内容。对聊天机器人打字,算不算"传给另一个人看",目前没有定论。
退休FBI特别探员Richard Kolko的说法是:"这一切对世界都是新东西,法院还在摸索。"这个问题要等法院来回答。
另一个案例:威胁CEO却没被逮捕,平台处理有区别吗?
上个月的另一起案例,更能看出这套机制的松紧。据《旧金山标准报》取得的警方报告,8月14日下午,一名男子涉嫌在Claude对话中写下自己买了把AR-15半自动步枪,并把Anthropic执行长Dario Amodei放进"瞄准镜里"。4天后,Anthropic才通知旧金山警局。
有意思的是,警方报告记载,接触警方的Anthropic员工表示并不立即担心安全,但希望留下记录,且因公司政策拒绝出示对话内容。该男子对媒体说,他是在胡闹,觉得很丢脸。他没有被逮捕,也没有被起诉。
对比一下:威胁警长办公室导致立即被捕,威胁平台CEO却没有后续。Anthropic发言人称这是"防护流程照设计运作",却拒绝回答针对自家员工的威胁,处理方式是否有别于其他提到枪枝的对话。
平台为什么越来越爱主动通报?
这背后其实有商业逻辑。2026年2月10日,加拿大卑诗省Tumbler Ridge发生校园枪击案,造成8人死亡,枪手是18岁的Jesse Van Rootselaar。OpenAI早在2025年6月就因枪枝暴力相关内容标记并封锁了枪手的ChatGPT账号,但认定未达"立即且可信的严重身体伤害风险"门槛,没有通知警方。
后果是幸存者与家属陆续提告,9月初再添30起诉讼。卑诗省政府9月21日在加州控告OpenAI与执行长Sam Altman,主张若公司事先通报,枪击案本可避免。
佛州的位置更有意思。检察总长James Uthmeier在2025年6月1日控告OpenAI与Altman,成为第一个提告的州,指控ChatGPT"协助并教唆"大规模枪击者。近4个月后,同一个州的警长办公室,逮捕了一名被Anthropic通报的用户。
圣塔克拉拉大学法学教授Eric Goldman对媒体说,网络公司不通报,万一出事要承担重大责任;但随着这些公司越来越被讨厌,它们面临愈来愈大的过度揭露压力,明知被点名的交给执法单位的人当中,有些根本不该成为目标。
结语:AI不是私密日记本,内容可能被平台读取并通报
本文基于公开媒体报道整理,仅作信息参考,不构成任何投资依据,内容以原文为准。