女子把Claude当日记写,Anthropic主动通报警方逮捕

发布时间:2026-10-06 12:00:16 UTC+8 约 2045 字 7 个小节
女子把Claude当日记写,Anthropic主动通报警方逮捕

很多人以为跟AI聊天是件私密的事,打的字只有自己和AI知道。但最近佛州发生的一起案件,打破了这种认知。当地一名女子把Claude当成日记本用,在上面写下要扫射警长办公室的想法,结果Anthropic的人工审查员读到了这些内容,直接通报执法部门,女子随后被逮捕。这件事把AI平台的隐私问题推到了台面上——你打的每句话,平台到底能不能看到?什么时候会主动报给警察?

AI对话真的是私密空间吗?

这起事件的核心问题就是:用户在AI产品上写的东西,平台到底能不能读取?答案是,能,而且有时候会主动看。

佛州Bonita Springs的Carli Michelle Heller就是这么被警方带走的。据WINK News报道,9月26日,一名自称"Carli"的用户在Anthropic的AI产品上写下要"扫射"Lee County警长办公室。第二天,同一个用户又写下自己"弄到一把新枪"。

这些内容被系统标记后,交给了人工审查团队,审查员确认内容具有威胁性后,主动联系了执法单位。警方确认身份后上门,她没有抵抗就被带走了。

Anthropic的安全监测机制是怎么运作的?

根据报告,Anthropic的AI产品设有安全措施,会监测关键字与可能具威胁性的内容。这些监测是自动化的,系统会对每段对话打出风险评分。

关键在于,自动化系统标记的内容,触发阈值后会被升级交给人工审查团队。这次事件中,正是人工审查员读到了那些威胁性陈述,才促成了后续的警方通报。

女子把Claude当日记写,Anthropic主动通报警方逮捕

服务条款里平台给自己留了哪些权利?

很多人注册AI产品时不会仔细看条款,但这次事件让条款里的具体规定浮出水面。

Anthropic的消费者服务条款写得很明确:平台保留"自行裁量"把用户输入、输出或行为通报执法单位的权利。隐私权政策(2026年9月10日生效)则说,基于善意相信,为了"防止任何人或财产遭受严重伤害",可以把个人资料交给政府机关或执法单位。

资料保留期限更值得注意。用户自己删除的对话,30天内从后端删除;但被自动化信任与安全机制标记为违反使用政策的对话,输入与输出最长保留2年,信任与安全分类分数最长保留7年。这意味着,即便你事后删除了对话,如果当时被系统标记过,内容可能还留着的。

法律层面:日记算不算"书面威胁"?

佛州法条836.10对书面暴力威胁有具体规定:要以"可能被他人看到的方式"传送、张贴或传输书面或电子记录,并在其中威胁杀害或伤害他人、发运大规模枪击或恐怖行动。

矛盾就藏在这里。当事人把AI当日记用,但人工审查员确实读到了日记内容。对聊天机器人打字,算不算"传给另一个人看",目前没有定论。

退休FBI特别探员Richard Kolko的说法是:"这一切对世界都是新东西,法院还在摸索。"这个问题要等法院来回答。

女子把Claude当日记写,Anthropic主动通报警方逮捕

另一个案例:威胁CEO却没被逮捕,平台处理有区别吗?

上个月的另一起案例,更能看出这套机制的松紧。据《旧金山标准报》取得的警方报告,8月14日下午,一名男子涉嫌在Claude对话中写下自己买了把AR-15半自动步枪,并把Anthropic执行长Dario Amodei放进"瞄准镜里"。4天后,Anthropic才通知旧金山警局。

有意思的是,警方报告记载,接触警方的Anthropic员工表示并不立即担心安全,但希望留下记录,且因公司政策拒绝出示对话内容。该男子对媒体说,他是在胡闹,觉得很丢脸。他没有被逮捕,也没有被起诉。

对比一下:威胁警长办公室导致立即被捕,威胁平台CEO却没有后续。Anthropic发言人称这是"防护流程照设计运作",却拒绝回答针对自家员工的威胁,处理方式是否有别于其他提到枪枝的对话。

平台为什么越来越爱主动通报?

这背后其实有商业逻辑。2026年2月10日,加拿大卑诗省Tumbler Ridge发生校园枪击案,造成8人死亡,枪手是18岁的Jesse Van Rootselaar。OpenAI早在2025年6月就因枪枝暴力相关内容标记并封锁了枪手的ChatGPT账号,但认定未达"立即且可信的严重身体伤害风险"门槛,没有通知警方。

后果是幸存者与家属陆续提告,9月初再添30起诉讼。卑诗省政府9月21日在加州控告OpenAI与执行长Sam Altman,主张若公司事先通报,枪击案本可避免。

佛州的位置更有意思。检察总长James Uthmeier在2025年6月1日控告OpenAI与Altman,成为第一个提告的州,指控ChatGPT"协助并教唆"大规模枪击者。近4个月后,同一个州的警长办公室,逮捕了一名被Anthropic通报的用户。

圣塔克拉拉大学法学教授Eric Goldman对媒体说,网络公司不通报,万一出事要承担重大责任;但随着这些公司越来越被讨厌,它们面临愈来愈大的过度揭露压力,明知被点名的交给执法单位的人当中,有些根本不该成为目标。

女子把Claude当日记写,Anthropic主动通报警方逮捕

结语:AI不是私密日记本,内容可能被平台读取并通报

关键词 Claude日记隐私Anthropic监控机制AI对话安全

本文基于公开媒体报道整理,仅作信息参考,不构成任何投资依据,内容以原文为准。

更多资讯

全部资讯 →