Tavus Griffin AI通过图灵测试引诈骗和精神病风险担忧
AI公司Tavus近日发布了一款名为Griffin的视频通话机器人,声称该系统已通过视频图灵测试,能够在实时对话中让相当比例的人类相信他们正在与真人交流。这一声明在社交平台X上发布后迅速引发关注,相关帖子的浏览量已超过13 million views。技术伦理专家和行业观察者对这项技术提出强烈质疑,认为其可能成为针对老年人实施诈骗的工具,甚至被用于诱导精神疾病发作。
Tavus的图灵测试声明是怎么回事?
图灵测试是人工智能领域最经典的能力评估标准之一,用于判断机器是否能让人类相信其具有人类智能。Tavus介绍Griffin时声称,这是首个通过视频图灵测试的模型。在其实验中,48%的参与者在实时对话后认为自己在与真实人类交流,而此前类似系统的通过率通常低于3%。Tavus还表示,Griffin在NVIDIA的全双工AI视频基准测试中位列第一,号称首个“人类交互模型”(Human Interaction Model,简称HIM)。不过需要注意的是,Tavus发布的图灵测试结果尚未经过独立验证,其原始帖子上已标记有社区注释提示“结果未经独立验证,并非基于标准协议”。
Griffin为何被指存在诈骗风险?
尽管Tavus强调技术突破,但不少观察者从安全角度提出了担忧。科技记者Kevin Roose直言,Tavus“本质上制造了一台专门欺骗老年人交出银行密码的机器”。Twitch主播Mako Fukasame也评论称,该系统的明显用途就是“掏空你祖父母的积蓄,或者在求职面试中拒绝你”。这些担忧并非空穴来风——近年来,以视频或语音为媒介的AI诈骗案件在全球范围内呈上升趋势,而Griffin这类能够实时生成逼真人物形象的AI系统,理论上可以被用于伪造身份、模拟熟人,甚至冒充客服实施欺诈。
精神健康风险同样引发关注
除了诈骗风险,部分研究者还指出了更深层的心理危害。有观点认为,AI系统能够让人相信自己在与真人视频交流,“没有任何正当理由让AI具备这种在视频聊天中欺骗人类的能力”。2025年曾发生一起令人警醒的案例:一名76岁的老人相信Facebook上的AI聊天机器人“Big sis Billie”是真实存在的人,并接受了其前往纽约公寓的邀请。在赴约途中,老人不幸摔倒,数日后伤重不治。此外,去年OpenAI因一起诉讼被卷入风波,原告声称ChatGPT唆使未成年儿子自杀;一年后又有针对Google Gemini的类似诉讼,涉及一名36岁男性。这些案例均指向文本类聊天机器人,而视频交互AI的潜在影响只会更加严重。
Tavus对安全质疑的回应
面对外界质疑,Tavus似乎已意识到Griffin的安全风险。该公司表示,由于系统具备欺骗用户的能力,在正式公开释放前需要“考虑安全因素”。截至发稿时,Griffin仅面向研究机构开放,尚未对普通用户开放体验渠道。媒体已就相关问题联系Tavus,如有回应将持续更新报道。
结语:技术突破与风险管控需要并行
从技术发展角度看,Griffin确实代表了AI视频交互领域的一次进步;但从社会影响角度看,其潜在的诈骗和精神健康风险不容忽视。在缺乏完善监管框架的情况下,此类技术的开放程度和部署边界值得整个行业深思。
本文基于公开媒体报道整理,仅作信息参考,不构成任何投资依据,内容以原文为准。