美国司法部成立超级智能专项组,追查人工智能滥用并强化内控
美国司法部对人工智能风险的应对,不只停留在追查违法使用者。新设的超级智能专项组还把开发企业的内部控制、风险报告和应对措施纳入关注范围,要求企业加强防护,让技术按照预期运行。
这里容易混淆的是,专项组名称中的“超级智能”,不代表官方已经确认这种技术实现。这个词通常指在各方面超越人类能力的假设性人工智能。本次公布的是执法安排,以及司法部对企业风险管理的要求。
超级智能专项组由谁牵头?
美国司法部超级智能专项组的英文简称是 DOJ-SITF,由 Stanley Woodward 和 Stephen Weiss 牵头。司法部将其任务描述为防止不法行为主体损害美国在超级智能领域的领先地位。
司法部长 Todd Blanche 表示,专项组将与 SI Force 主席 Jay Clayton 合作,防止关键人工智能技术被境内外不法行为主体操纵。他同时表示,司法部将继续识别并起诉违法使用相关技术的人。
这项安排并不是面向普通用户发布的新产品,而是司法部围绕先进人工智能滥用建立的执法组织。
哪些人工智能滥用会被追查?
专项组明确提到的对象,包括外国政府及其代理人、跨国犯罪组织,以及利用人工智能实施欺诈或其他犯罪的企业和个人。判断重点在于技术如何被使用,以及相关行为是否违法,而不是仅凭使用了人工智能就认定存在问题。
Blanche 列出的关注范围,还包括恶意针对美国纳税人、美国关键基础设施或国家安全其他方面的行为。人工智能滥用执法因此不只涉及欺诈,也覆盖可能危及关键系统与国家安全的违法使用。
目前公布的信息没有列出具体案件,也没有公布针对某家开发企业的调查结果,不能把专项组成立理解为已有企业被认定违法。
开发企业为什么也要加强内控?
Stephen Weiss 的表态解释了专项组另一部分工作:司法部认为,自身有责任加强对超级智能风险及应对情况的定期报告,并确保企业实施严格的内部控制,让技术按照预期运行。
说白了,追查使用技术实施犯罪的人,与要求开发企业加强防护,是不同的工作。前者围绕违法行为展开,后者关注企业如何管理技术风险。专项组的职责同时涉及这两个方面。
不过,司法部尚未公布统一的报告模板、内部控制检查清单或具体执行流程。现阶段能够确认的是加强风险报告与企业内控的方向,而不是已经形成了可供企业逐项对照的完整规则。
这与其他人工智能监管有何关系?
这项安排处在美国联邦机构扩大人工智能风险应对工作的背景下。美国证券交易委员会已将“超级智能”纳入检查重点,美国货币监理署也发布了人工智能框架。相关报道还提到,银行正面对异常智能代理触及客户账户的风险。
此外,Donald Trump 签署了涉及人工智能监管的行政命令,引发联邦与州之间围绕监管权限的争议。这些动作涉及不同机构和职责,不能直接视为由司法部专项组统一管理。
司法部没有说明专项组的具体工作时间表,也没有详细交代如何与其他机构协调。已公布的口径是促进创新、防止技术被滥用,跨机构分工的细节仍未披露。
结语:执法与企业内控同步推进
这次成立专项组的明确变化,是司法部把追查先进人工智能的违法使用,与推动开发企业加强内控和风险报告放在同一项工作中。具体怎么检查、如何报告、怎样跨机构协作,目前没有公布完整安排。
如果你是搜索MINA销毁机制进入本页,这篇报道并未涉及该主题,也没有提供相关机制说明。这里介绍的是美国司法部的人工智能执法安排,两者不能混为一谈。
本文基于公开媒体报道整理,仅作信息参考,不构成任何投资依据,内容以原文为准。