Anthropic首席执行官Dario Amodei公开呼吁对人工智能实施更严格的强制性监管,主张政府应有权阻止存在安全风险的AI模型上线部署,此举与特朗普政府当前推行的自愿合规路线形成明显分歧。

Amodei周三在一篇长文中提出,AI模型应强制接受第三方测试,涵盖网络安全威胁及生物武器等多个风险维度。

他写道,若某一模型被认定"存在不可接受的风险","政府应有权阻止或限制其部署"。这是他迄今就AI监管发出的最强烈表态之一。

上述立场与白宫现行政策存在明显落差。特朗普本月初签署行政令,要求政府对AI模型仅获取自愿提交的访问权限,并未要求开发商在部署前寻求明确审批。

监管主张:从透明度走向强制约束

Amodei在文中援引汽车、飞机及药品作为类比,认为AI与上述技术同属现代经济不可或缺的强大工具,但若设计或运营不当,同样有能力造成大规模伤亡。

"现在是时候从透明度迈向更严肃、更具约束力的AI监管了,"他写道。他同时警告,全球政策机制反应迟缓,而AI带来的风险与机遇将"出乎意料地迅速复合叠加"。

就在上周,Anthropic还呼吁建立一套机制,由各国政府与AI开发商共同决定何时放慢研发节奏,以应对潜在危险。两度公开表态显示,该公司正将推动监管框架建立作为其战略优先事项之一。

Mythos模型:能力边界引发的内部抉择

Amodei在文中以Anthropic旗下新模型Mythos为例,称其"完美展示了AI的惊人能力与潜在风险"。

Anthropic此前披露,Mythos具备识别并利用关键软件漏洞的能力,公司因此决定将该模型的访问权限仅开放给少数合作伙伴。周二,Anthropic另行发布了一个剥离网络安全功能的版本,向更广泛用户开放。

这一系列决策折射出AI前沿开发商在产品能力与安全边界之间的内在矛盾——在对外呼吁监管机构介入的同时,企业自身已在进行类似"监管"性质的自主筛选与限制。

政策分歧:行业呼声与政府路线的错位

Amodei的表态将Anthropic置于与当前联邦政策方向相左的位置。特朗普行政令倾向于以自愿机制替代强制审批,体现了本届政府在AI领域总体上减少监管干预的施政取向。

Anthropic长期以"负责任的AI开发者"自我定位,此番公开主张政府获得强制介入权,意味着其有意在监管议题上扮演更积极的推动角色。

然而,在华盛顿政策环境偏向宽松的背景下,此类呼声能否转化为实质性立法或监管行动,仍存在较大不确定性。