Anthropic 高管警告开源 AI 模型存在更高风险 强调需谨慎对待安全问题

·作者 Henderson·AI
Anthropic 高管警告开源 AI 模型存在更高风险 强调需谨慎对待安全问题

Anthropic 的国际业务负责人纪尧姆·普林森(Guillaume Princen)在都柏林举行的国际 AI 峰会上接受彭博电视采访时表示,与该公司自家的 AI 模型相比,开放模型在网络安全事件或其他危险方面存在「更高风险」。他指出,对于安全问题,必须对开源模型格外谨慎,并强调无法代表开放模型发表看法,但从定义上来看,这些模型的风险的确较高。

这一表态背景是,Anthropic 在部分国家正面临日益激烈的竞争。当前受到关注的闭源模型替代方案为开放权重 AI 模型,这类模型会公开参数,允许用户自行修改,并可在自己的硬件上运行。支持者认为,相较于 Anthropic 和 OpenAI 提供的严格受控的闭源模型,开放权重模型的成本更低,且更有利于维护国家主权。法国 AI 公司 Mistral AI 近期便推出了一款开放权重模型,为欧洲提供了主权模型的替代选项;同时,中国公司推出的一系列类似开放模型也在海外市场获得越来越多的关注。

Anthropic 对开放模型的安全担忧持续增加

Anthropic 近期不断加强对 AI 能力的警告。本周早些时候,该公司警告小型 AI 模型可能很快催生一种新型僵尸网络,能够在智能烤箱等联网的小型设备之间自我复制。普林森同时负责 Anthropic 面向创业公司和「数字原生」企业的销售业务。他表示,对开放权重模型的担忧源于 Anthropic 为保障产品安全所做的努力。在发生多起备受关注的 AI 黑客事件后,Anthropic 表示已增加额外的安全防护措施,以防止其模型被用于恶意行为。

该公司还一直主张,在建立国际标准、形成统一的评估机制之前,应放缓 AI 的发展步伐。

谈及自家价格较高的模型时,普林森指出,他会告诉企业客户,购买性能更强的模型最终会带来回报。「要始终投资前沿技术。因为从现在起的六个月、一年或两年后,这类应用场景的使用成本也会下降。」他表示。此外,他提到,公司最新的 Claude 模型 Opus 5.5 比此前的版本便宜 40%。他还补充说,购买 Anthropic「前沿」模型的企业客户在公司业务中占据「非常大的比重」,但没有透露具体数据。

关于 Anthropic 的 IPO 计划,普林森拒绝置评;对于公司在训练新模型上投入了多少资金,他也不愿透露。

H
关于作者
Henderson