人工智能安全成为百亿美元市场，吸引1亿美元投资

人工智能模型的安全保护竞赛刚刚迎来了一个重要的篇章。位于奥斯丁的初创公司HiddenLayer专注于人工智能模型、代理和工作流程的安全，完成了一轮由Delta-v Capital主导的1亿美元B轮融资，参与者包括摩根士丹利、微软的风险投资部门M12和博思艾伦汉密尔顿。

这一投资反映了数据早已发出的信号。根据Gartner的估计，到2026年，企业在人工智能安全工具上的支出将达到28.3亿美元，比前一年增长83%。预计到2027年，这一数字将接近47.8亿美元。

三年前，当HiddenLayer完成5000万美元的A轮融资时，最大的疑问是，人工智能系统面临的风险是否会以足够的规模显现，从而证明有必要建立一个专门的市场。答案比许多人预期的来得更快。

HiddenLayer的首席执行官兼联合创始人Chris Sestito透露，该初创公司的年度经常性收入在过去12个月内增长了十倍以上。尽管没有透露确切数字，但他表示，当前的年度经常性收入已达到“数千万美元”。其中90%以上的增长来自于去年签约的新客户。

公司的主要客户包括金融机构和大型科技公司，这些公司正在开发人工智能产品。该初创公司还与美国国防部和情报社区保持合同关系。在其客户中，有一家“领先的前沿模型提供商”，每周拥有“超过7亿用户”，这指向了行业中的一个大牌。

对于关注科技生态系统的人来说，这一增长表明，人工智能安全不再是一个投机性的细分市场，而是巩固为一种必要的基础设施。

HiddenLayer的产品组合围绕四个支柱展开：模型发现、运行时保护、攻击模拟和供应链安全。与2023年相比，变化在于范围。该初创公司需要扩展每个产品，以应对诸如提示注入、自治代理操控和恶意使用连接到模型的工具等威胁。

“推理仍然是推理。无论是在传统的机器学习模型中、生成性人工智能中，还是在代理工作流程中，我们的许多技术仍然适用。我们不需要转型，但需要扩展我们的范围，”Sestito解释道。

运行时保护，特别是，已成为优先事项。Sestito将该解决方案与传统的端点检测和响应工具（EDR）进行了比较，但专门应用于人工智能领域。这是一个合理的类比：正如端点在云计算时代需要专门的保护一样，人工智能模型在生产中也需要对操控和意外行为进行持续监控。

HiddenLayer提出的一个最重要的观点涉及开源模型。该初创公司分析和扫描约50种不同的人工智能框架，以确保开发者使用的工具确实是它所声称的那样。

“我们看到一些模型表面上看起来是某种东西，但实际上是另一种。模型隐藏在模型之中，”Sestito表示。这种威胁尤其重要，因为开源模型的采用迅速增长。像Hugging Face这样的平台托管着成千上万的模型，任何开发者都可以下载并集成到他们的系统中。

这种风险并非假设。随着企业将第三方模型集成到关键业务流程中，验证这些模型的完整性变得与传统软件库中的代码审计同样重要。这是与DeFi智能合约生态系统面临的未审计代码依赖问题相似的问题。

HiddenLayer并不是在这个市场中孤军奋战。像Noma和Zenity这样的初创公司已经各自筹集了超过1亿美元，以攻克与人工智能安全相关的相邻或重叠领域。同时，像思科、帕洛阿尔托网络和Check Point这样的网络安全巨头历史上更倾向于收购小公司，而不是从零开始构建解决方案。

Sestito承认，HiddenLayer提供的一些功能最终可能会被微软、OpenAI和AWS等公司的平台所整合。然而，他认为这些平台的人工智能基础设施将更多地朝着治理、身份和政策控制的方向发展，而不是HiddenLayer所构建的运行时保护类型。

B轮融资的资金将主要用于销售和分销，以及扩展到欧洲和EMEA地区。工程和研究团队也将扩大，但目前的优先事项是商业化已经有效的产品。

人工智能安全投资的激增反映了技术采用周期中的一个已知模式。首先是实施的竞赛。然后是保护的竞赛。这一模式在云计算、移动设备和区块链基础设施中都曾出现过。现在，它在人工智能领域再次上演。

不同之处在于速度。云安全市场几乎花费了十年时间才成熟。人工智能安全市场在两到三年内形成，得益于企业对生成模型和自治代理的快速采用。

对于投资者和技术管理者来说，信息很明确：安全的账单不是可选的。它与部署同时到来。谁能首先在规模上解决这个问题，谁就能在一个预计到2027年将超过47亿美元的市场中占据重要份额。

本内容仅供参考，不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息，不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性，存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。