AI安全初创公司Irregular获8000万美元融资以加强AI安全

Irregular作为AI安全领域的新兴领导者，已在由红杉资本和Redpoint Ventures领投的融资轮中获得8000万美元资金，Wiz首席执行官Assaf Rappaport参与跟投。此次投资使公司估值达到4.5亿美元，凸显投资者对AI安全解决方案日益增长的信心。

图片来源说明：该图片由AI生成，图片授权服务来自Midjourney

开创性AI风险评估

成立之初名为Pattern Labs的Irregular已成为AI模型评估领域的关键参与者。其框架被常规用于评估如Claude3.7Sonnet和OpenAI的o3/o4-mini等主流模型的安全性。该公司用于模型漏洞检测的SOLVE评分系统已成为行业标准。

"我们正在为一个大多数交易将涉及人机交互或机机交互的经济体做准备,"联合创始人Dan Lahav解释道,"这些交互将从根本上挑战现有的安全范式。"

模拟未来的威胁

新资金将加速开发Irregular专有的模拟环境，这些环境可在部署前对AI模型进行压力测试。这些复杂网络让AI既扮演攻击者又扮演防御者相互对抗，在受控条件下暴露漏洞。

"我们的模拟展示了防御体系在哪里有效、在哪里崩溃,"联合创始人Omer Nevo表示,"这种主动方法让我们能在模型投入生产前识别新型风险。"

不断扩展的AI安全前沿

此次投资正值全行业对AI安全的关注度高涨之际：

• OpenAI最近全面改革内部安保以防止企业间谍风险
• 先进模型现已展现出发现软件漏洞的前所未有的能力
• 各国政府正在对高风险AI应用实施更严格监管

"如果实验室继续构建更强大的模型，我们就会持续开发保护它们的方法,"Lahav指出,"这是一场无止境的竞赛，但对负责任的AI发展至关重要。"

关键要点：

• 💰 8000万美元融资轮, 估值4.5亿美元
• 🔍 专注于部署前的风险识别
• ⚔️ 使用对抗性模拟测试模型防御能力
• 🛡️ SOLVE框架被广泛采用进行漏洞评分
• 🌐 应对人机/机机交互带来的新兴威胁