英特尔赋能百度文心一言4.5边缘计算

百度于6月30日开源其文心一言4.5系列，包含十款前沿模型，在AI界引发强烈反响。本次发布包括：

• 激活参数达470亿和30亿的混合专家模型
• 参数为3亿的稠密模型
• 预训练权重及推理代码以方便开发者使用

与英特尔的技術协同

英特尔通过其OpenVINO工具包在百度发布后数小时内完成边缘端适配，展现出卓越的技术敏捷性。该优化支持在英特尔酷睿Ultra平台上部署，主要优势包括：

• 硬件加速
• 跨平台兼容性
• 增强的推理性能

此次合作基于2021年建立的伙伴关系，当时团队已为OpenVINO部署适配了多个飞桨模型（包括PaddleOCR和PaddleDetection）。

性能突破

文心一言4.5系列在以下方面实现显著进步：

• 多模态理解
• 文本生成
• 逻辑推理

独立基准测试表明，该模型在多类任务中超越GPT4.5，同时API成本仅为GPT4.5定价的1%。

核心要点

• 百度开源10个具备商用级权重的AI模型
• 英特尔通过OpenVINO优化实现当日边缘部署
• 模型以极低成本展现优于GPT4.5的性能表现
• 合作支持飞桨模型直接转换为OpenVINO格式