LFM2.5 模型让 AI 智能体在设备本地运行

Liquid AI 在 Hugging Face 上发布了一篇关于 LFM2.5-24B-A2B 模型的文章,主打让智能体直接在设备上快速、私密地运行。从型号来看,模型总参数约 240 亿,生成回答时实际调用约 20 亿,这类设计通常能节省算力。

这件事的意义在于:智能体完成一项任务要反复调用模型,读文档、调用工具、规划步骤。放在云端,每一环都带来延迟和费用,数据也要离开企业边界。本地运行可以缓解其中一部分问题,对财务、人事和合同类信息尤其有价值。至于质量表现和硬件要求的具体数据,建议查看原文,并用自己的业务任务实测。

不妨先列一份清单:哪些数据绝不能离开公司,比如银行流水、工资、合同和客户库。1Cifer 平台遵循同样的思路:每个岗位有自己的智能体,对 1С、CRM 和银行数据的访问权限由公司结构决定,并在受保护的环境中运行。有了这份清单,再决定哪些任务在本地处理、哪些可以放心交给云端。