NVIDIA最新研究指出，AI agent领域的主流观念将被颠覆：大规模LLM并非始终最佳选择，体积小、效率高的Small Language Models（SLMs）更适合多数agentic任务。
• 现状：多数AI agent用大型LLM（如GPT-4、Claude）处理所有任务，资源浪费严重。
• SLM定义：可在普通消费设备运行，低延迟，适合重复性、范围受限的任务，如文档摘要、信息提取、模板生成和工具调用。
• 性能对比：Phi-3、Nemotron-H、SmolLM2等SLM已匹敌甚至超越旧版大型模型，工具调用、推理和指令遵循表现优异。
• 典型案例：Toolformer（6.7B参数）胜过GPT-3（175B）；DeepSeek-R1-Distill（7B）超越Claude 3.5与GPT-4o。
• 经济性：运行成本低10–30倍，能耗更少，响应更快，支持本地部署，且微调便捷（LoRA、QLoRA技术）。
• 适用性：更易符合严格输出格式要求（JSON、XML、Python代码），适合高可靠性需求agent。
• 架构建议：主用SLM，必要时调用LLM，构建模块化agent，提升成本效益和系统可控性。
• 迁移路线：数据收集→任务聚类→SLM微调→替换LLM调用→持续迭代。
• 实际替代率：MetaGPT约60%，Cradle约70%，Open Operator约40%，且替代潜力持续上升。
• 产业障碍：巨额LLM基础设施投资、偏向通用性基准测试、SLM缺乏足够关注，非技术瓶颈。
• 未来趋势：AI agent将迎来“微服务”式分解，SLM将成为主流，带来速度、成本和灵活性的革命。
完整论文详见🔗arxiv.org/abs/2506.02153
人工智能 小型语言模型 AI代理 机器学习 模型优化 NVIDIA研究
