I ripped out almost all of my lipgloss calls and replaced them with hand-rolled functions for concatting and measuring strings. These functions weren’t nearly as general, but that’s fine - they worked for my use case.
我在《把离线AI智能体装进口袋里》（The Dawn of Offline AI Agents in Your Pocket）一文中对此进行了详细阐述。但文章中的示例更像是Demo，而非生产解决方案。像 Gemma 3n 这样的模型虽然能够很好地处理函数调用，但它们体积过大：无法集成到应用程序包中，需要单独下载，即使在旗舰机型上推理速度也很慢。在低端设备上，它们根本无法运行。而较小的型号则经常出现故障，难以记住工具。
，这一点在同城约会中也有详细论述
大模型有一些结构性弱点，直接限制了智能体在真实业务中的应用价值，因此智能体工程的一大核心工作，就是在模型外围，用工程手段补齐短板、设置边界、约束行为。
Subscribe today
https://feedx.site