导语

近两年LLM应用落地进入深水区，不少团队都卡在了两个核心瓶颈上：要么调用高端模型成本高企，单客LTV跑不赢API支出；要么上线后面临prompt注入风险，尤其是web agent类应用很容易被恶意内容劫持执行高危操作。过去这两块能力要么依赖价格昂贵的商业LLM网关，要么需要团队投入大量研发资源自研，中小团队很难负担。近期两款新工具的发布，直接把这两块能力的使用门槛降到了近乎为零。

事实综述

本地成本分析工具Frugon：零数据泄露实现调用成本砍半

近期开源的Frugon是一款MIT协议的本地LLM成本分析工具，核心定位是帮团队找出哪些LLM请求可以切换到更便宜的模型，全程不需要把业务数据或API密钥上传到第三方服务器。

Frugon的使用流程非常轻量：如果团队还没有统一的LLM调用日志，只需要开启Frugon自带的本地代理，把业务代码里的大模型API endpoint指向本地代理地址，就能自动采集所有请求和返回的日志，全程不会修改请求内容，也没有额外延迟。如果已经有现成的调用日志，只要是符合OpenAI格式的JSONL日志就能直接导入分析。

分析阶段，Frugon会基于本地同步的各模型定价和公开质量榜单数据，自动拆分历史请求：简单、重复的请求推荐切换到低价模型，高难度推理请求保留在原有高端模型上，最终给出明确的成本优化空间和路由方案。官方给出的测试数据显示，通用混合 workload 平均能省30%-50%的调用成本，客服、数据ETL等重复请求较多的场景最高能省85%的成本。在官方提供的5.61万条请求的demo数据中，将合适的请求从GPT-5.5切换到DeepSeek-V4-Flash后，月度成本从549美元降到343美元，降幅达37.4%。

Your data never leaves your machine. Your keys go straight to your own providers. Nothing reaches us. —— 来自Frugon官方GitHub仓库

如果担心切换模型后质量下降，还可以开启--measure参数，用自己的API密钥在本地实测不同模型处理真实请求的效果，验证通过后再正式切换，完全不会泄露业务数据。

Prismata：零标注实现web agent prompt注入防护

针对web agent类应用常见的跨站prompt注入风险，来自学术圈的最新研究成果Prismata提出了一套几乎不需要开发成本的防护方案。

过去web agent的注入防护大多依赖输入过滤，很容易被变种攻击绕过，而且需要开发者针对不同网站写规则，无法覆盖长尾站点。Prismata的核心思路是上下文最小权限控制：首先基于经典的完整性模型动态给页面内容打权限标签，就算标签打错也只会降低权限不会升高，从底层避免权限溢出；然后自动红敏低权限的不可信内容，同时限制agent在不同页面的操作权限，哪怕攻击者成功注入了指令，agent也无法执行高危操作。

这套方案完全不需要开发者做额外标注，就能覆盖所有公开网站。测试结果显示，Prismata可以抵御几乎所有已公开的web agent注入攻击，同时不会影响正常任务的执行效率。

解读与评价

这两款工具的出现，直接补齐了LLM生产落地的两块核心短板，对国内开发者的价值尤其明显：

首先是合规性优势，两款工具都不需要把业务数据上传到第三方服务器，Frugon全程本地运行，Prismata也可以部署在自有服务器上，完全符合国内数据安全和等保要求，不需要担心数据出境风险。

其次是成本优势，过去LLM成本优化大多依赖商业网关，一年服务费动辄十几万，现在用Frugon只需要几个命令就能得到准确的路由建议，还可以基于开源代码适配国产大模型的定价体系，快速测算切换到DeepSeek、通义千问、文心一言等国产模型的成本收益，完全不用拍脑袋做决策。

第三是安全门槛大幅降低，过去做web agent的团队要花几个月时间自研注入防护规则，现在集成Prismata就能覆盖绝大多数攻击面，尤其是做浏览器自动化、智能客服、企业内部助手的团队，完全可以直接引入验证，大幅缩短产品上线周期。

不过需要注意的是，Frugon的默认路由建议是基于公开榜单的离线估算，正式切换前一定要开启--measure参数实测自己业务场景下的模型输出质量，避免出现质量下降的问题；Prismata目前仅在英文测试集上验证了效果，中文场景下的适配还需要额外测试。