可以运用在哪些场景
- 端侧与轻量服务:1B/4B 用于移动端、浏览器插件或低成本 API 的摘要、分类、改写与简单问答,降低推理开销。
- 长文档理解:128K 上下文适合合同、论文、代码库说明等长文本的阅读、抽取与对话式分析(注意 1B 上下文为 32K)。
- 图文多模态应用:结合视觉能力做图片问答、图表/界面理解、图文内容审核与辅助标注。
- 多语言产品原型:在多语言指令与对话能力增强的基础上,快速搭建面向多语种用户的客服或知识助手原型。
- 分层推理架构:小模型做路由/初筛/结构化抽取,大模型处理高难推理,整体优化成本与响应速度。
