一、项目名称：大模型平台建设项目二、采购内容简介我行启动大模型平台建设项目。具体如下：（一）业务目标1.具备面向全行提供大模型API接口服务的能力，支持全行各系统调用大模型API的需求。2.具备面向全行提供知识管理（RAG）API接口的能力，支持全行各系统调用知识管理能力的需求。3.具备通用报告编写能力，可以支持多种类型的报告编写。后续，基于本项目建设的基础能力，还将继续拓展其他业务领域的应用。（二）技术目标1.建设大模型管理平台，兼容主流大模型和计算资源，支持模型部署、模型调用等统一管理等功能，具备后续进一步扩展的能力。2.建设智能体开发平台，支撑各类智能应用的开发及运行。3.建设企业级大模型知识管理底座（包括RAG、向量库及向量模型等）、通用报告编写功能，支撑各类知识管理及报告编写。（三）业务功能1.建设通用报告编写能力，支持多种类型的报告编写。2.建设大模型知识管理底座，支持全行相关系统知识管理业务场景。3.模型层：（1）发送消息前即可实时预估输入token消耗，发送后可查看首token时长、平均token速度，总耗时，共调用token数等。（2）平台支持深度思考模型的思考过程及对话过程。（3）平台提供多模型体验对比功能，让用户能够在同一平台上对多个模型进行深入的分析和比较。（4）会话中加入新模型后，可选择模型同步上线，自动批量将历史信息作为上下文发送新模型，进行对比。（5）用户可通过本地部署模型。（6）支持单机和分布式部署，支持服务限流。（7）支持动态量化，模型服务部署时可配置量化策略。支持设置优雅关停时间。（8）提供本地模型服务资源的使用量和使用率信息。（9）本地模型服务提供常见语言的模型调用代码示例。（10）可接入外部公有云模型SaaS服务，并可在应用使用统一的API key对本地部署及外部模型进行权限管理和调用，支持体验外部模型功能。4.平台层：（1）具备完善的智能体构建、管理、部署等功能。支持智能体限流，有效控制大模型消耗。（2）支持主流模型，支持模型参数暴露和调优。（3）支持长期记忆能力。（4）支持多版本发布管理、配置还原、发布和审批。（5）用户可以通过拖拽组件的方式，快速构建工作流程，具有丰富的节点类型。（6）RAG知识库支持常见数据类型、切分方式和检索模式。支持在线下载文档，在线文档支持自动更新。支持对接外部非结构化知识库，支持对接外部向量库。（7）具备完善的用户和权限管理功能，支持租户隔离。（8）具备完善的 MCP开发、管理功能。（9）支持在后台展示智能体相关统计数据。（10）支持安全性评测、监控和管理。如：违规内容、隐私泄露、偏见歧视、伦理道德等。（四）系统非功能需求：支持全栈信创服务器和客户端环境，比如：统信或麒麟操作系统、宝兰德或东方通中间件、OceanBase数据库、宝兰德缓存Bcs、信创计算机终端、信创浏览器等；系统支持IPV6。
本招标项目仅供 正式会员查阅，您的权限不能浏览详细信息,请点击注册/登录，请联系工作人员办理入网升级。
联系人：王越
电话：010-68819835
手机：13661355191 (欢迎拨打手机/微信同号)
邮箱：wangyue@zbytb.com
下载招标公告:北京农商银行大模型平台建设项目供应商征集公告.pdf
