BISHENG

已跟踪

一个面向企业场景的开源 LLM DevOps 平台,提供工作流、RAG、模型管理与观测等功能。

作者 DataElement 开源时间 2023-08-28 最近提交 未知

BISHENG 是一个面向企业场景的开源 LLM DevOps 平台,旨在帮助用户构建下一代企业 AI 应用。它将大模型能力组织为可编排、可观测、可管理的企业应用,融合工作流编排、检索增强生成(RAG)、模型管理与评估等模块。

工作流编排

  • 可视化流程图式工作流构建,支持循环、并行、条件与批处理
  • 内置混合编排引擎,在单一框架内支持顺序、并行、循环等多种执行模式
  • 运行时支持人工干预,确保复杂业务场景下的可靠执行

RAG 与知识库管理

  • 集成 RAG 管线,提升文档理解与长上下文能力
  • 包含印刷体、手写体、表格与布局等高精度文档解析模型
  • 支持私有化部署,满足企业对敏感数据的安全合规要求

多智能体与企业运维

  • 内置多智能体支持,便于实现异构模型协作与任务拆分
  • 提供 RBAC、SSO、审计、监控与高可用部署等企业级运维方案
  • 统一管理模型版本、Finetune/SFT 流程与数据集并提供评估与基线对比

架构与部署

  • 基于微服务与容器化架构,支持外部组件(Elasticsearch、Milvus 等)集成
  • 深度组件化与参数化设计,方便在金融、政务、制造与服务类行业落地
  • 支持文档审阅、报表生成、客服辅助、会议纪要、简历筛选等多种企业级场景