平台与基础设施

云原生 AI、数据平台、安全治理与运维能力。

61 项目 3 子类 22 标签
已跟踪

K8s、调度与云原生 AI 基础设施。

HolmesGPT

一款专为云原生环境设计的智能体平台,自动调查告警、定位根因并建议修复方案。

-- 评分加载中

Open WebUI

可扩展、功能丰富的网络界面,用于与大语言模型交互,提供类似 ChatGPT 的体验,支持多种模型和自定义选项。

-- 评分加载中

Volcano

Volcano 是一个 CNCF 下的 Kubernetes 原生批处理调度系统,专为 AI/大数据/HPC 等批量与弹性任务提供高级调度能力。

-- 评分加载中

数据湖仓、数据服务和治理平台。

3FS

面向 AI 训练与推理负载的高性能分布式文件系统,优化数据并行与 I/O 性能以支撑大规模训练任务。

-- 评分加载中

AIPyApp

面向交互式 Python 执行与任务自动化的开源工具,结合 LLM 实现自然语言驱动的 Python 交互。

-- 评分加载中

Apache Doris

Apache Doris 是一款易用、高性能且统一的分析型数据库,适用于实时与离线分析场景。

-- 评分加载中

cuDF

基于 GPU 的 DataFrame 库,用于加速数据分析与表格计算的开源工具。

-- 评分加载中

CVAT

CVAT 是行业领先的视觉数据标注引擎,适用于任意规模的数据标注任务。

-- 评分加载中

Datachain

面向非结构化数据的 ETL、分析与版本管理平台,帮助团队构建可重复与可追溯的数据流水线。

-- 评分加载中

DataFlow

面向领域化训练与检索增强生成的高质量数据准备与流水线平台。

-- 评分加载中

Deep Lake

面向 AI 的数据库,提供对向量、图像、视频与文本的数据存储、检索、版本管理与流式加载功能。

-- 评分加载中

DocuTranslate

DocuTranslate 是一款基于大语言模型的轻量化文档翻译工具,支持多种文档格式与本地/在线解析引擎。

-- 评分加载中

DuckDB

一个面向分析的嵌入式 SQL 数据库,适用于交互式查询、ETL 与本地分析。

-- 评分加载中

Faiss

高性能的向量相似性搜索与聚类库,适用于大规模向量检索与加速近邻搜索。

-- 评分加载中

Jupyter Notebook

交互式计算环境,广泛用于数据科学和机器学习开发。

-- 评分加载中

Label Studio

Label Studio 是一款多类型的数据标注与注释工具,支持标准化输出格式。

-- 评分加载中

pgvector

pgvector 是一个为 PostgreSQL 提供向量相似度检索能力的开源扩展,便于在数据库中存储与检索向量并支持近似/精确检索策略。

-- 评分加载中

Proton

Proton 是一个单文件 C++ 二进制的高性能 SQL 流处理引擎,适用于实时分析与流式 ETL。

-- 评分加载中

PyMuPDF

一个高性能的 Python 库,用于 PDF 及其他文档的数据提取、分析、转换和操作。

-- 评分加载中

TensorFlow

Google 开源的端到端机器学习平台,用于构建和训练深度学习模型。

-- 评分加载中

Unstract

无代码 LLM 平台,用于将非结构化文档转化为结构化数据并快速发布 API 与 ETL 管道。

-- 评分加载中

Valkey

一个为缓存和实时工作负载优化的高性能分布式键值数据库。

-- 评分加载中

verl

用于大模型的强化学习训练框架,面向大规模 RLHF 与 agent 训练的可扩展项目。

-- 评分加载中

部署编排、发布流程和运行运维工具。

Agent Development Kit (ADK)

ADK 是 Google 开源的 Python 工具包,专为灵活构建、评估和部署高阶 AI Agent 设计,支持多模型与多场景。

-- 评分加载中

Apache Superset

一个开源的数据可视化与数据探索平台,支持交互式仪表盘、SQL 查询与多种数据源连接。

-- 评分加载中

AutoGPT

用于构建、部署与运行连续智能体的平台,支持自托管与平台化部署。

-- 评分加载中

AXLearn

基于 JAX/XLA 的可扩展深度学习库,支持大规模模型的开发、训练与部署。

-- 评分加载中

Candle

Hugging Face 的 Candle:一个以 Rust 为核心、面向高性能与无 Python 运行时的轻量级机器学习框架。

-- 评分加载中

Coze Loop

字节跳动开源的面向开发者的 AI Agent 开发与运维平台级解决方案,提供全生命周期管理能力。

-- 评分加载中

Crawl4AI

一个面向大模型应用的开源网页爬虫与抓取器,输出清洁的 Markdown 与结构化数据,支持浏览器控制、Docker 部署与 LLM 驱动的抽取。

-- 评分加载中

Dask

Dask 是用于并行计算与任务调度的 Python 库,适合处理大规模数据与分布式计算任务。

-- 评分加载中

Dify

开源的 LLM 应用开发平台,提供可视化的 AI 应用构建工具和企业级部署方案。

-- 评分加载中

DLRover

DLRover 是一个自动化的分布式深度学习系统,提供弹性调度、闪电检查点与自动伸缩,简化大规模模型在 Kubernetes/Ray 上的训练与运维。

-- 评分加载中

Dynamo

面向数据中心级分布式推理的开源框架,优化多 GPU / 多节点场景下的大模型推理与调度,支持多种引擎(vLLM、SGLang、TensorRT-LLM)。

-- 评分加载中

Google Research

Google Research 汇集了 Google 的开源研究代码与数据集,涵盖机器学习、计算机视觉、语言模型等多个研究方向。

-- 评分加载中

gpustack

面向 GPU 集群管理与训练与推理编排的开源平台,聚焦资源利用率与运维可观测性。

-- 评分加载中

KitOps

KitOps 是 CNCF 支持的开源项目,提供将 AI/ML 项目封装为可签名、可版本化的 OCI 工件的标准化方案。

-- 评分加载中

LitGPT

高性能、面向工程的 LLM 工具链,提供从训练到部署的端到端配方与实用教程。

-- 评分加载中

LMDeploy

LMDeploy 是一套用于大模型压缩、部署与服务化的工具集,提供高性能推理引擎、量化与分发能力,便于将模型在各类环境中上线。

-- 评分加载中

MaxText

高性能、可扩展的 JAX+Python LLM 库与参考实现,面向 Google Cloud TPU 与 GPU。

-- 评分加载中

Megatron-LM

Megatron-LM 是 NVIDIA 提供的大规模语言模型训练参考实现,面向分布式训练与性能优化。

-- 评分加载中

MLC LLM

通用的 LLM 部署引擎,结合 ML 编译技术以提升模型部署性能。

-- 评分加载中

MLflow

MLflow 是一个开源的机器学习生命周期平台,用于实验追踪、模型管理和部署。

-- 评分加载中

MLRun

MLRun 是开放的 MLOps 平台,帮助构建与管理持续的机器学习应用全生命周期。

-- 评分加载中

MLX

针对 Apple Silicon 的高性能数组与机器学习框架,提供 NumPy 风格的 API 与多语言绑定。

-- 评分加载中

Modular Platform

面向生产的开放式 AI 平台,包含 MAX 推理服务器与 Mojo 库,用于加速模型部署与跨硬件运行。

-- 评分加载中

Parlant

Parlant 是一款专为实际业务场景打造的合规 AI Agent 框架,支持分钟级部署,确保智能体严格遵循业务规则。

-- 评分加载中

Phoenix

Phoenix 是一个高性能的 Elixir Web 框架,适用于实时、分布式与可扩展的 Web 应用开发。

-- 评分加载中

PyTorch

开源深度学习框架,支持动态图与高效 GPU 加速,适用于研究与生产部署。

-- 评分加载中

SGLang

高性能开源大模型推理与服务框架,支持多模态、极致并发与灵活前端编程。

-- 评分加载中

SwanLab

SwanLab 是一个开源、现代化的模型训练追踪与可视化工具,支持云端与自托管部署。

-- 评分加载中

Tabby

Tabby 是一个可自托管的 AI 编程助手,提供企业级与社区级的本地部署方案,适合在私有网络或对数据隐私有要求的场景中使用。

-- 评分加载中

TensorRT-LLM

NVIDIA 开源大模型推理优化工具箱,专为 GPU 高效推理和企业级部署设计。

-- 评分加载中

TorchTitan

面向生成式模型预训练与分布式优化的 PyTorch 平台参考实现。

-- 评分加载中

Transformer Engine

NVIDIA 的 Transformer Engine,提供针对 Transformer 的高性能内核与混合精度支持。

-- 评分加载中

Transformer Lab

开源跨平台的 LLM 与生成模型工具,提供一键下载模型、可视化、微调和推理引擎切换功能,便于在本地或云端进行模型实验与开发。

-- 评分加载中

vLLM

面向大模型的高吞吐、内存高效推理与服务引擎。

-- 评分加载中

WebLLM

高性能的浏览器端 LLM 推理引擎,利用 WebGPU 在浏览器内实现硬件加速和隐私保护。

-- 评分加载中

Weights & Biases (W&B)

面向机器学习全流程的开发与观测平台,支持实验追踪、模型管理、Artifact 与可视化,帮助团队从试验到生产管理模型生命周期。

-- 评分加载中

workerd

workerd 是 Cloudflare 提供的开源 JavaScript/Wasm 服务器运行时,旨在本地或自托管环境运行与 Cloudflare Workers 兼容的 nanoservices 与边缘应用。

-- 评分加载中

ZenML

统一的 MLOps 框架,支持从经典模型到多智能体系统的一体化开发、评估与部署。

-- 评分加载中