模型与基础设施

H

Hugging Face

全球最大的开源模型与数据集社区，提供推理接口与托管服务。

L

LM Studio

带图形界面的本地大模型运行工具，可一键搜索并加载开源模型。

O

Ollama

一条命令在本地运行开源大模型，适合隐私敏感与离线场景。

O

OpenRouter

统一 API 网关聚合上百款模型，一个 Key 即可自由切换与比价。

G

Google AI Studio

Gemini 模型的官方试验场，可免费调试提示词并获取 API Key。

M

ModelScope 魔搭

阿里开源模型社区，中文模型齐全，支持在线体验与免费算力。

L

llama.cpp

C/C++ 实现的高性能本地推理引擎，CPU 也能跑量化模型。

V

vLLM

高吞吐推理与服务框架，PagedAttention 显著提升并发性能。

G

Groq

基于 LPU 的极速推理服务，开源模型响应速度遥遥领先。

M

Milvus

开源分布式向量数据库，适合大规模向量检索与生产部署。

P

Pinecone

托管向量数据库，开箱即用，是 RAG 应用最常见的检索底座。

R

Replicate

一行代码调用开源模型的托管平台，覆盖图像、语音与文本。

高效微调开源项目，显著降低显存占用并加快训练速度。

W

Weights & Biases

机器学习实验跟踪与模型管理平台，训练过程可视化标准工具。

硅

硅基流动

国产模型推理加速平台，价格友好并兼容 OpenAI 接口规范。

A

Amazon Bedrock

AWS 上的托管大模型服务，一个接口调用多家厂商模型。

L

Langfuse

开源 LLM 工程可观测平台，支持链路追踪、评分与数据集管理。

Q

Qdrant

Rust 编写的开源向量数据库，过滤检索能力强、资源占用低。

开源模型的云端推理与微调平台，适合团队快速上量。

V

Vertex AI

Google Cloud 的统一 AI 平台，覆盖训练、部署与模型管理。

字节跳动的大模型服务平台，提供豆包系列模型 API 与精调能力。

腾讯自研大模型，提供文生文、文生图与开放 API 能力。

A

Azure AI

微软 Azure 的 AI 服务集合，覆盖 OpenAI 模型与企业级合规能力。

C

Chroma

轻量易用的开源向量数据库，本地原型开发的默认选择。

F

Fireworks AI

高性能模型推理平台，支持微调、部署与批量推理。

L

LangSmith

LLM 应用的可观测与评测平台，方便定位链路问题与回归测试。

百度大模型平台，支持模型精调、应用编排与企业级部署。

阿里的大模型服务平台，提供模型调用、应用搭建与知识库能力。

C

Cline Desktop App

producthunt.com

An open-source app for open-weight models Discussion | Link

C

Cognition's SWE-2

producthunt.com

Cognition's coding model, 64% cheaper than Fable 5.1 Discussion | Link

L

LLMagnet

producthunt.com

Make your WordPress site visible to AI Discussion | Link