Fornax · 模型与 API
AI 模型与 API
图谱里的 AI 模型与 API：66 款，包括 TensorFlow、Transformers、PyTorch、CUDA、Hugging Face、MarkItDown。
开发者获取模型的地方：API、开源权重与本地运行时。
这个星系里的能力
产品15
- Hugging Face2016开源模型、数据集与演示应用的大本营。免费版 + 付费升级 · 可离线本地运行
- Ollama2023一条命令在本机运行开源模型。开源免费 · 可离线本地运行
- ModelScope2022阿里巴巴的开源模型社区与工具库，可查找、运行和微调开源模型。开源免费 · 可离线本地运行
- Claude Developer Platform2023Claude 模型、工具调用与智能体构建的 API。付费
- Google AI Studio2023免费试用 Gemini 模型，几分钟拿到 API Key。免费
- OpenAI Platform2020OpenAI 模型、智能体与实时语音的 API。付费
- OpenRouter2023一个 API 调用数百个模型，按价格与可用性路由。免费版 + 付费升级
- One API2023自托管的大模型网关，把多家 API 统一成 OpenAI 兼容接口，并管理密钥分发。开源免费
- Langfuse2023追踪、评测和监控大模型应用与智能体的开源平台。开源免费
- fal2021图像、视频、音频模型的高速推理平台。付费
- Groq2024基于自研 LPU 芯片的极速推理。免费版 + 付费升级
- LM Studio2023桌面应用：发现、下载并与本地模型对话。免费 · 可离线本地运行
- Replicate2021通过简单 API 运行和微调开源模型。付费
- Together AI2022运行、微调与训练开源模型的云平台。付费
- Modal2023从 Python 调用的 Serverless GPU，运行模型与批处理。付费
命令行工具1
框架49
- TensorFlow2015谷歌开源的机器学习框架，用于在多种设备上构建与部署模型。开源免费 · 可离线本地运行
- Transformers2018Hugging Face 的预训练模型库，覆盖文本、视觉与音频，用于推理和训练。开源免费 · 可离线本地运行
- PyTorch2016采用动态计算图的开源深度学习框架，最初由 Meta AI 开发。开源免费 · 可离线本地运行
- CUDA2007英伟达的并行计算平台与编程模型，用于在其 GPU 上进行通用计算。可离线本地运行
- MarkItDown2024把 PDF、Office 文件、图片等转换成 Markdown 供大模型使用的 Python 工具。开源免费 · 可离线本地运行
- llama.cpp2023Georgi Gerganov 编写的 C/C++ 引擎，在本地 CPU、苹果芯片与 GPU 上运行量化模型。开源免费 · 可离线本地运行
- vLLM2023高吞吐的大模型推理服务引擎，核心是 PagedAttention 显存管理技术。开源免费 · 可离线本地运行
- PaddleOCR2020OCR 与文档解析工具包，把图片和 PDF 变成文字、表格和结构。开源免费 · 可离线本地运行
- MinerU2024把 PDF、图片和 Office 文件解析成大模型可用的 Markdown 和 JSON 的工具。开源免费 · 可离线本地运行
- JAX2018谷歌的数值计算库，可对 NumPy 程序做自动微分、JIT 编译与向量化。开源免费 · 可离线本地运行
- Unsloth2023更快、更省显存地微调和运行大模型的框架与本地应用。开源免费 · 可离线本地运行
- LlamaFactory2023带网页界面、可微调上百种语言与视觉模型的工具包。开源免费 · 可离线本地运行
- Docling2024把 PDF、Office 等文档解析成结构化数据、供 AI 流程使用的库。开源免费 · 可离线本地运行
- nanoGPT2022训练和微调 GPT-2 规模模型的极简 PyTorch 代码。开源免费 · 可离线本地运行
- LiteLLM2023用统一的 OpenAI 兼容格式调用上百种大模型 API 的代理服务和 Python SDK。开源免费
- PrivateGPT2023在本地模型上构建文档问答等私有 AI 应用的 API 层。开源免费 · 可离线本地运行
- LocalAI2023自托管的推理引擎，用兼容 OpenAI 的 API 提供大模型、语音、图像和视频模型。开源免费 · 可离线本地运行
- exo2024把自己的多台设备连成集群，在本地运行大模型的运行时。开源免费 · 可离线本地运行
- Milvus2019云原生向量数据库，可在数十亿向量上做相似度检索。开源免费 · 可离线本地运行
- Streamlit2019把 Python 脚本变成交互式数据与 AI 网页应用的框架。开源免费 · 可离线本地运行
- Gradio2018为机器学习模型快速搭建并分享网页演示的 Python 库。开源免费 · 可离线本地运行
- DeepSpeed2020在多块 GPU 上训练和运行超大模型的优化库。开源免费 · 可离线本地运行
- Faiss2017对稠密向量做快速相似度检索和聚类的 C++ / Python 库。开源免费 · 可离线本地运行
- Marker2023把 PDF 等文档转换成 Markdown、JSON 或 HTML 的工具。开源免费 · 可离线本地运行
- LightRAG2024同时借助知识图谱和向量检索的轻量 RAG 框架。开源免费 · 可离线本地运行
- SGLang2024开源的大模型与视觉语言模型推理服务框架，擅长快速结构化生成。开源免费 · 可离线本地运行
- GraphRAG2024从文本中构建知识图谱，并用它做检索增强生成的数据管线。开源免费
- Qdrant2020大规模存储和查询向量的向量数据库与检索引擎。开源免费 · 可离线本地运行
- Chroma2022存储和检索向量的数据库，支持向量检索和全文检索。开源免费 · 可离线本地运行
- MLX2023苹果面向 Apple 芯片的机器学习数组框架，接口类似 NumPy。开源免费 · 可离线本地运行
- AI SDK2023用任意模型构建 AI 应用与智能体的 TypeScript 工具包。开源免费
- llamafile2023把开源模型打包成单个可执行文件，无需安装即可在本地运行。开源免费 · 可离线本地运行
- MLC LLM2023把大模型原生部署到 GPU、手机和浏览器上的编译器与推理引擎。开源免费 · 可离线本地运行
- pgvector2021为 Postgres 增加向量存储和近邻检索的扩展。开源免费 · 可离线本地运行
- PEFT2022只训练少量额外参数来微调大模型的库。开源免费 · 可离线本地运行
- Surya2024支持 90 多种语言的 OCR 工具，识别文字、版面、阅读顺序和表格。开源免费 · 可离线本地运行
- TRL2020用 SFT、DPO、GRPO 等方法对语言模型做后训练的库。开源免费 · 可离线本地运行
- WebLLM2023借助 WebGPU 在浏览器里直接运行大模型的 JavaScript 引擎。开源免费 · 可离线本地运行
- Sentence Transformers2019计算文本向量、训练重排模型以用于检索的 Python 库。开源免费 · 可离线本地运行
- Megatron-LM2019在数千块 GPU 上大规模训练 Transformer 模型的库。开源免费
- Weaviate2016在一次查询里结合向量检索与关键词过滤的向量数据库。开源免费 · 可离线本地运行
- Ragas2023评测大模型应用和 RAG 流程并生成测试集的框架。开源免费 · 可离线本地运行
- Unstructured2022把 PDF、图片和 Office 文件处理成适合大模型的干净分块数据的库。开源免费
- TensorRT LLM2023在 NVIDIA GPU 上优化并部署大模型推理的库。开源免费
- Axolotl2023用一份 YAML 配置完成大模型微调与后训练的框架。开源免费 · 可离线本地运行
- Chainlit2023为大模型应用搭建对话界面的 Python 框架。开源免费
- Phoenix2022追踪、评测和调试大模型应用与智能体的开源工具。开源免费 · 可离线本地运行
- LanceDB2023基于 Lance 列式格式、面向多模态检索的嵌入式向量数据库。开源免费 · 可离线本地运行
- LMDeploy2023压缩、部署和服务大模型的工具包，自带高性能推理引擎。开源免费
模型1
组织31
- Hugging Face2016运营 Hugging Face 开放模型社区并维护 Transformers 库的公司。
- NVIDIA1993芯片公司，其 GPU 与 CUDA 软件为大多数 AI 训练提供算力。
- Amazon1994电商与云计算公司，旗下 AWS 提供 Bedrock 平台、Nova 模型与 Trainium 芯片。
- AMD1969设计 CPU 与 Instinct GPU 的芯片公司，其 GPU 用于 AI 训练与推理。
- Apple1976iPhone 与 Mac 的制造商，自研芯片与 Apple Intelligence 模型。
- Cloudflare2009提供 CDN、安全防护与无服务器开发平台的全球网络公司，也托管 AI 智能体。
- Huawei 华为1987中国通信与电子公司，研发昇腾 AI 芯片与盘古大模型。
- Stripe2010提供在线支付与账单 API 的支付基础设施公司。
- Vercel2015前端云平台公司，开发 Next.js、AI SDK 与 v0。
- Chroma2022开源嵌入与向量数据库 Chroma 的开发公司。开源免费
- Cohere2019多伦多 AI 公司，为企业开发 Command、Embed 与 Rerank 模型。
- fal2021生成式媒体平台，通过 API 提供图像、视频与音频模型。
- Firecrawl2022把网站抓取成适合大模型使用的 Markdown 与结构化数据的 API 公司。
- Groq2016设计 LPU 芯片并在其上运营高速推理云的芯片公司。
- HashiCorp2012Terraform、Vault 等基础设施即代码工具的开发公司，现隶属 IBM。
- MongoDB2007文档数据库 MongoDB 与云数据库服务 Atlas 的开发公司。
- Ollama2023开发 Ollama 的公司，这是一款在本地运行开放模型的工具。
- OpenRouter2023开发 OpenRouter 的公司，通过统一 API 调用多家模型。
- Replicate2019开发 Replicate 的公司，通过云端 API 运行各类模型。
- Scale AI2016为 AI 实验室提供标注训练数据与评测服务的公司。
- Supabase2020基于 Postgres 的开源后端平台，提供认证、存储与边缘函数。开源免费
- Together AI2022提供开放模型训练、微调与推理服务的云计算公司。
- Apify2015总部在布拉格的网页抓取与自动化平台，提供名为 Actor 的现成爬虫市场。
- Element Labs2023Yagil Burowski 创立的布鲁克林公司，开发桌面应用 LM Studio。
- Grafana Labs2014Grafana 仪表盘及 Loki、Tempo 等开源可观测性工具的开发公司。
- Modal2021无服务器云平台，用 Python 代码在 GPU 上运行 AI 与数据任务。
- Neon2021存算分离、支持数据库分支的无服务器 Postgres 公司。
- Prefect2018工作流编排公司，维护用于构建 MCP 服务器的 Python 框架 FastMCP。
- Pydantic2023Pydantic 数据校验库、Pydantic AI 与 Logfire 可观测平台的开发公司。
- Qdrant2021开发 Rust 编写的开源向量搜索引擎 Qdrant 的柏林公司。开源免费
- Upstash2020提供 Redis、向量与消息服务的无服务器数据平台，也是 Context7 的开发者。
人物3
硬件10
- NVIDIA H1002022英伟达 Hopper 架构数据中心 GPU，配有 Transformer 引擎，是生成式 AI 的算力核心。
- Google TPU2016谷歌自研的张量处理单元芯片，用于训练与运行神经网络。
- NVIDIA A1002020英伟达 Ampere 架构数据中心 GPU，自 2020 年起被广泛用于训练大语言模型。
- NVIDIA Blackwell2024英伟达继 Hopper 之后的 GPU 架构，用于 B200 与 GB200 系统。
- AMD Instinct2016AMD 面向 AI 与超算的数据中心 GPU 加速器系列，如 MI300X。
- Apple silicon2020苹果自研的 Arm 芯片（如 M 系列），其统一内存适合在本地运行模型。
- AWS Trainium2020亚马逊自研的 AI 训练芯片，通过 AWS 提供，并用于训练 Claude。
- Groq LPU2020Groq 的语言处理单元，一种为低延迟模型推理设计的芯片。
- Huawei Ascend 昇腾2018华为的 AI 处理器系列，用于训练与推理，是中国替代英伟达 GPU 的主要国产选择。
- NVIDIA V1002017英伟达 Volta 架构数据中心 GPU，首次配备用于深度学习的 Tensor Core。
最后更新 2026-09-24