Tabby

Tabby 是由 TabbyML 开发的自托管、开源 AI 编程助手。它提供 GitHub Copilot 的本地部署替代方案，让每个团队都能轻松搭建自己的 LLM 代码补全服务器——完全自包含，无需数据库管理系统或云服务，并支持消费级 GPU。

对于有严格数据隐私要求或隔离网络环境的团队，Tabby 将 AI 代码补全、问答引擎和行内聊天完全置于你的控制之下。

核心功能

1. 完全自托管

以你的方式、按你的规则运行 Tabby。无需外部数据库、无需云服务——一切都在你的基础设施中运行，保持代码私有。

2. 代码补全

理解编码上下文的智能实时 AI 代码补全。Tabby 通过自适应缓存实现亚秒级补全，精确的流式输出与取消。

3. 问答引擎

在 IDE 中提问并获取即时可靠的答案——由可集成内部工程数据的中心知识引擎驱动（v0.13.0 新增）。

4. 行内聊天

无需离开编辑器即可实时与 AI 助手协作。

5. 消费级 GPU 支持

针对经济实惠的消费级硬件优化，支持灵活推理选项（CPU、CUDA、Metal），并兼容 CodeLlama、StarCoder、CodeGen、Qwen 等主流编程模型。

6. 丰富集成

OpenAPI 接口、IDE 扩展（VS Code、Vim、IntelliJ）、基于 Tree-sitter 的仓库上下文、GitLab SSO、自托管 GitHub/GitLab 和管理员 UI。

适用场景

• 数据隐私团队：在代码不离开本地的前提下获得 AI 编程辅助。
• 隔离网络：在完全离线的环境中运行。
• 企业：自托管补全 + GitLab SSO 和管理员控制。
• 成本控制：在自有硬件上运行开放权重模型，避免按席位订阅费用。

定价方案

Tabby 免费开源。你只需为运行它的硬件付费：

• 社区版：本地优先部署，完全免费。
• 团队版/企业版：为组织提供增强的安全支持和灵活部署选项。

模型推理成本完全由你掌控——本地运行开放权重模型或自带基础设施。

优势对比

1. 完全数据控制：你的代码永不离开基础设施。
2. 零外部依赖：自包含，无需数据库或云。
3. OpenAPI 接口：易于与现有基础设施（包括云 IDE）集成。
4. 成本可预测：消费级 GPU 支持意味着低成本、可预测的运营。

用户评价

"Tabby 是自托管的 AI 编程助手，提供 GitHub Copilot 的开源本地替代方案。" — TabbyML GitHub README

"借助 Tabby，每个团队都能轻松搭建自己的 LLM 代码补全服务器。" — Tabby 文档

"自包含，无需数据库管理系统或云服务，支持消费级 GPU。" — Tabby 项目描述

快速开始

1. 部署：运行单条 Docker 命令，如 docker run -it --gpus all -p 8080:8080 -v $HOME/.tabby:/data tabbyml/tabby serve --model StarCoder-1B --device cuda --chat-model Qwen2-1.5B-Instruct。
2. 安装扩展：为 VS Code、Vim 或 IntelliJ 添加 Tabby 扩展。
3. 连接：将扩展指向你的 Tabby 服务器 URL。
4. 配置：从管理员 UI 设置模型、推理选项和仓库上下文。

局限性

• 需要硬件：自托管意味着你需要自己管理 GPU、存储和运维。
• 配置复杂度：部署和模型配置需要技术知识。
• 模型质量：补全质量取决于你选择的开放权重模型。
• 生态较小：社区规模小于 GitHub Copilot 或商业助手。

总结

Tabby 是不愿放弃数据控制的团队的首选开源方案。其自包含架构、消费级 GPU 支持和问答引擎，使其成为企业和隐私意识开发者实用的私有 Copilot 替代品。如果你的团队在隔离或受监管环境中运营——或只是更愿意拥有自己的基础设施——Tabby 值得认真考虑。

推荐给： 隐私敏感团队、隔离网络环境、希望自托管 AI 的企业，以及愿意自己运行模型的开发者。

不推荐给： 想要零设置、完全托管 AI 辅助、不愿承担基础设施责任的开发者。