> ## Documentation Index
> Fetch the complete documentation index at: https://cat.mintlify.site/llms.txt
> Use this file to discover all available pages before exploring further.

# 首先阅读

## 使用 Cline 运行本地模型：您需要了解的内容 🤖

Cline 是一个强大的 AI 编码助手，使用工具调用来帮助您编写、分析和修改代码。虽然本地运行模型可以节省 API 成本，但有一个重要的权衡：本地模型在使用这些基本工具时显著不太可靠。

## 为什么本地模型不同 🔬

当您运行模型的"本地版本"时，您实际上在运行原始模型的大幅简化副本。这个过程叫做蒸馏，就像试图将专业厨师的知识压缩成基础食谱书——您保留了简单的食谱，但失去了复杂的技巧和直觉。

本地模型是通过训练较小的模型来模仿较大的模型创建的，但它们通常只保留原始模型容量的 1-26%。这种大幅减少意味着：

* 理解复杂上下文的能力较差
* 多步推理能力降低
* 工具使用能力有限
* 决策过程简化

可以想象成在计算器而不是计算机上运行您的开发环境——它可能处理基本任务，但复杂操作变得不可靠或不可能。

![本地模型比较图](https://storage.googleapis.com/cline_public_images/docs/assets/image%20\(4\).png)

### 实际发生的情况

当您使用 Cline 运行本地模型时：

#### 性能影响 📉

* 响应比云服务慢 5-10 倍
* 系统资源（CPU、GPU、RAM）被大量使用
* 您的计算机对其他任务的响应可能变慢

#### 工具可靠性问题 🛠️

* 代码分析变得不太准确
* 文件操作可能不可靠
* 浏览器自动化功能降低
* 终端命令可能更频繁失败
* 复杂的多步任务经常失败

### 硬件要求 💻

您至少需要：

* 带有 8GB+ 显存的现代 GPU（RTX 3070 或更好）
* 32GB+ 系统内存
* 快速 SSD 存储
* 良好的散热解决方案

即使有这样的硬件，您也将运行较小、功能较差的模型版本：

| 模型大小 | 您得到的 |
| - | - |
| 7B 模型 | 基础编码，有限的工具使用 |
| 14B 模型 | 更好的编码，不稳定的工具使用 |
| 32B 模型 | 良好的编码，不一致的工具使用 |
| 70B 模型 | 最佳本地性能，但需要昂贵的硬件 |

简单地说，这些模型的云（API）版本是模型的完整版本。DeepSeek-R1 的完整版本是 671B。这些蒸馏模型本质上是云模型的"稀释"版本。

### 实用建议 💡

#### 考虑这种方法

1. 使用云模型用于：
   * 复杂的开发任务
   * 当工具可靠性至关重要时
   * 多步操作
   * 关键代码更改
2. 使用本地模型用于：
   * 简单的代码补全
   * 基础文档
   * 当隐私至关重要时
   * 学习和实验

#### 如果您必须使用本地

* 从较小的模型开始
* 保持任务简单和专注
* 频繁保存工作
* 准备为复杂操作切换到云模型
* 监控系统资源

### 常见问题 🚨

* **"工具执行失败"：** 本地模型经常在复杂工具链上遇到困难。简化您的提示。
* **"无法建立连接，因为目标机器主动拒绝它"：** 这通常意味着 Ollama 或 LM Studio 服务器没有运行，或者在与 Cline 配置的不同端口/地址上运行。在您的 API 提供商设置中仔细检查基础 URL 地址。
* **"Cline 遇到困难..."：** 将您的模型上下文长度增加到最大大小。
* **响应缓慢或不完整：** 本地模型可能比基于云的模型慢，特别是在较弱的硬件上。如果性能是问题，尝试使用较小的模型。预期显著更长的处理时间。
* **系统稳定性：** 注意高 GPU/CPU 使用率和温度
* **上下文限制：** 本地模型通常比云模型有更小的上下文窗口。将任务分解为更小的部分。

### 展望未来 🔮

本地模型功能正在改进，但它们还不能完全替代云服务，特别是对于 Cline 基于工具的功能。在承诺仅使用本地方法之前，请仔细考虑您的特定需求和硬件能力。

### 需要帮助？ 🤝

* 加入我们的 [Discord](https://discord.gg/cline) 社区和 [r/cline](https://www.reddit.com/r/CLine/)
* 查看最新的兼容性指南
* 与其他开发者分享您的经验

记住：当有疑问时，为重要的开发工作优先考虑可靠性而不是成本节约。


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.