本地搭建 AI 编程助手:Yi-Coder 模型 + Cursor 快速指南

Yi-Coder 是一款开源的高性能代码语言大模型,专为高效编程设计。它支持 52 种编程语言,尤其擅长处理需要长上下文理解的任务,例如项目级代码生成和理解。该模型提供两种版本(15亿和90亿参数),并分为基础版和聊天版。

在本教程中,你将学习如何:

  • 使用与 OpenAI 兼容的 API 在本地运行 Yi-Coder 模型
  • 将 Yi-Coder 与 Cursor 集成,实现高效的编程辅助

Cursor:AI 代码编辑器的利器

Cursor 是目前最热门的 AI 代码编辑器之一。它能够利用专门为编码任务训练的大型语言模型(LLM),如 Yi-Coder,完成代码生成、调试等任务。通过将 Yi-Coder-9B 配置为 Cursor 的私有 LLM 后端,你可以在本地环境中享受高效的编程体验。

在本地运行 Yi-Coder 模型:快速上手

1. 安装 Gaia 节点

首先,安装开源 Gaia 节点,这是一组轻量且可移植的 LLM 推理工具。你可以使用以下命令快速完成安装:

bash
curl -sSfL ‘https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh’ | bash

2. 下载并初始化模型

接下来,使用以下命令行下载并初始化 Yi-Coder-9B 模型:

bash
gaianet init –config https://raw.githubusercontent.com/GaiaNet-AI/node-configs/main/yi-coder-9b-chat/config.json

3. 启动模型

运行以下命令启动模型:

bash
gaianet start

启动成功后,你将获得一个 HTTPS URL,类似 https://NODE-ID.us.gaianet.network,这是本地模型的访问地址。同时,你可以通过浏览器访问 http://localhost:8080,直接向模型提出编程相关的问题。

4. 调整上下文窗口大小(可选)

默认情况下,Yi-Coder-9B 以 8k 上下文窗口启动。如果你的设备具备较大的 GPU 内存(例如 24GB),可以将上下文窗口增加到 128k,这对于处理复杂的编程任务尤为有用。

将 Yi-Coder-9B 集成到 Cursor

1. 配置 Cursor

接下来,将你本地运行的 Yi-Coder-9B 模型与 Cursor 集成。只需将 Gaia 节点的 URL 替换 Cursor 的默认 OpenAI URL,并设置模型名称和“API 密钥”即可。

2. 测试模型

现在,让我们测试 Yi-Coder-9B 的功能。以下是一个简单的示例,生成一个搜索页面:

html

模型将生成完整的 HTML 代码。你可以进一步要求 Yi-Coder-9B 修改按钮文字标签,或解释代码的工作原理。以下是一个输出示例:

html

3. 运行网页

使用生成的代码运行网页,效果如预期!

小结

通过以上步骤,你可以轻松在本地搭建 Yi-Coder 模型,并将其与 Cursor 集成,实现高效的编程辅助。如果你对更多技术细节感兴趣,可以参考 LlamaEdge 文档 获取详细资料。

👉 野卡 | 一分钟注册,轻松订阅海外线上服务


关于 WasmEdge

WasmEdge 是一款轻量级、高性能的 WebAssembly 运行时,适用于云原生、边缘计算、微服务等多个领域。作为 CNCF 沙箱项目,WasmEdge 在 SaaS、LLM 推理等领域得到了广泛应用。

上一篇 2025年2月15日
下一篇 2025年2月15日

相关推荐