在 LobeChat 中使用 GitHub Models
GitHub Models 是 GitHub 最近推出的一项新功能,旨在为开发者提供一个免费的平台来访问和实验多种 AI 模型。GitHub Models 提供了一个互动沙盒环境,用户可以在此测试不同的模型参数和提示语,观察模型的响应。该平台支持多种先进的语言模型,包括 OpenAI 的 GPT-4o、Meta 的 Llama 3.1 和 Mistral 的 Large 2 等,覆盖了从大规模语言模型到特定任务模型的广泛应用。
本文将指导你如何在 LobeChat 中使用 GitHub Models。
GitHub Models 速率限制
当前 Playground 和免费 API 的使用受到每分钟请求数、每日请求数、每个请求的令牌数以及并发请求数的限制。若达到速率限制,则需等待限制重置后方可继续发出请求。不同模型(低、高及嵌入模型)的速率限制有所不同。 模型类型信息请参阅 GitHub Marketplace。
这些限制可能随时更改,具体信息请参考 GitHub 官方文档。
GitHub Models 配置指南
步骤一:获得 GitHub 的访问令牌
- 登录 GitHub 并打开 访问令牌 页面
- 创建并设置一个新的访问令牌
- 在返回的结果中复制并保存生成的令牌
-
GitHub Models 测试期间,要使用 GitHub Models,用户需要申请加入等待名单(waitlist) 通过后才能获得访问权限。
-
请安全地存储访问令牌,因为它只会出现一次。如果您意外丢失它,您将需要创建一个新令牌。
步骤二:在 LobeChat 中配置 GitHub Models
- 访问 LobeChat 的
设置
界面 - 在
语言模型
下找到GitHub
的设置项
- 填入获得的访问令牌
- 为你的 AI 助手选择一个 GitHub 的模型即可开始对话
至此你已经可以在 LobeChat 中使用 GitHub 提供的模型进行对话了。