GitHub 推出 AI 模型游乐场，供开发人员测试和比较 LLM

8月2日消息，GitHub最近推出了一个名为GitHub Models的AI模型试验场，这是一个交互式的沙盒环境，它为开发者和工程师提供了免费访问行业领先的生成性人工智能模型的机会。这个平台在初始阶段提供了包括Meta Platforms的Llama 3.1、OpenAI的GPT-4o和GPT-4o mini以及Cohere公司的Command和Mistral AI的Mistral Large 2在内的流行模型。开发者可以通过内置的试验场部署模型，测试不同的提示和模型参数，并将它们集成到包括GitHub Codespaces或Visual Studio Code在内的开发环境中。

GitHub的首席执行官Thomas Dohmke表示，开发者越来越多地构建包含后端和前端代码以及一个或多个模型的生成性AI应用。然而，许多开发者仍然缺乏对开放和封闭模型的便捷访问。GitHub Models的推出将改变这一现状。

GitHub Models通过交互式试验场将大型语言模型直接带给开发者、学生、爱好者、工程师和初创公司，他们可以轻松地通过几次点击和按键来实验、比较、测试和部署AI应用。例如，开发者可能对某个特定模型在他们想要推出的新AI应用中的工作方式感兴趣，但不确定使用哪个模型。使用Models，他们可以启动GPT-4o利用其多模态能力实时处理音频、视频和文本，并将其性能和每令牌成本与Mistral进行比较。

此外，开发者还可以尝试不同的集成技术和模式，例如使用实时可信数据增强提示的检索增强生成，以提高AI响应的准确性，或者在开发下一阶段之前测试护栏和其他调整的有效性。

GitHub表示，所有这些操作都不需要在开发者的本地机器上加载模型。本地机器可能无法处理较大的模型，或者在云中进行实验需要花费金钱，但借助GitHub Codespaces这一安全的基于云的编码环境，开发者可以在将模型集成到项目中之前进行模型推理的实验。通过应用从不同语言和框架中选择的示例代码，开发者可以在准备部署时立即开始。

Dohmke补充说，现在有了GitHub Models，超过1亿的开发者可以在GitHub上直接访问和尝试新的AI模型，这是他们已经管理源代码、问题、拉取请求、工作流程和存储库的地方。

最后，GitHub表示，对于开发者和工程师来说，部署到云的过程非常简单。将模型从GitHub开发转移到Azure AI只需要用Azure订阅和凭证替换个人访问令牌。

FirstQuadrant的联合创始人Anand Chowdhary表示，作为一个AI初创公司的创始人和开源维护者，GitHub Models使他的团队能够在一个地方访问和尝试各种大型语言模型，这简化了开发并降低了构建AI应用的入门门槛。

GitHub表示，在接下来的几个月里，随着平台接近全面可用，公司计划向平台添加更多的语言、视觉和其他模型。目前，GitHub Models处于有限的公开测试阶段，网站上可以注册。