17611538698
webmaster@21cto.com

Genkit:新一代基于 Go 的 AI 应用开发框架

编程语言 0 1568 2024-07-19 11:56:00

图片

Google 推出了 Genkit for Go,这是一个开源框架,用来以 Go 语言原生构建 AI 应用与云服务。该项目是 Google Firebase 和 Go 团队联手合作的最新成果。

Genkit for Go 于 7 月 17 日正式推出,目前版本处于 alpha 阶段。Genkit 使用的是Apache 2.0 许可证。

Gophers 能够通过它将 Go 的性能和并发优势与 Genkit 的库和工具相结合,从而来构建生成式 AI应用程序。

其潜在的用例包括理解复杂请求的人工智能助手、使用检索增强生成(RAG) 的客户支持代理,以及将自然语言等非结构化数据转换为结构化格式(如SQL、查询与数据表),以及进行更深入分析的数据转换工具。

Genkit for Go 是继 5 月份推出的Firebase Genkit for Node.js 之后推出的,后者适用于JavaScript和TypeScript开发人员。

Google 团队表示,Genkit 提供轻量级、可组合的抽象,以简化复杂 AI 工作流程的开发,同时又不牺牲控制与可定制性。

Genkit for Go 框架的特点总结如下:

- 统一的生成式 API。用于通过单一界面从Gemini或Gemma等大语言模型生成内容。

- 适用于 AI 工作流的流程。提供具有内置可观察性的监控与调试功能。

- 原生矢量数据库支持。通过将 RAG 集成到具有跨数据库提供商的索引和检索 API 的应用程序中,使 AI 模型具有上下文感知能力。

Genkit for Go 的关键组件包括:

- 直接现成的库:这些库用纯 Go 编写,采用正常的 Go 语言约定编写,可无缝集成到现有项目中。

- Dotprompt:一种简化提示工程的文件格式,允许开发者在单个 .prompt 文件中定义模板、模式和模型配置。

- 插件系统:Genkit 为各种 AI 服务和数据库提供插件,包括 Google AI、Vertex AI、Ollama 和 Pinecone。该框架旨在实现可扩展性,并积极鼓励开源社区做出贡献。

- 开发者工具:CLI 和基于浏览器的 UI 为迭代 AI 工作流、可观察性功能和评估工具提供了场合。

- 生产可观察性:与 Google Cloud 的运营套件和 OpenTelemetry 支持集成,可以监控生产环境中的 AI 应用程序。

Genkit for Go 被称为一种轻量级、与提供商无关的框架。它还提供了一系列插件,用于与 Google 和第三方提供商的指定大语言模型、矢量数据库和云服务集成。

Genkit CLI 和基于浏览器的开发者 UI 提供了一个工具包,可简化生成式 AI 开发。使用 Microsoft 的 Visual Studio Code 编辑器或 Google 的 Project IDX 云 IDE 的开发者可以在 IDE 的集成浏览器中打开 Genkit 开发者 UI,以便与代码并行使用。

目前可以在GitHub 上提交 Genkit for Go 的问题与功能请求。Google 还建立了一个 Discord 服务器,用于与 Genkit 团队和其他开发人员直接沟通。

关于 Genkit for Go 的入门指南,开发者可以访问Firebase:

https://firebase.google.com/docs/genkit-go/get-started-go

Google 在 7 月 17 日还相继推出了其它工具,包括 AI 代理的参考架构 Project Oscar等产品。

作者:万能的大雄

评论