该Spring AI
项目旨在简化包含人工智能功能的应用程序的开发,避免不必要的复杂性。
该项目的灵感源自一些著名的 Python 项目,例如 LangChain 和 LlamaIndex,但 Spring AI 并非这些项目的直接移植。该项目的创立基于这样一种信念:下一波生成式 AI 应用将不仅面向 Python 开发人员,还将遍及多种编程语言。
Spring AI 提供了一些抽象,作为开发 AI 应用程序的基础。这些抽象具有多种实现,只需极少的代码更改即可轻松实现组件的替换。
Spring AI 提供以下功能:
跨 AI 提供商的可移植 API 支持聊天、文本转图像和嵌入模型。支持同步和流式 API 选项。此外,还提供特定于模型的功能访问。
支持所有主流AI模型提供商,例如 Anthropic、OpenAI、Microsoft、Amazon、Google 和 Ollama。支持的模型类型包括:
Chat Completion 聊天补全
Embedding 嵌入模型
Text to Image 文生图
Audio Transcription 音频转录
Text to Speech 文本生成语音
Moderation 内容审核
结构化输出- AI 模型输出到 POJO 的映射。
支持所有主要的矢量数据库提供商,例如 Apache Cassandra、Azure Cosmos DB、Azure Vector Search、Chroma、Elasticsearch、GemFire、MariaDB、Milvus、MongoDB Atlas、Neo4j、OpenSearch、Oracle、PostgreSQL/PGVector、PineCone、Qdrant、Redis、SAP Hana、Typesense 和 Weaviate。
跨 Vector Store 提供商的可移植 API,包括新颖的类似 SQL 的元数据过滤器 API。
工具/功能调用——允许模型请求执行客户端工具和功能,从而根据需要访问必要的实时信息并采取行动。
可观察性——提供对 AI 相关操作的洞察。
用于数据工程的文档提取ETL 框架。
AI 模型评估- 帮助评估生成的内容并防止幻觉反应的实用程序。
Spring Boot 自动配置和 AI 模型和矢量存储的启动器。
ChatClient API - 用于与 AI 聊天模型通信的流畅 API,惯用语类似于 WebClient 和 RestClient API。
顾问 API - 封装重复的生成式 AI 模式,转换发送到和来自语言模型 (LLM) 的数据,并提供跨各种模型和用例的可移植性。
此功能集可让您实现常见的用例,例如“通过文档进行问答”或“通过文档进行聊天”。
评论区