侧边栏壁纸
博主头像
AI中文站

开拓MCP洪荒时代

  • 累计撰写 17 篇文章
  • 累计创建 3 个标签
  • 累计收到 0 条评论

目 录CONTENT

文章目录

SpringAI-介绍

Spring AI项目旨在简化包含人工智能功能的应用程序的开发,避免不必要的复杂性。

该项目的灵感源自一些著名的 Python 项目,例如 LangChain 和 LlamaIndex,但 Spring AI 并非这些项目的直接移植。该项目的创立基于这样一种信念:下一波生成式 AI 应用将不仅面向 Python 开发人员,还将遍及多种编程语言。

Spring AI 提供了一些抽象,作为开发 AI 应用程序的基础。这些抽象具有多种实现,只需极少的代码更改即可轻松实现组件的替换。

Spring AI 提供以下功能:

  • 跨 AI 提供商的可移植 API 支持聊天、文本转图像和嵌入模型。支持同步和流式 API 选项。此外,还提供特定于模型的功能访问。

  • 支持所有主流AI模型提供商,例如 Anthropic、OpenAI、Microsoft、Amazon、Google 和 Ollama。支持的模型类型包括:
    Chat Completion 聊天补全
    Embedding 嵌入模型
    Text to Image 文生图
    Audio Transcription 音频转录
    Text to Speech 文本生成语音
    Moderation 内容审核

  • 结构化输出- AI 模型输出到 POJO 的映射。

  • 支持所有主要的矢量数据库提供商,例如 Apache Cassandra、Azure Cosmos DB、Azure Vector Search、Chroma、Elasticsearch、GemFire、MariaDB、Milvus、MongoDB Atlas、Neo4j、OpenSearch、Oracle、PostgreSQL/PGVector、PineCone、Qdrant、Redis、SAP Hana、Typesense 和 Weaviate。

  • 跨 Vector Store 提供商的可移植 API,包括新颖的类似 SQL 的元数据过滤器 API。

  • 工具/功能调用——允许模型请求执行客户端工具和功能,从而根据需要访问必要的实时信息并采取行动。

  • 可观察性——提供对 AI 相关操作的洞察。

  • 用于数据工程的文档提取ETL 框架

  • AI 模型评估- 帮助评估生成的内容并防止幻觉反应的实用程序。

  • Spring Boot 自动配置和 AI 模型和矢量存储的启动器。

  • ChatClient API - 用于与 AI 聊天模型通信的流畅 API,惯用语类似于 WebClient 和 RestClient API。

  • 顾问 API - 封装重复的生成式 AI 模式,转换发送到和来自语言模型 (LLM) 的数据,并提供跨各种模型和用例的可移植性。

  • 支持聊天对话记忆检索增强生成(RAG)

此功能集可让您实现常见的用例,例如“通过文档进行问答”或“通过文档进行聊天”。

0

评论区