Spring AI

Spring AI は、AI エンジニアリング用のアプリケーションフレームワークです。そのゴールは、移植性やモジュール設計などの Spring エコシステム設計原則を AI ドメインに適用し、AI ドメインへのアプリケーションの構成要素として POJO の使用を促進することです。

Spring AI は、本質的に、企業のデータおよび API を AI モデルに接続するという、AI 統合の基本的な課題に取り組んでいます。

機能

Spring AI は次の機能を提供します。

• Anthropic、OpenAI、Microsoft、Amazon、Google、Ollama など、すべての主要な AI モデルプロバイダーをサポートします。サポートされるモデル型は次のとおりです。
  • チャット補完
  • 埋め込み
  • テキストからイメージへ
  • 音声文字起こし
  • テキスト読み上げ
  • モデレーション
• 同期 API オプションとストリーミング API オプションの両方について、AI プロバイダー間でのポータブル API サポートがサポートされています。モデル固有の機能へのアクセスも利用できます。
• 構造化された出力 - AI モデル出力の POJO へのマッピング。
• Apache Cassandra、Azure Vector Search、Chroma、Milvus、MongoDB Atlas、Neo4j、Oracle、PostgreSQL/PGVector、PineCone、Qdrant、Redis、Weaviate など、すべての主要なベクトルデータベースプロバイダーをサポートします。
• 新しい SQL のようなメタデータフィルター API を含む、ベクトルストアプロバイダー間で移植可能な API。
• ツール / 関数呼び出し - モデルがクライアント側のツールと関数の実行をリクエストし、必要に応じて必要なリアルタイム情報にアクセスできるようにします。
• 可観測性 - AI 関連の操作に関するインサイトを提供します。
• データエンジニアリング用のドキュメントインジェクション ETL フレームワーク。
• AI モデル評価 - 生成されたコンテンツを評価し、幻覚的な反応から保護するためのユーティリティ。
• ChatClient API - AI チャットモデルと通信するための Fluent API。慣用的には WebClient および RestClient API に似ています。
• アドバイザー API - 繰り返し発生する生成 AI パターンをカプセル化し、言語モデル (LLM) との間で送受信されるデータを変換し、さまざまなモデルやユースケース間での移植性を実現します。
• チャット会話メモリおよび検索拡張生成 (RAG) のサポート。
• すべての AI モデルとベクトルストア用の Spring Boot 自動構成およびスターター - start.spring.io を使用して、選択したモデルまたはベクトルストアを選択します。

この機能セットを使用すると、"Q&A over your documentation" や "Chat with your documentation." などの一般的なユースケースを実装できます。

ドキュメント

広範なリファレンスドキュメント、サンプルアプリケーション、ワークショップ / コース資料。

入門

以下の簡単な手順で始めることができます:

1. Spring AI OpenAI Boot スターター依存関係を持つ Spring Boot Web アプリケーションを作成します。この Spring Initializr リンクは、アプリケーションのブートストラップに役立ちます。( start.spring.io を使用すると、新しいアプリケーションで使用する任意の AI モデルまたはベクトルストアを選択できます )。

2. OpenAI キーを application.properties に追加します。

   spring.ai.openai.api-key=<YOUR OPENAI KEY>
   

3. SpringAiDemoApplication クラスに次のスニペットを追加します。

   @Bean
   public CommandLineRunner runner(ChatClient.Builder builder) {
       return args -> {
           ChatClient chatClient = builder.build();
           String response = chatClient.prompt("Tell me a joke").call().content();							
           System.out.println(response);
       };
   }
   

4. アプリケーションの実行:

   ./mvnw spring-boot:run
   

別の方法で始めたいですか ? リファレンスドキュメントで入門セクションを参照してください。