Spring AI

Spring AI は、AI エンジニアリング用のアプリケーションフレームワークです。そのゴールは、移植性やモジュール設計などの Spring エコシステム設計原則を AI ドメインに適用し、AI ドメインへのアプリケーションの構成要素として POJO の使用を促進することです。

機能

チャット、テキストからイメージへの変換、埋め込みモデルの AI プロバイダー全体にわたるポータブル API サポート。同期 API オプションとストリーム API オプションの両方がサポートされています。ドロップダウンしてモデル固有の機能にアクセスすることもできます。

チャットモデル

  • OpenAI
  • Azure Open AI
  • Amazon Bedrock
    • Cohere's Command
    • AI21 Labs' Jurassic-2
    • Meta LLama 2
    • Amazon の Titan
  • Google Vertex AI Palm
  • Google Gemini
  • HuggingFace - Llama2 などの Meta のモデルを含む数千のモデルにアクセス
  • Ollama - ローカルマシン上で AI モデルを実行する
  • MistralAI

テキストからイメージへのモデル

  • DALL-E 搭載 OpenAI
  • StabilityAI

文字起こし(音声からテキストへ)モデル

  • OpenAI

モデルの埋め込み

  • OpenAI
  • Azure OpenAI
  • Ollama
  • ONNX
  • PostgresML
  • Bedrock Cohere
  • Bedrock Titan
  • Google VertexAI
  • Mistal AI

ベクトルストア API は、さまざまなプロバイダー間での移植性を提供し、移植性を維持する新しい SQL のようなメタデータフィルタリング API を備えています。

ベクトルデータベース

  • Azure ベクトル検索
  • Chroma
  • Milvus
  • Neo4j
  • PostgreSQL/PGVector
  • PineCone
  • Redis
  • Weaviate
  • Qdrant

AI モデルおよびベクトルストア用の Spring Boot 自動構成とスターター

関数呼び出しプロンプトレスポンスで使用するために、OpenAI モデルに java.util.Function 実装を宣言できます。これらの関数をオブジェクトとして直接提供することも、アプリケーションコンテキスト内で @Bean として登録されている場合は名前を参照することもできます。この機能により、不要なコードが最小限に抑えられ、AI モデルはレスポンスを実行するために詳細情報を要求できるようになります。

サポートされているモデル

  • OpenAI
  • Azure OpenAI
  • VertexAI
  • Mistral AI
  • Anthropic Claude

データエンジニアリングのための ETL フレームワーク

  • ETL フレームワークの中核となる機能は、ベクトルストア を使用してモデルプロバイダーへのドキュメントの転送を容易にすることです。ETL フレームワークは Java 関数型プログラミングの概念に基づいており、チェーン の複数のステップをまとめるのに役立ちます。
  • PDF、JSON など、さまざまな形式のドキュメントの読み取りをサポートしています。
  • このフレームワークにより、ニーズに合わせたデータ操作が可能になります。これには多くの場合、コンテキストウィンドウの制限に従ってドキュメントを分割し、ドキュメントの検索効率を向上させるためにキーワードを使用してドキュメントを強化することが含まれます。
  • 最後に、処理されたドキュメントは Vector データベースに保存され、将来の検索のためにアクセスできるようになります。

広範なリファレンスドキュメント、サンプルアプリケーション、ワークショップ / コース資料。

将来のリリースは、この基盤に基づいて構築され、追加の AI モデル (たとえば、Google によってリリースされたばかりの Gemini マルチモーダルモーダル)、AI アプリケーションの有効性を評価するためのフレームワーク、より便利な API、問題の解決に役立つ機能へのアクセスを提供する予定です。「ドキュメントのクエリ / 要約」の使用例。今後のリリースの詳細については、GitHub を確認してください。

入門

いくつかの簡単な手順で開始できます

  1. Spring CLI のインストールと入力し、シェルでコマンドを実行します。
spring boot new --from ai --name myai

ChatGPT との基本的な対話を開始するためのアプリケーションを作成します。生成された README ファイルの指示に従って API KEY を取得してから

  1. アプリケーションの実行
./mvw spring-boot:run
  1. エンドポイントを curl:
curl localhost:8080/ai/simple

別の方法で始めたいですか ? リファレンスドキュメントで入門セクションを参照してください。

Spring Initializr

プロジェクトのクイックスタート

サポートの取得

Tanzu Spring は、1 つのシンプルなサブスクリプションで OpenJDK ™、Spring、Apache Tomcat ® のサポートとバイナリを提供します。

さらに学習したい方に (英語)

今後のイベント

Spring コミュニティで今後開催されるすべてのイベントをチェックしてください。

すべて表示 (英語)