Spring AI

ㅣSpring 생태계와의 완벽한 통합

Spring 기반 백엔드 개발자라면 곧바로 사용할 수 있는 LLM 개발 프레임워크

· 기존 Spring과 동일하게 동작하는 어노테이션 기반 구성
· Spring Boot의 AutoConfiguration, Bean 등 친숙한 환경 그대로

ㅣ엔터프라이즈 데이터 및 API 연동에 최적화

실제 현업 환경의 DB, API, 문서 등 다양한 데이터를 AI에 쉽게 연결

· Advisor Chain 기반 RAG 외부 API 연동, DB/문서 기반 RAG 등 실무형 기능 제공
· ETL → Embedding → Vector DB → Retriever까지 완전한 파이프라인 구현 가능

ㅣ추상화 및 유연성

구조적이고 명확한 LLM 서비스 개발 가능

· ChatClient, PromptTemplate, VectorStore 등 어노테이션 기능 단위로 명확히 분리된 구조
· 복잡한 파이프라인 없이도 기능 중심으로 AI를 모듈화해서 개발 가능

ㅣAI 통합의 간소화

기존 백엔드 개발 흐름 그대로, 빠르게 AI 서비스 구축 가능

· 복잡한 설정과 러닝커브 없이 LLM 기능을 스프링 환경에 통합
· 실습 중심 구조로 CLI 챗봇, REST 챗봇, Tool, MCP 등 다양한 형태 구현 가능

Spring AI의 초기 Chat Stream 처리 Interface와 OpenAI StreamClient 구현


Github

Spring AI의 VectorDB 부분
Elasticsearch와 제안 및 모듈 구현


Github

Spring AI의 VectorDB OpenSearch 제안 및 모듈 구현과 SimpleVectorStore의 FilterExpression 제안 및 구현

Github

SK planet 서비스 모니터링 구현 사례 공유 발표

SK planet Spring Boot 를 적용한 전사 모니터링 시스템 Backend 개발 사례 발표

SK planet JMCloud-ComputeManager 개발기 발표

Spring AI Chat 개발
Spring AI의 기본 구조와 기능을 이해하고, CLI 및 REST API 기반의 챗봇을 구현합니다.

| 주요 학습 포인트
· 주제 : Chat Client 를 사용해서 기본 LLM 챗봇 구현
· 기능 : CLI 챗봇 테스트, Rest API 로 챗봇 기능 서비스

  실습 프로세스 자세히보기

1.개발 환경 구축 (Auto Configuration)
2.CLI 챗봇 개발
· Local 개발 환경 Ollama 구성
· 단일 질문/응답 처리 (ChatClient.call)
· 스트리밍 출력 처리 (ChatClient.stream + SSE)

3.REST API 챗봇 개발
· /chat/call, /chat/stream REST API 구성

4.Chat Memory + Advisors 기능 개발
· 메모리 기반 대화 흐름 관리
· Pre/Post Advisor 적용 예제 구현

5.Structured Output Converter 개발
· 시스템 메시지에 JSON 포맷 지시
· 응답을 자바 객체로 변환 처리

Spring AI RAG Chat 개발
Embedding과 Vector DB를 기반으로 한 RAG 챗봇을 구현합니다.

| 주요 학습 포인트
· 주제 : RAG 를 위한 ETL Pipeline 구성 및 Vectorstore 구축 후 RAG 챗봇 구현
· 기능 : 간단한 ETL Pipeline 구성, RAG 를 수행하고 답변하는 CLI 챗봇 테스트, Rest API 로 RAG 챗봇 기능 서비스

  실습 프로세스 자세히보기

1.개발 환경 구축 (Auto Configuration)
· SimpleVectorStore 기반 in-memory 설정
· 실습용 docker 기반 외부 VectorStore 실행 시연

2.ETL Pipeline 개발
· 문서 텍스트 → 임베딩 생성 → VectorStore 저장
· 간단한 pdf/doc 대상 실습

3.RAG Advisors 개발
· 검색된 문서 기반으로 Prompt 재구성
· Retrieval 결과와 원 질문 결합

4.CLI 챗봇 개발

5.REST API 챗봇 개발
· /rag/call, rag/stream REST API 구현