ㅣSpring 생태계와의 완벽한 통합

Spring 기반 백엔드 개발자라면 곧바로 사용할 수 있는 LLM 개발 프레임워크

· 기존 Spring과 동일하게 동작하는 어노테이션 기반 구성
· Spring Boot의 AutoConfiguration, Bean 등 친숙한 환경 그대로

ㅣ엔터프라이즈 데이터 및 API 연동에 최적화

실제 현업 환경의 DB, API, 문서 등 다양한 데이터를 AI에 쉽게 연결

· Advisor Chain 기반 RAG 외부 API 연동, DB/문서 기반 RAG 등 실무형 기능 제공
· ETL → Embedding → Vector DB → Retriever까지 완전한 파이프라인 구현 가능

ㅣ추상화 및 유연성

구조적이고 명확한 LLM 서비스 개발 가능

· ChatClient, PromptTemplate, VectorStore 등 어노테이션 기능 단위로 명확히 분리된 구조
· 복잡한 파이프라인 없이도 기능 중심으로 AI를 모듈화해서 개발 가능

ㅣAI 통합의 간소화

기존 백엔드 개발 흐름 그대로, 빠르게 AI 서비스 구축 가능

· 복잡한 설정과 러닝커브 없이 LLM 기능을 스프링 환경에 통합
· 실습 중심 구조로 CLI 챗봇, REST 챗봇, Tool, MCP 등 다양한 형태 구현 가능

Spring AI의 초기 Chat Stream 처리 Interface와 OpenAI StreamClient 구현


Github

Spring AI의 VectorDB 부분
Elasticsearch와 제안 및 모듈 구현


Github

Spring AI의 VectorDB OpenSearch 제안 및 모듈 구현과 SimpleVectorStore의 FilterExpression 제안 및 구현

Github

SK planet 서비스 모니터링 구현 사례 공유 발표

SK planet Spring Boot 를 적용한 전사 모니터링 시스템 Backend 개발 사례 발표

SK planet JMCloud-ComputeManager 개발기 발표

Spring AI Chat 개발
Spring AI의 기본 구조와 기능을 이해하고, CLI 및 REST API 기반의 챗봇을 구현합니다.

| 주요 학습 포인트
· 주제 : Chat Client 를 사용해서 기본 LLM 챗봇 구현
· 기능 : CLI 챗봇 테스트, Rest API 로 챗봇 기능 서비스

  실습 프로세스 자세히보기

1.개발 환경 구축 (Auto Configuration)
2.CLI 챗봇 개발
· Local 개발 환경 Ollama 구성
· 단일 질문/응답 처리 (ChatClient.call)
· 스트리밍 출력 처리 (ChatClient.stream + SSE)

3.REST API 챗봇 개발
· /chat/call, /chat/stream REST API 구성

4.Chat Memory + Advisors 기능 개발
· 메모리 기반 대화 흐름 관리
· Pre/Post Advisor 적용 예제 구현

5.Structured Output Converter 개발
· 시스템 메시지에 JSON 포맷 지시
· 응답을 자바 객체로 변환 처리

Spring AI RAG Chat 개발
Embedding과 Vector DB를 기반으로 한 RAG 챗봇을 구현합니다.

| 주요 학습 포인트
· 주제 : RAG 를 위한 ETL Pipeline 구성 및 Vectorstore 구축 후 RAG 챗봇 구현
· 기능 : 간단한 ETL Pipeline 구성, RAG 를 수행하고 답변하는 CLI 챗봇 테스트, Rest API 로 RAG 챗봇 기능 서비스

  실습 프로세스 자세히보기

1.개발 환경 구축 (Auto Configuration)
· SimpleVectorStore 기반 in-memory 설정
· 실습용 docker 기반 외부 VectorStore 실행 시연

2.ETL Pipeline 개발
· 문서 텍스트 → 임베딩 생성 → VectorStore 저장
· 간단한 pdf/doc 대상 실습

3.RAG Advisors 개발
· 검색된 문서 기반으로 Prompt 재구성
· Retrieval 결과와 원 질문 결합

4.CLI 챗봇 개발

5.REST API 챗봇 개발
· /rag/call, rag/stream REST API 구현

Spring AI Tool Calling Chat 개발
Spring AI에서 Tool Specification을 사용해 외부 API를 연결하고, 챗봇이 이를 제어하며 호출하는 구조를 학습합니다.

| 주요 학습 포인트
· 주제 : Tool 개발 후 Tool Calling 챗봇 구현
· 기능 : Tool Calling을 수행하고 답변하는 CLI 챗봇 테스트, Rest API 로 Tool Calling 챗봇 기능 서비스

  실습 프로세스 자세히보기

1.개발 환경 구축 (Auto Configuration)

2.외부 API 연동 Tool Specification 작성
· 날씨 API 등 단순 예제로 구현
· 스펙 명세 JSON 기반 파라미터 자동 추론

3.Tool 연동 및 결과 변환 처리
· AI 응답을 자바 메서드에 매핑 → 결과 재구성

4.Tool 제어
· return_direct 플래그 활용
· 예외 발생 시 사용자 응답 제어

5.CLI 및 REST API 챗봇 개발
· /tool/call, /tool/steam API 구성

Spring AI MCP Server 개발 및 MCP Client 사용 Chat 개발
Spring AI에서 제공하는 MCP(Machine-Callable Protocol)를 사용하여 Tool 공유 및 분산 실행 환경을 구현합니다.

| 주요 학습 포인트
· 주제 : MCP Client 구성과 개발 후 기존 Tool 을 기반으로 MCP Server 구현
· 기능 : CLI 챗봇에서 MCP Client 기능을 추가하고 MCP 서버와 연결하여 테스트

  실습 프로세스 자세히보기

1.개발 환경 구축 (Auto Configuration)

2.MCP 클라이언트 개발

· 외부 MCP 서버 연결 → 날씨 Tool 호출

3.로컬 MCP 서버 개발
· 내부 REST API를 MCP로 포장
· Tool spec 및 실행 노출

4.기존 Spring AI Chat 챗봇에 MCP 연동
· Tool 호출 경로를 로컬이 아닌 MCP를 통해 위임
· Tool 목록 관리 및 표준화 체험
· /mcp/call, /mcp/stream API 구성