AI 서비스 구축 고급과정
AI 서비스 구축 고급과정 Type 01
[ AI 서비스 구축]
대면 · AX 결과물 생산 — 팀 단위 진행 / AX 최상위 결과물 · 공모 대상 · 선수과정 없음
-
교육 개요 교육 시수 24H (3일 × 8H) 교육 대상 AI를 본인 업무에는 붙였으나, 동료들이 함께 쓰려면 매번 자신이 실행해줘야 하는 상태에 머문 연구직 석·박사 이론 : 실습 30 : 70
-
교육 목표 우리 부서 자료를 근거로 답하는 서비스를 팀 단위로 구축해, 접속하면 동작하는 형태로 만들고 폐쇄망 이관 가능성까지 확인한다.
- 기대효과
- 파인튜닝·프롬프트·RAG·에이전트 중 무엇을 고를지 판단 기준을 갖고 서비스 구조를 설계한다.
- 사내 문서를 근거로 출처를 붙여 답하고, 근거가 없으면 모른다고 답하는 서비스를 만든다.
- 평가 질문 세트로 정답률·환각 발생을 측정하고, 그 결과를 근거로 설정을 개선한다.
- 온프레미스 구성을 확인해, 연구소 내부 서버 도입 시 필요한 사양·절차를 문서로 제시할 수 있다.
- 교육 결과물
- 접속해서 쓸 수 있는 AI 서비스 1종 — 웹 화면 · 출처 표시 · 품질 측정 결과 포함
- 온프레미스 구성안 1부 — 필요 서버 사양 · 모델 · 설치 절차 · 문서 접근권한 · 운영 주체
- 평가 질문 세트 20건과 측정 결과표
- 교육 커리큘럼
- 1일차 (3H) 오전: 이론·실습
- 주제: LLM 구조 이해 / Agent Architecture 설계 — [수요조사 반영] 만들 서비스 정의
- 토큰·컨텍스트 한계·임베딩이 실제 서비스(비용·속도·입력 길이)에 미치는 영향
- Agent Architecture 설계 : 파인튜닝 · 프롬프트 · RAG · 에이전트 중 무엇을 고를지 판단하는 기준과 조합 구조
- [수요조사 반영] 조사에서 나온 “찾기 어려운 정보 · 반복 문의” 항목을 팀별 서비스 주제로 배정
- [대체안] 기술문서 Q&A / 규정·지침 안내 / 과거 과제 검색을 기본 주제로 운영
- 주제: LLM 구조 이해 / Agent Architecture 설계 — [수요조사 반영] 만들 서비스 정의
- 1일차 (5H) 오후: 실습
- 주제: API 기반 AI 서비스 개발 / Claude API 활용 / OpenAI API 활용
- API로 요청·응답을 코드에서 다루기 (모델 선택 · 시스템 프롬프트 · 출력 형식 고정)
- Claude API와 OpenAI API의 차이와 용도 배분
- 오류 재시도·사용량 관리 등 서비스가 갖춰야 할 기본기
- 골격 코드 위에서 질문을 받아 답을 반환하는 형태까지 동작시키기 실습
- 주제: API 기반 AI 서비스 개발 / Claude API 활용 / OpenAI API 활용
- 2일차 (3H) 오전: 실습
- 주제: RAG ① 문서를 검색 가능하게 만들기 — 청킹 · 임베딩 · 벡터DB
- 문서 적재 흐름 : 기술문서 분할(청킹) → 임베딩 → 벡터DB 저장, 표·캡션 처리 방식
- 동형 합성 기술문서 세트를 실제로 적재하고 검색해보기
- 검색이 실패하는 사례를 직접 만들어 원인 확인 (용어 불일치 · 문서 길이 · 잘못된 분할) 실습
- 주제: RAG ① 문서를 검색 가능하게 만들기 — 청킹 · 임베딩 · 벡터DB
- 2일차 (5H) 오후: 실습
- 주제: RAG ② 근거를 대는 답변으로 만들기 / MCP
- 검색 품질 개선 : 문서 분할 크기 조정, 메타데이터 필터(문서종류 · 개정일)
- 답변에 출처 문서·위치를 반드시 붙이게 하고, 근거가 없으면 모른다고 답하게 통제
- 개정 이력이 상충하는 문서, 문서에 없는 질문에 대한 처리
- MCP : 서비스가 외부 도구·데이터에 붙어 답변 이상의 작업까지 수행하게 하는 구성 실습
- 주제: RAG ② 근거를 대는 답변으로 만들기 / MCP
- 3일차 (3H) 오전: 실습
- 주제: AI 서비스 구축 실습 — 화면 완성과 품질 측정 (Streamlit)
- 화면 붙이기 : 질문 입력 · 답변 · 출처 표시 · 질문 이력
- 평가 질문 세트 20건으로 정답률·환각 발생 여부를 측정하고, 결과를 근거로 설정 조정
- 팀 간 교차 테스트 : 다른 팀 서비스에 질문해 약점 찾기 실습
- 주제: AI 서비스 구축 실습 — 화면 완성과 품질 측정 (Streamlit)
- 3일차 (5H) 오후: PBL
- 주제: [PBL] 온프레미스 구성안 작성 + 서비스 시연
- 로컬 LLM 구동 시연(Ollama · vLLM) + 로컬 임베딩·벡터DB로 전 구간을 내부에서 돌리는 구성
- 사내 도입 시 고려사항 : 서버 사양 · 문서 접근권한 · 비밀등급 분리 · 운영 주체
- 온프레미스 구성안 작성 (필요 사양 · 모델 · 설치 절차 정리)
- [PBL] 팀별 서비스 시연 + 평가 결과 발표 (3분) → AX 우수사례 1차 심사 겸함
- 주제: [PBL] 온프레미스 구성안 작성 + 서비스 시연
※ RFP 요구 강의내용 반영 현황: - LLM 구조 이해 / API 기반 AI 서비스 개발 / Claude API 활용 / OpenAI API 활용 / RAG / MCP / Agent Architecture 설계 / AI 서비스 구축 실습 → 8개 항목 전량 반영 ※ 팀 편성 시 EDU-15·17 수강자와 미수강자를 의도적으로 혼합하여, 선수과정 없이도 팀 전체가 완주 가능하도록 운영함