“AI 에이전트 좋다는 건 알겠는데…
그래서 실제로 어떻게 만드는 건데?”
최근 기업 담당자들과 이야기하다 보면 이 질문이 정말 자주 나옵니다.
AI 전환 이야기는 많아졌지만 막상 회사 안에서 직접 만들어보려 하면
어디서부터 시작해야 할지 막막한 경우가 많습니다.
그래서 이번에는
이론보다 실제 흐름 중심으로 정리해봤습니다.
오피스에이전트를 예시로
회사 문서를 기반으로 AI 에이전트를 만드는 과정을 하나씩 따라가보는 실습형 가이드입니다.
처음부터 거창하게 시작하지 않아도 됩니다
의외로 많은 기업들이
처음부터 모든 문서를 넣고,
전사 AI를 만들려고 하다가 시작 자체가 늦어집니다.
그런데 실제로는 보통 이렇게 시작합니다.
- 자주 반복되는 질문 하나 찾기
- 관련 문서 몇 개 정리하기
- 한 팀에서 먼저 테스트해보기
예를 들면 이런 질문들이죠.
- 연차 신청 어떻게 하지?
- 출장비 정산 어디서 해?
- 품질 기준 문서 어디 있어?
- SOP 최신본 뭐야?
문서는 이미 있는데
매번 사람에게 물어보는 업무들이 있습니다.
AI 에이전트는 보통 여기서부터 시작됩니다.
이번 글에서는 이런 흐름으로 진행했습니다
1. 문서 업로드
AI가 참고할 문서를 먼저 등록합니다.
매뉴얼, FAQ, 정책 문서처럼
이미 회사 안에 있는 자료들입니다.
2. 역할 설정
에이전트가 어떤 질문에 답할지 정합니다.
여기서 중요한 건
처음부터 범위를 너무 넓게 잡지 않는 것입니다.
❌ 회사 모든 질문 답변
⭕ HR 규정 관련 질문 답변
이렇게 좁게 시작하는 편이
오히려 정확도가 안정적입니다.
3. 예시 질문 등록
직원들이 실제로 물어볼 만한 질문을 넣어봅니다.
“연차 어떻게 써요?”
“출장비 정산 어디서 해요?”
같은 실제 표현들이 중요합니다.
4. 테스트
이 단계가 정말 중요했습니다.
답변이 이상한 경우를 보면
AI 자체 문제보다
- 문서가 오래됐거나
- 문서가 누락됐거나
- 파일 정리가 안 된 경우가 많았습니다.
결국 AI 품질은
문서 품질과 연결되는 경우가 많다는 걸 다시 느끼게 됩니다.
생각보다 중요한 건 “사용 경험”
실제로는 기능보다
직원들이 “이제 먼저 AI한테 물어보게 되는가?”가 더 중요했습니다.
처음에는 어색해해도
몇 번 빠르게 답변받는 경험이 쌓이면
행동이 조금씩 바뀌기 시작합니다.
그리고 그 순간부터
다른 팀에서도 관심을 갖기 시작합니다.
이번 글은 이런 분들에게 특히 추천드립니다
- AI 전환을 어디서 시작해야 할지 막막한 분
- 사내 문서 기반 AI를 검토 중인 분
- 반복 문의가 많은 조직
- 실제 구축 흐름이 궁금한 분
- “AI 에이전트”가 정확히 뭔지 감이 안 오는 분
이번 글은
“AI가 미래를 바꾼다” 같은 이야기보다 실제로 회사 안에서
어떻게 시작되는지에 더 집중해봤습니다.
생각보다 거창하지 않게, 작게 시작하는 기업들이 많았습니다.
전체 글은 아래에서 보실 수 있습니다 🙂
댓글