[AI 개발환경] Hermes Agent, Ollama, DDGS, QMD로 만든 개발 보조 워크플로

들어가며

2026년 6월에는 Spring Boot 운영 환경을 정리하는 동시에, 개발 보조용 AI 에이전트를 구성하는 데 관심이 많았다.

처음에는 ChatGPT나 Cursor처럼 이미 만들어진 도구를 사용하는 것에 집중했다.
하지만 점점 “내 프로젝트 문맥을 알고, 최신 문서를 검색하고, 내가 공부하는 방식에 맞춰 도와주는 도구를 만들 수 없을까?”라는 생각을 하게 되었다.

그 과정에서 Hermes Agent, Ollama, DDGS, QMD 같은 도구를 연결해보는 구성을 고민했다.

목표는 코드 생성기가 아니었다

처음부터 목표는 단순한 코드 생성기가 아니었다.

내가 원했던 것은 다음에 가까웠다.

프로젝트를 함께 읽고, 문서를 찾아보고, 코드 리뷰 방향을 제안하고,
학습 내용을 정리해주는 멘토형 에이전트

코드를 대신 써주는 것보다 중요한 것은 내가 문제를 더 잘 이해하도록 도와주는 것이었다.

특히 Java와 Spring Boot는 오래된 정보와 최신 정보가 섞여 있기 쉽다.
그래서 AI 답변만 믿기보다 공식 문서나 최신 자료를 함께 확인하는 흐름이 필요했다.

Ollama와 로컬 LLM

Ollama는 로컬에서 LLM을 실행할 수 있게 해준다.

클라우드 모델은 성능이 좋지만, 모든 내용을 외부로 보내는 것이 부담스러울 때가 있다.
반면 로컬 LLM은 성능은 제한적일 수 있지만, 간단한 코드 설명이나 문서 초안, 반복적인 정리 작업에는 충분히 활용할 수 있다.

로컬 LLM을 쓰면서 기대했던 점은 다음과 같다.

• 프로젝트 파일을 로컬에서 분석
• 간단한 코드 설명
• 반복 문서화
• 외부 API 비용 없이 실험
• 개인 학습 흐름에 맞춘 보조 도구 구성

물론 로컬 모델은 환각이나 성능 한계가 있다.
그래서 검색 도구와 함께 쓰는 것이 중요하다고 생각했다.

DDGS 검색 연결

AI가 최신 정보를 모르는 문제를 줄이기 위해 DDGS 검색을 연결하는 흐름을 고민했다.

특히 다음 주제는 최신 공식 문서 확인이 중요하다.

• Spring Boot 최신 버전 설정
• Spring Security 변경점
• JUnit 테스트 방식
• Docker 명령어
• AWS 관련 설정
• OAuth/OIDC 권장 흐름

AI가 오래된 답변을 내놓을 수 있기 때문에, 검색 결과를 바탕으로 답변하도록 규칙을 두는 것이 중요했다.

내가 생각한 방향은 다음과 같았다.

기술 질문 -> 공식 문서 검색 -> 검색 결과 요약 -> 프로젝트 상황에 맞게 적용

이렇게 하면 단순히 그럴듯한 답변을 받는 것이 아니라, 근거가 있는 답변을 받을 수 있다.

QMD로 문서화하기

QMD는 Quarto Markdown 형식으로 문서를 정리할 때 활용할 수 있다.

개발하면서 생긴 내용을 그냥 대화로 흘려보내면 나중에 다시 찾기 어렵다.
그래서 학습 내용, 트러블슈팅, 명령어, 설정 이유를 문서로 남기는 흐름이 필요했다.

에이전트가 도와줬으면 한 부분은 다음이었다.

• 오늘 해결한 문제 요약
• 실행한 명령어 정리
• 실패한 시도와 원인 기록
• 참고한 문서 링크 정리
• 블로그 글 초안 변환

이런 문서화가 쌓이면 나중에 포트폴리오나 블로그 글로 바꾸기 쉬워진다.

Hermes Agent에 기대한 것

Hermes Agent는 내 개발 환경에서 작업을 도와주는 에이전트처럼 구성하고 싶었다.

단순히 질문하면 답하는 챗봇이 아니라, 다음 역할을 기대했다.

• 프로젝트 구조 읽기
• README나 설정 파일 요약
• 오래된 답변을 피하기 위해 검색 수행
• 코드 변경 전 영향 범위 설명
• 테스트 실패 로그 분석
• 문서화 파일 생성
• 내가 자주 하는 실수를 체크리스트로 알려주기

결국 목표는 “나 대신 개발하는 AI”가 아니라 “내가 더 좋은 판단을 하도록 돕는 AI”였다.

AI 도구를 쓰며 조심할 점

AI 도구는 편리하지만, 그대로 믿으면 위험하다.

특히 백엔드 개발에서는 설정 하나가 보안 문제로 이어질 수 있고, 오래된 코드 예제가 최신 버전에서는 동작하지 않을 수 있다.

그래서 다음 원칙을 잡으려고 했다.

• 공식 문서를 우선 확인한다.
• 버전 정보를 반드시 확인한다.
• 보안 관련 설정은 그대로 복사하지 않는다.
• 실행 결과와 테스트로 검증한다.
• AI가 만든 문장은 내 경험과 맞게 다시 고친다.

AI는 빠르게 방향을 잡아주지만, 최종 책임은 개발자에게 있다.

마무리

Hermes Agent, Ollama, DDGS, QMD를 연결해보려는 시도는 아직 완성된 시스템이라기보다 학습 과정에 가까웠다.

하지만 이 과정에서 내가 원하는 AI 활용 방향은 더 분명해졌다.

단순 코드 생성보다 중요한 것은 검색, 검증, 문서화, 회고를 도와주는 개발 파트너를 만드는 것이다.

앞으로는 AI 도구를 더 많이 쓰더라도, 내가 이해하고 판단하는 흐름을 잃지 않는 방향으로 활용해보고 싶다.