챗봇에서 일하는 인공지능으로, AI 세대별 진화와 헤르메스 에이전트

불과 얼마 전까지만 해도 인공지능을 쓴다고 하면 웹 브라우저를 열고 “오늘 점심 메뉴 추천해 줘”, “이 보고서 초안 다듬어 줘”라며 대화창에 말을 거는 수준이었습니다. 화면 속 AI가 아무리 유려하게 문장을 써내려가도, 결국 답변을 복사해 문서에 붙여넣고 캘린더에 일정을 채우는 실제 손노동은 사람의 몫이었습니다.

최근 실무 현장의 분위기는 완전히 달라졌습니다. 단순히 말을 잘 주고받는 ‘챗(Chat)’을 넘어, 실제 작업 단위를 넘겨받아 끝내는 ‘액션(Action)’으로 무게중심이 옮겨간 탓입니다. 스탠퍼드 인간중심AI연구소(HAI)에 따르면, 이미 글로벌 조직의 88%가 최소 한 개 이상의 업무 영역에 AI를 도입했고 전 세계 채택률도 50%를 훌쩍 넘어섰습니다.

이제 경쟁의 초점은 매끄러운 텍스트 생성이 아니라, 스스로 판단하고 도구를 다뤄 업무를 끝까지 완수하는 에이전트(Agent)로 옮겨가고 있습니다. 요즘 생산성 커뮤니티나 현업에서 끊임없이 오르내리는 헤르메스 에이전트(Hermes Agent)와 옵시디언(Obsidian) 같은 낯선 도구들이 도대체 무엇인지, 그 세대별 흐름부터 짚어보겠습니다.

AI 발전 흐름과 세대별 역할

복잡한 기술 갈래도 AI가 사람의 일을 어디까지 직접 실행하는지를 잣대로 두면 흐름이 한눈에 잡힙니다.

1세대 대화형 챗봇(Chat & Prompt)

ChatGPT / Claude / Gemini: 사용자가 텍스트 창에 입력한 한정된 맥락(Prompt) 안에서만 사고하는 단발성 문답 구조입니다.
창구의 안내원처럼 질문에 유려하게 답을 건네지만 컴퓨터 내부 파일에 접근하거나 외부 프로그램을 조작할 손발이 없습니다. 대화창을 닫으면 기억이 증발하며, AI가 생성한 결과물을 복사해 실무 문서나 코드에 붙여넣는 물리적 작업은 전적으로 사람이 감당해야 합니다.

2세대 코파일럿(Copilot)

GitHub Copilot / Tabnine: 사용자가 작업 중인 에디터나 문서 창 내부로 직접 들어와 커서 주변의 맥락을 실시간으로 감지합니다.
조수석의 내비게이션처럼 사람이 키보드를 두드리는 순간 의도를 예측해 다음 단어, 한 줄의 코드, 완성된 함수를 연한 회색 글씨로 미리 띄워줍니다. 탭(Tab) 키 하나로 입력을 끝내 작업 속도를 높여주지만, 어디까지나 사람이 먼저 작성하고 있는 흐름 안에서만 반응하는 수동적 조력자에 머뭅니다.

3세대 에이전틱 코딩(Agentic Coding)

Cursor / Claude Code / Windsurf: 단일 파일 추천을 넘어 프로젝트 전체의 디렉터리 구조를 조망하고 스스로 계획을 세워 행동(Agentic Loop)합니다.
현장의 실무자처럼 “로그인 API와 화면을 연동해줘”라는 목표를 받으면 연관된 5~6개 파일을 동시에 열어 코드를 수정하고, 터미널 명령어를 직접 실행해 서버를 띄운 뒤 에러 로그를 읽고 스스로 디버깅합니다. 다만 작업자가 컴퓨터를 켜둔 채 모니터 앞에서 수정 내역(Diff)을 감수하고 승인 버튼을 눌러주어야 작동하는 대면 협업 모델입니다.

짚고 가기 | 챗봇을 에이전트로 만드는 뼈대, ‘하네스(Harness)’

2세대에서 3·4세대로 넘어가는 열쇠가 바로 ‘하네스(Harness)’입니다. 말에 채우는 안장과 고삐, 혹은 등반가의 추락을 막는 안전벨트를 뜻하는 단어입니다.

아무리 똑똑한 언어모델(LLM)이라도 화면 밖에는 손발이 없는 순수한 ‘두뇌’일 뿐입니다. 이 두뇌에 파일 읽기·수정 권한을 쥐어주고, 터미널 명령어를 안전한 격리 공간에서 실행하게 하며, 에러가 나면 고삐를 당겨 다시 시도하도록 통제하는 외부 실행 틀 전체를 하네스라고 부릅니다. 즉, ‘에이전트 = 모델(두뇌) + 하네스(신체와 도구함)’인 셈입니다.

4세대 백그라운드 자율 에이전트(Autonomous Background Agent)

Hermes Agent / OpenClaw / Devin: 사람의 PC를 벗어나 24시간 켜져 있는 독립된 서버(VPS)나 샌드박스 환경에 상주하며 시스템 권한을 쥡니다. 야간 당직 비서처럼 작업자가 노트북을 덮고 잠들어도 정해진 스케줄(Cron)에 따라 웹 데이터를 수집하고, 서버 내부의 쉘 명령어를 실행해 결과물을 개인 볼트(Obsidian)나 클라우드 드라이브에 직접 파일로 누적합니다. 메신저(텔레그램, 슬랙)를 호출 창구로 사용해 사람이 자리를 비운 상태에서도 비동기로 업무를 완결 짓습니다.

5세대 멀티 에이전트 시스템(Multi-Agent System)

헤르메스는 서버 안에서 AI 한 명이 명령을 받아 혼자 검색하고 혼자 파일을 고치는 단일 에이전트(Single Agent) 방식입니다. 최근 가장 강력한 대세는 이를 쪼개어 가상 팀을 만드는 멀티 에이전트 오케스트레이션입니다.

• CrewAI / Microsoft AutoGen / LangGraph:
  • “마케팅 기획자 AI”, “자료 조사원 AI”, “코드 검수 AI” 등 서로 다른 페르소나와 권한을 가진 에이전트들을 네트워크로 묶어 서로 대화하게 만듭니다.
  • 한 녀석이 보고서 초안을 쓰면, 검수 에이전트가 팩트체크를 하고, 비판 에이전트가 단점을 지적해 다시 고치게 만드는 자율 협업 파이프라인입니다.

앞으로의 선택 기준

2026년 최신 AI 지형도: 왜 ‘실행하는 AI’인가

실제 작업을 조작하는 AI의 성장은 가파릅니다. 스탠퍼드 HAI 자료를 보면, 컴퓨터 OS 환경에서 파일 열기, 클릭, 프로그램 조작을 수행하는 OSWorld 벤치마크 성능은 과거 약 12% 수준에서 66.3%까지 뛰었습니다. 텍스트 입력창을 벗어나 마우스와 키보드, 쉘 명령어를 직접 쥐기 시작한 것입니다.

기업의 소프트웨어 소비 방식도 달라졌습니다. 맥킨지(McKinsey) 조사에 따르면 대기업 응답자의 40%가 조직 내에 AI 에이전트를 확대 적용하고 있습니다. 특히 응답 기업의 32%는 “AI 도구를 활용해 필요한 소프트웨어를 내부에서 직접 만들어 쓸 수 있기 때문에, 기존에 돈을 주고 사려던 상용 소프트웨어 제품 구매를 포기했다”고 밝혔습니다. 자체 제작 역량이 생기면서 B2B SaaS 구매 공식 자체가 흔들리는 셈입니다.

직업의 소멸보다는 업무 재설계가 본질입니다. 일자리가 통째로 사라진다는 막연한 공포와 달리, 현장에서는 역할 분담이 다시 이뤄지고 있습니다. 자료 수집, 1차 요약, 엑셀 데이터 가공, 반복 이메일 초안 작성이나 스케줄 예약 같은 잡무는 AI 에이전트에게 넘어갑니다. 반면 사람은 최종 전략 수립, 복잡한 이해관계 조율, 맥락에 맞는 가치 판단과 브랜드 방향성 결정에 집중하게 됩니다. 반복 업무를 똑똑하게 위임하고 고차원적 판단에 집중하는 업무 설계 역량이 갈수록 중요해집니다.

헤르메스 에이전트, 옵시디언, VPS 개념 정리

• 헤르메스 에이전트 (Hermes Agent) 그리스 신화 속 헤르메스는 전령이자 온갖 심부름을 도맡던 신이었습니다. 오픈소스 프로젝트인 헤르메스 에이전트는 앞서 언급한 ‘하네스’를 서버 환경에 최적화해 구현한 자율형 AI 비서 프레임워크입니다. 단순히 문답을 주고받지 않고, 서버 터미널에서 명령어를 입력하고 코드를 실행하며 파일 수정과 예약 작업을 알아서 해냅니다.
• 옵시디언(Obsidian)과 볼트(Vault) 이 비서가 일한 결과물을 정리해 두는 서재입니다. 중앙 클라우드 서버에 글이 종속되는 일반 노트 앱과 달리, 내 기기 로컬 폴더에 순수 텍스트 문서(.md) 형태로 저장되는 지식 관리 도구입니다. 이 문서들이 모이는 폴더를 볼트(Vault)라 부릅니다. AI가 웹 리서치나 데이터 정리를 끝내면 휘발되는 대화창 대신 옵시디언 서재에 파일로 차곡차곡 쌓아줍니다.
• VPS(가상 사설 서버, Virtual Private Server) 비서가 머무는 24시간 켜진 사무실입니다. 노트북 전원을 끄면 모든 동작이 멈추기 때문에, 호스팅 업체에서 리눅스 가상 컴퓨터를 빌려 상시 가동 환경을 만듭니다.
• 도커(Docker) 이 작업 환경을 한 상자에 담아내는 기술입니다. 새 프로그램을 깔 때 환경 설정이 꼬이거나 충돌하는 일을 막기 위해, 실행에 필요한 모든 요소를 규격화된 컨테이너로 묶어줍니다. VPS 위에 도커로 헤르메스 에이전트를 올리면 번거로운 세팅 없이 깔끔하게 구동할 수 있습니다.

헤르메스 에이전트가 돌아가는 일상 풍경

이 기술들이 맞물리면 업무는 다음과 같이 흐릅니다.

노트북을 열지 않아도 정해진 시간에 웹 데이터를 긁어와 분석 리포트를 남깁니다. 이동 중일 때도 텔레그램 메신저로 “어제 저장된 회의록에서 마감 일정만 뽑아 표로 만들어줘”라고 던지면, 서버 속 헤르메스가 옵시디언 문서를 직접 열어 표를 채워 넣습니다. 한번 지시한 작업 규칙은 스킬(Skill)이라는 절차로 저장해 다음 작업에 재사용하며 자체적인 장기 기억을 쌓아갑니다.

들쭉날쭉한 경계와 보안 리스크

에이전트에게 실행 권한을 넘기는 만큼 맹점도 뚜렷합니다.

스탠퍼드 HAI 보고서가 지적하듯, 현재의 AI는 고난도 코딩이나 수학 문제는 곧잘 풀어내면서도 상식적인 맥락이나 미세한 조건 판단에서는 엉뚱한 실수를 냅니다. OSWorld 테스트에서도 복잡한 작업의 약 3분의 1은 여전히 실패합니다. 복잡한 문제를 잘 푼다고 해서 기본 실수를 안 할 것이라 방심하면 낭패를 봅니다. 계약, 세금, 금융 관련 작업은 여전히 사람의 교차 검수가 필수입니다.

보안과 권한 관리 역시 중요한 화두입니다. 터미널 접근권이나 결제 수단을 열어주는 순간 사소한 명령어 오작동으로도 핵심 파일이 지워지거나 API 토큰이 새어나갈 수 있습니다. 인도 등에서 AI 소액 결제 대행을 시험하며 엄격한 한도 설정과 본인 확인 규칙을 강제하는 이유입니다. 국내에서도 개정된 AI 기본법이 본격 시행되며 산업 진흥과 함께 신뢰성 확보, 안전성 가이드라인, 공공 데이터 보호를 위한 제도적 기준을 다듬어가고 있습니다.

개인이 챙겨야 할 실천 수칙

처음부터 비싼 유료 구독을 결제하거나 리눅스 명령어부터 매달릴 이유는 없습니다.

우선 매일 처리하는 이메일 답장 초안, 회의록 서식 정리처럼 반복되는 루틴 하나를 골라 작게 넘겨보는 일부터 권합니다. 통계 숫자, 법률 조항, 금융 수치는 반드시 원본을 직접 대조해야 하며, 화려한 프롬프트 작성 요령보다는 결과물의 논리적 허점을 짚어내는 감수 안목을 기르는 편이 훨씬 유리합니다. 당연히 주민등록번호, 은행 계좌 비밀번호, 사내 대외비 같은 민감한 자격 증명은 입력창에 넣지 말아야 합니다.

일자리에 대한 막연한 불안감에 휩쓸리기보다는, 내 일과표를 차분히 쪼개보며 어디까지를 AI에게 넘기고 어디서부터 내가 최종 책임을 질지 기준선을 긋는 태도가 실질적인 차이를 만듭니다.

자가 구축 시 최소 운영 비용은 얼마나 들까?

헤르메스 에이전트 자체는 오픈소스라 프로그램 비용이 들지 않지만, 24시간 꺼지지 않는 자율 비서 환경을 실제로 구축하려면 최소한의 인프라 유지비가 발생합니다.

• 가상 서버 (VPS 호스팅): 월 약 11,000원 ~ 14,000원 (Hostinger KVM 2, 24개월 약정 기준 / 부가세 별도)
  • 에이전트와 도커 컨테이너, 백그라운드 동기화를 안정적으로 상시 가동하기 위한 필수 서버 비용입니다.
• AI 두뇌 (LLM 모델): 기존 구독 활용 시 0원 추가 또는 종량제 API 소액
  • 이미 사용 중인 ChatGPT 유료 구독 계정을 연동(OpenAI Codex 방식)하거나, Google AI Studio(Gemini) 등의 종량제/무료 티어 API 키를 사용하면 추가 지출을 최소화할 수 있습니다.
• 메신저 및 클라우드 연동: 0원 (무료)
  • 텔레그램 봇, 슬랙 소켓 모드, 구글 드라이브 연동은 무료 API와 기본 계정으로 구성됩니다.
• 옵시디언 동기화 (선택): 월 약 5,500원 ~ 7,000원 (Obsidian Sync 구독 시)
  • 스마트폰과 PC로 작업 노트를 실시간 양방향 자동 동기화할 때만 필요한 선택 사항입니다.

최소 유지비 요약: 기존에 쓰던 AI 구독(ChatGPT 등)을 그대로 연결하고 옵시디언 유료 동기화 대신 기본 메신저 보고 위주로 굴린다면, 순수 서버 비용인 월 1만 원대 초중반만으로 24시간 작동하는 개인 AI 비서 시스템을 운영할 수 있습니다.

대화의 시대를 지나 실행의 시대로 접어들고 있습니다. 지금까지의 AI 활용이 곁에 똑똑한 대화 상대를 두는 일이었다면, 이제는 믿고 일을 맡길 실무자를 채용하고 조율하는 과정에 가깝습니다. 당장 서버를 파고 에이전트를 올리지 않더라도, 기술의 지향점을 읽어두면 도구를 다루는 시선 자체가 깊어집니다. 내 몫과 AI의 역할을 뚜렷하게 가를 줄 아는 사람이 이 흐름을 가장 유연하게 탈 수 있습니다

관련글