2026년 11월 기준 · Ubuntu 22.04/24.04 LTS 중심 · Linux 서버 및 AI 자동화 실습

생성형 AI를 활용하는 방식이 빠르게 바뀌고 있습니다. 예전에는 사람이 질문을 입력하고 AI가 답변을 생성하는 구조였다면, 이제는 AI가 파일을 읽고, 명령어를 실행하고, 웹에서 정보를 찾으며 여러 작업을 연속적으로 수행하는 **AI 에이전트(Agentic AI)**가 주목받고 있습니다.

그중 흥미로운 오픈소스 프로젝트가 Hermes Agent입니다.

Hermes Agent는 Nous Research가 개발하는 AI 에이전트로, 터미널에서 실행할 수 있고 다양한 언어모델과 연결할 수 있습니다. 대화 이력과 경험을 활용하는 메모리, 재사용 가능한 스킬, 도구 실행, 메시징 플랫폼 연동, 예약 작업 등을 지원합니다. Nous Research

이번 글에서는 우분투 서버에 Hermes Agent를 설치하고 실제로 활용하는 방법을 다룹니다. 특히 단순 설치에서 끝내지 않고 모델 연결, 서버 운영, 업무 자동화, 보안 관리까지 살펴보겠습니다.

1. Hermes Agent란 무엇인가?

Hermes Agent는 단순한 챗봇 프로그램과는 성격이 다릅니다.

일반적인 챗봇은 사용자가 질문하면 답변을 생성하는 데 초점을 맞춥니다. 반면 AI 에이전트는 목표를 전달받으면 필요한 도구를 선택하고 여러 단계를 수행하도록 설계됩니다.

예를 들어 다음과 같이 요청할 수 있습니다.

“오늘 서버 로그를 분석해서 오류가 많이 발생한 항목을 정리하고, 결과를 보고서로 작성해 줘.”

Hermes Agent는 권한과 도구가 적절하게 설정된 경우 파일 읽기, 명령어 실행, 결과 분석, 보고서 작성 등을 연결할 수 있습니다.

사용자 명령

“서버 로그를 분석하고 보고서를 작성해 줘”

Hermes Agent

작업 계획 · 도구 선택 · 실행 · 결과 검토

LLM

추론·계획

Tools

파일·명령어

Memory

이력·스킬

작업 결과 · 보고서 · 자동화 실행

주요 기능

기능	설명
터미널 AI	CLI에서 자연어로 작업 수행
멀티 모델	다양한 LLM 제공자 및 자체 호스팅 모델 연결
메모리	세션 간 유용한 정보를 지속적으로 활용
스킬	반복 업무를 재사용 가능한 절차로 구성
도구 실행	파일, 쉘 명령어, 검색 등과 연결
메시징 연동	Telegram, Discord, Slack 등과 연결
예약 자동화	주기적인 작업 수행
실행 격리	Docker 등 격리 환경 활용

특히 서버에 상주시키거나 메시징 게이트웨이와 연결할 수 있다는 점에서 개인 PC용 AI 도구와 차별화됩니다. Official Site

2. Ubuntu 설치 환경 준비

이번 실습은 Ubuntu 24.04 LTS를 기준으로 설명하며 Ubuntu 22.04 LTS에서도 유사한 방식으로 진행할 수 있습니다. 다만 운영체제, CPU 아키텍처 및 선택한 도구에 따라 의존성 차이가 있을 수 있습니다.

권장 실습 환경은 다음과 같습니다.

항목	권장 구성
OS	Ubuntu 22.04 또는 24.04 LTS
CPU	2코어 이상
RAM	4GB 이상
저장공간	여유 공간 10GB 이상
네트워크	인터넷 연결
권한	일반 사용자 계정, 필요 시 sudo
GPU	클라우드 LLM 이용 시 필수 아님

위 사양은 가벼운 CLI 실습을 위한 권장 출발점이지 공식 최소 사양은 아닙니다. 브라우저 자동화나 로컬 LLM까지 함께 실행한다면 더 많은 자원이 필요합니다.

우분투 버전 확인

lsb_release -a
uname -m

패키지 목록을 갱신합니다.

sudo apt update

기본 도구를 설치합니다.

sudo apt install -y \
  git curl ca-certificates tar \
  coreutils xz-utils libatomic1

현재 공식 설치 문서에서는 Git, curl, tar, SHA-256 유틸리티를 요구하며, Ubuntu의 최소 설치 환경에서 필요한 libatomic1도 안내하고 있습니다. Python과 Node.js의 관리 버전은 Hermes 설치 과정에서 준비하므로 시스템에 임의의 버전을 먼저 설치할 필요는 없습니다. Nous Research

3. Hermes Agent 설치하기

공식 설치 주소는 다음과 같습니다.

https://hermes-agent.nousresearch.com/install.sh

설치 스크립트는 외부 코드를 실행하므로, 운영 서버에서는 다운로드한 내용을 확인한 후 실행하는 편이 안전합니다.

3-1. 설치 스크립트 다운로드

curl -fsSL \
  https://hermes-agent.nousresearch.com/install.sh \
  -o hermes-install.sh

내용을 확인합니다.

less hermes-install.sh

공식 주소와 스크립트를 확인한 다음 실행합니다.

bash hermes-install.sh

공식 문서의 간편 설치 명령은 다음과 같습니다.

curl -fsSL \
  https://hermes-agent.nousresearch.com/install.sh | bash

단, 서버 보안이 중요한 환경에서는 앞서 설명한 다운로드 후 검토 방식을 권장합니다.

3-2. 설치 완료 후 환경변수 적용

source ~/.bashrc

명령어가 인식되지 않는다면 다음을 실행합니다.

export PATH="$HOME/.local/bin:$PATH"

설치 경로는 기본적으로 다음과 같습니다.

~/.hermes/
    ├── hermes-agent/
    ├── config.yaml
    └── 기타 사용자 데이터

~/.local/bin/hermes

공식 설치 문서는 애플리케이션 소스와 사용자 데이터를 구분하며, 설치 복구를 위해 ~/.hermes 전체를 무작정 삭제하지 말 것을 안내합니다. Nous Research

3-3. 설치 상태 확인

hermes --help

진단 명령도 실행합니다.

hermes doctor

정상적으로 실행되면 기본 설치는 완료된 것입니다.

4. AI 모델 연결하기

Hermes Agent를 설치했다고 해서 AI 모델까지 자동으로 무료 제공되는 것은 아닙니다.

Hermes Agent는 AI 에이전트를 실행하는 프레임워크이며, 실제 추론을 수행할 언어모델이 필요합니다.

크게 두 가지 방법이 있습니다.

연결 방식	장점	고려사항
클라우드 LLM API	설치 간단, 높은 성능	API 비용, 데이터 전송
로컬 LLM	데이터 통제, 오프라인 활용 가능	GPU·메모리·성능 제약

방법 A. Nous Portal 연결

가장 간단한 초기 설정 방법은 공식 Nous Portal을 사용하는 것입니다.

hermes setup --portal

브라우저 인증을 통해 모델 제공자와 관련 도구를 설정합니다. 공식 문서에 따르면 Portal 설정은 모델 접근과 웹 검색, 이미지 생성, 음성 합성, 브라우저 기능을 함께 구성할 수 있습니다. 구독 및 사용량에 따른 비용 조건은 별도로 확인해야 합니다. GitHub

일반 설정 마법사를 실행하려면 다음 명령을 사용합니다.

hermes setup

방법 B. 다른 모델 제공자 연결

hermes model

대화형 메뉴에서 사용하려는 모델 제공자와 모델을 선택합니다. 필요한 API 키는 안내에 따라 설정합니다.

모델 선택 후 실행합니다.

hermes

예를 들어 다음과 같이 질문해 봅니다.

Ubuntu 서버의 CPU, 메모리, 디스크 사용량을
확인하는 명령어를 설명해 줘.

처음에는 설명만 요청하고, 실제 명령 실행은 테스트 디렉터리에서 시작하는 것이 좋습니다.

5. 로컬 LLM과 연결하기

회사 내부 자료를 다루거나 외부 API 의존도를 줄이려면 로컬 모델 연결을 검토할 수 있습니다.

예를 들어 Ubuntu 서버에서 Ollama를 실행하고, Hermes Agent가 해당 모델의 API를 호출하도록 구성하는 방식입니다.

사용자 · SSH · 터미널

Hermes Agent

작업 계획 및 도구 실행

Ollama API

127.0.0.1:11434

로컬 언어모델

Ollama가 설치되어 있다는 전제에서, 예를 들어 다음 명령으로 모델을 준비할 수 있습니다.

ollama pull qwen3:8b

Ollama API가 실행 중인지 확인합니다.

curl http://127.0.0.1:11434/api/tags

Hermes에서 다음 명령을 실행합니다.

hermes model

Custom Endpoint 설정을 선택하고, 설치된 Hermes 버전에서 요구하는 API 형식에 맞춰 로컬 서버 주소와 모델 이름을 지정합니다.

Ollama의 OpenAI 호환 API를 사용하는 경우 일반적인 엔드포인트는 다음과 같습니다.

http://127.0.0.1:11434/v1

모델 이름 예시는 qwen3:8b입니다.

다만 모델마다 도구 호출(Tool Calling) 성능이 다릅니다. 대화가 잘된다고 해서 명령 실행이나 다단계 작업까지 안정적으로 수행하는 것은 아닙니다. 에이전트용으로 사용할 때는 모델의 도구 호출 지원과 실제 성공률을 검증해야 합니다.

공식 Hermes 문서에서도 로컬 또는 자체 호스팅 모델을 연결할 때 Custom Endpoint와 컨텍스트 길이를 확인하도록 안내합니다. Hermes Agent

6. 실제 활용 사례 — Ubuntu 서버 점검

이제 Hermes Agent를 실무에 적용해 보겠습니다.

가장 먼저 추천하는 프로젝트는 Ubuntu 서버 상태 분석입니다.

일반적으로 서버 관리자는 다음 명령을 사용합니다.

uptime
free -h
df -h

CPU 및 프로세스 상태를 확인할 때는 다음과 같은 명령도 사용합니다.

top

Hermes Agent에는 자연어로 요청할 수 있습니다.

“현재 Ubuntu 서버의 메모리와 디스크 사용량을 확인하고, 문제가 될 만한 항목을 표로 정리해 줘. 설정이나 파일은 변경하지 마.”

도구 실행 권한이 활성화되어 있다면 Hermes가 필요한 명령을 선택해 결과를 분석하도록 구성할 수 있습니다.

다음 단계에서는 로그 분석으로 확장할 수 있습니다.

“최근 시스템 로그에서 반복되는 오류 메시지를 찾아 발생 횟수와 예상 원인을 정리해 줘. 서비스 재시작이나 설정 변경은 하지 마.”

이런 접근은 서버 운영 경험이 많지 않은 담당자에게도 유용합니다. 다만 AI가 제시한 원인 분석은 추정일 수 있으므로 실제 장애 조치 전에는 로그와 시스템 상태를 검증해야 합니다.

7. Telegram과 연결해 원격 AI 비서 만들기

Hermes Agent의 활용 범위를 넓히는 방법 중 하나는 메시징 플랫폼 연동입니다.

예를 들어 Ubuntu 서버에 Hermes를 실행하고 스마트폰의 Telegram에서 명령을 전달할 수 있습니다.

스마트폰 Telegram

Hermes Messaging Gateway

Ubuntu 서버의 Hermes Agent

서버 점검 · 정보 검색 · 보고서 생성

Telegram 연동 절차

먼저 Telegram에서 공식 BotFather를 이용해 봇을 생성하고 토큰을 발급받습니다.

다음 명령을 실행합니다.

hermes gateway setup

설정 마법사에서 Telegram을 선택하고 봇 토큰과 허용할 사용자 ID를 등록합니다.

설정 후에는 게이트웨이를 전경에서 실행해 봅니다.

hermes gateway

Telegram에서 봇에 메시지를 보내 정상 응답하는지 확인합니다.

서비스로 상시 실행하려면 다음 명령을 사용할 수 있습니다.

hermes gateway install

Linux에서 사용자 서비스로 실행하는 경우 로그아웃 후에도 유지해야 한다면 관리자 권한으로 다음 설정이 필요할 수 있습니다.

sudo loginctl enable-linger "$USER"

공식 문서는 Telegram 봇 토큰과 사용자 ID 기반 접근제어를 안내하며, 게이트웨이를 systemd 서비스로 실행하는 방법도 제공합니다. Hermes Agent

중요한 점은 Telegram 봇에 접근할 수 있는 사람을 반드시 제한해야 한다는 것입니다. AI 에이전트가 서버 명령 실행 권한까지 가지고 있다면 단순 채팅봇보다 훨씬 높은 보안 위험을 가질 수 있습니다.

8. 스킬과 메모리 활용하기

Hermes Agent가 일반 챗봇과 구별되는 특징 중 하나는 반복 업무를 재사용할 수 있는 스킬과 지속적인 메모리 기능입니다.

예를 들어 매주 월요일 서버 운영 보고서를 작성한다고 가정하겠습니다.

처음에는 사람이 다음과 같이 상세하게 요청할 수 있습니다.

“서버의 디스크 사용량, 메모리 상태, 최근 오류를 확인하고 운영 보고서를 작성해 줘. 표에는 점검 항목, 현재 상태, 위험도, 조치 제안을 포함해 줘.”

이 과정을 반복하다 보면 보고서의 형식과 절차를 표준화하고 싶어집니다.

그럴 때 스킬을 활용할 수 있습니다.

hermes skills

스킬 관리 기능을 통해 재사용 가능한 작업 절차를 탐색하고 구성할 수 있습니다. 다만 새로운 스킬을 설치하거나 활성화할 때는 출처와 내부에서 실행하는 명령을 검토해야 합니다.

공식 문서는 Hermes의 스킬과 메모리를 경험을 축적하고 반복 작업을 개선하는 기능으로 설명합니다. 하지만 자동으로 학습한다는 것이 언어모델의 가중치를 매번 재학습한다는 뜻은 아닙니다. 주로 작업 경험, 기억, 스킬 등의 지속적인 활용을 의미합니다. Nous Research

9. 제조업과 IT 업무에서 활용하는 방법

Hermes Agent를 제조업 환경에 적용한다면 단순 챗봇보다는 기존 시스템과 연결되는 업무 보조 에이전트로 접근하는 것이 현실적입니다.

활용 분야	적용 아이디어
MES 운영	오류 로그 분석, 장애 이력 요약
품질관리	불량 데이터 분석 및 개선 보고서 작성
설비보전	설비 점검 이력 요약, 반복 고장 검색
ERP 운영	데이터 검증 결과 정리
개발팀	코드 검토, 테스트 결과 분석
서버 관리	시스템 점검, 로그 분석, 정기 보고
기술 문서	매뉴얼 검색 및 문서 요약

예를 들어 고무 사출공정의 품질 데이터를 분석한다고 생각해 보겠습니다.

MES

생산·불량 데이터

Excel / CSV

검사 및 공정 데이터

Python 데이터 수집·전처리

Hermes Agent

데이터 분석 요청 · 결과 해석 · 보고서 작성

품질 개선 보고서

이 구성에서 Hermes가 MES 데이터베이스에 직접 쓰기 권한을 갖도록 할 필요는 없습니다. 초기에는 Python으로 필요한 데이터만 추출한 뒤 읽기 전용으로 분석하도록 설계하는 편이 안전합니다.

예를 들어 CSV 파일을 준비합니다.

date,product,quantity,defects
2026-11-10,PART-A,1200,24
2026-11-11,PART-A,1350,19
2026-11-12,PART-A,1280,31

그다음 Hermes에 요청합니다.

“이 CSV 파일의 날짜별 불량률을 계산하고 불량률이 가장 높은 날짜를 찾아줘. 분석 결과를 표로 작성하고 개선 검토 항목을 제안해 줘. 원본 파일은 수정하지 마.”

이때 불량률은 다음과 같이 계산합니다.

\[ \text{불량률(\%)}=\frac{\text{불량 수량}}{\text{생산 수량}}\times100 \]

단순한 작업이지만 이런 분석을 여러 파일과 보고서에 반복 적용하면 자동화 효과가 커집니다.

10. Hermes Agent 보안 설정

AI 에이전트가 서버 명령을 실행할 수 있다는 것은 편리하지만 위험할 수도 있다는 의미입니다.

예를 들어 파일 삭제, 설정 변경, 서비스 중지, 네트워크 요청 같은 작업은 실제 시스템에 영향을 줄 수 있습니다.

Hermes에는 위험 명령에 대한 승인, 파일 쓰기 보호, Docker 기반 격리, 메시징 사용자 접근제어 등 여러 보안 장치가 제공됩니다. Hermes Agent

Docker 격리 실행

Docker가 설치되고 실행 가능한 환경에서는 다음 설정을 검토할 수 있습니다.

hermes config set terminal.backend docker

이를 통해 에이전트의 터미널 실행을 Docker 기반 격리 환경으로 구성할 수 있습니다. 다만 Docker 사용만으로 모든 위험이 사라지는 것은 아닙니다. 마운트 디렉터리, 네트워크, 자격증명, 컨테이너 권한을 별도로 제한해야 합니다. Hermes Agent

운영 환경에서 지켜야 할 원칙

• root 계정이 아닌 별도 사용자로 실행합니다.
• API 키와 토큰을 소스코드에 기록하지 않습니다.
• 중요한 데이터는 읽기 전용으로 제공합니다.
• 삭제·수정·배포 작업에는 사람의 승인을 요구합니다.
• 외부 메신저 연동 시 허용 사용자 목록을 설정합니다.
• 처음에는 테스트 서버 또는 격리된 작업 디렉터리에서 검증합니다.

특히 생산 설비나 실제 MES 서버를 제어하는 기능은 별도의 승인 체계와 안전 검증 없이 연결해서는 안 됩니다.

11. 자주 발생하는 설치 오류 해결하기

증상	확인 및 조치
hermes: command not found	~/.local/bin이 PATH에 포함됐는지 확인
설치 중 패키지 오류	네트워크, 디스크 공간, 설치 로그 확인
libatomic.so.1 오류	sudo apt install libatomic1
AI 응답이 없음	모델 제공자, 인증, API 사용량 확인
브라우저 기능 실패	Chromium 및 필요한 시스템 라이브러리 확인
Telegram 응답 없음	토큰, 허용 사용자 ID, Gateway 로그 확인
명령 실행이 차단됨	승인 정책 및 도구 권한 확인

기본 진단은 다음 명령으로 시작합니다.

hermes doctor

설치 로그는 기본 사용자 데이터 디렉터리의 다음 위치에서 확인할 수 있습니다.

less ~/.hermes/logs/install.log

최신 버전으로 업데이트하려면 다음 명령을 사용합니다.

hermes update

운영 서버에서는 업데이트 전에 백업을 확보하고, 사용 중인 모델·스킬·플러그인과의 호환성을 확인하는 것이 좋습니다. Nous Research

12. Hermes Agent는 누구에게 적합할까?

Hermes Agent는 AI와 서버 자동화에 관심 있는 사용자에게 매력적인 도구입니다. 하지만 누구에게나 적합한 것은 아닙니다.

개인 개발자에게는 터미널 AI, 파일 분석, 코딩 및 자동화 실습 도구로 활용할 수 있습니다.

Linux 서버 관리자에게는 시스템 점검과 로그 분석을 보조하는 도구가 될 수 있습니다.

기업 IT 담당자에게는 반복 보고서 작성, 장애 분석, 사내 데이터 검색 같은 업무에 활용할 여지가 있습니다.

AI 연구자에게는 다양한 모델을 연결하고 에이전트의 도구 호출과 작업 수행 능력을 시험하는 플랫폼이 될 수 있습니다.

반대로 단순히 질문과 답변만 필요하다면 일반적인 AI 채팅 서비스가 더 간편할 수 있습니다. Hermes의 가치는 AI가 실제 작업 도구와 연결되는 순간부터 본격적으로 나타납니다.

마무리 — Ubuntu 서버에 AI 에이전트를 올린다는 것

예전의 서버 자동화는 사람이 쉘 스크립트를 작성하고 정해진 순서대로 실행하는 방식이 중심이었습니다.

AI 에이전트는 여기에서 한 단계 더 나아갑니다.

사람이 목표를 설명하면 AI가 작업 단계를 계획하고, 도구를 선택하고, 실행 결과를 분석하도록 만들 수 있습니다.

물론 이 과정이 항상 정확하거나 안전한 것은 아닙니다. AI가 잘못된 명령을 선택할 수도 있고, 데이터를 잘못 해석할 수도 있습니다. 따라서 자동화 수준이 높아질수록 실행 권한과 검증 절차도 더 중요해집니다.

처음 Hermes Agent를 설치한다면 다음 순서를 추천합니다.

1. Ubuntu에 Hermes Agent 설치
2. 모델 제공자 연결 및 기본 대화 확인
3. 테스트 디렉터리에서 파일 분석 실습
4. 읽기 전용 서버 상태 점검
5. Docker 격리 및 승인 정책 구성
6. Telegram 연동과 정기 보고서 자동화
7. 검증된 업무부터 사내 시스템 연계

Hermes Agent는 AI에게 모든 권한을 넘겨주는 프로그램이 아니라, AI가 제한된 권한 안에서 실제 업무를 도울 수 있도록 구성하는 플랫폼으로 이해하는 것이 좋겠습니다.

공식 참고 자료

• Hermes Agent 공식 문서
• Ubuntu·Linux 설치 가이드
• Nous Research 공식 GitHub 저장소
• Hermes Agent 보안 가이드
• 공식 도메인 및 사칭 사이트 주의 안내