엑세스랩 유명환 대표, 'Arm 서버 PoC 사례부터 AI 실무까지' 26년 2월 첫 정기 교육 성료

엑세스랩은 2026년 2월 3일, 유명환 대표가 직접 연사로 나선 'Arm 서버 정기 교육'의 첫 2월 교육을 성공적으로 마쳤다. 이번 교육은 Arm 서버의 도입 성공 사례를 분석하는 이론 교육부터 최신 AI 반도체인 퀄컴(Qualcomm) NPU를 활용한 거대언어모델(LLM) 구축 실습까지, 이론과 실무를 아우르는 포괄적인 커리큘럼으로 진행되었다.

Arm 서버 PoC 사례 분석으로 문 연 이론 교육

본격적인 실습에 앞서 진행된 이론 교육에서는 'Arm 서버 개념 증명(PoC, Proof of Concept) 사례'가 중점적으로 다뤄졌다. 유명환 대표는 데이터센터 시장에서 Arm 아키텍처가 주목받는 이유를 설명하며, 실제 산업 현장에서 수행된 다양한 PoC 성공 사례를 공유했다. 수강생들은 이 시간을 통해 x86 대비 Arm 서버가 가지는 전력 효율성과 비용 절감 효과, 그리고 실제 도입 시 고려해야 할 아키텍처 호환성 문제에 대한 구체적인 인사이트를 얻을 수 있었다.

윈도우부터 리눅스까지, 현업과 동일한 접속 환경 구현

이론으로 기본기를 다진 후 이어진 실습은 수강생들이 각자의 윈도우 노트북을 활용해 실제 서버 운영 환경을 구축하는 것으로 시작됐다. 참가자들은 윈도우 터미널(Windows Terminal)과 WSL(Windows Subsystem for Linux)을 이용해 최신 'Ubuntu 24.04 LTS' 환경을 구성했다. 특히 보안을 위해 사내 네트워크와 분리된 Arm 서버에 접속하기 위해 SSH의 '로컬 포트 포워딩(-L 옵션)' 기술을 활용, 외부에서 내부 서비스인 'Open WebUI'에 안전하게 접속하는 고급 네트워크 기술을 몸소 익혔다.

KVM 가상화와 도커 컨테이너, Arm 서버의 기초 다지기

처음 실습 세션은 서버 활용의 핵심인 가상화 기술로 채워졌다. 수강생들은 'dmesg' 명령어로 Arm 서버의 하드웨어 가상화 지원 여부를 확인하고, KVM(Kernel-based Virtual Machine) 패키지와 'virt-manager'를 설치해 실제 가상머신을 생성해보는 과정을 거쳤다. 이어진 도커(Docker) 실습에서는 Arm 아키텍처 호환성을 고려한 설치 과정과 함께, 안정적인 운영을 위해 Cgroup 드라이버를 'systemd'로 변경하는 엔지니어링 작업을 직접 수행했다.

CUDA 13과 Pytorch, 그리고 Ollama를 활용한 LLM 서빙

이후에는 이번 교육의 핵심인 'AI 모델 서빙' 실습이 진행되었다. 수강생들은 파이썬 3.11 가상환경 위에서 엔비디아(NVIDIA)의 최신 'CUDA 13.0.2' 툴킷과 'PyTorch 2.9.1'을 설치하여 GPU 가속 환경을 구축했다. 이를 바탕으로 경량화 LLM인 'Llama 3.2 1B' 모델을 다운로드하고, '올라마(Ollama)'와 고성능 추론 엔진 'vLLM'을 통해 구동시켰다. 특히 웹 브라우저를 통해 챗GPT와 유사한 챗봇 인터페이스를 구현하는 'Open WebUI' 실습은 수강생들의 큰 호응을 얻었다.

Cloud AI 100 NPU 기반의 차세대 추론 실습

교육의 대미는 퀄컴의 서버용 AI 가속기 'Cloud AI 100(NPU)' 실습이 장식했다. 유명환 대표는 NPU 성능을 극대화하는 양자화(Quantization) 기술이 적용된 모델을 소개했으며, 참가자들은 엑세스랩이 제공한 전용 도커 컨테이너를 활용해 복잡한 설정 없이 즉시 'Llama 3' 기반의 한국어 모델(Bllossom-8B)을 NPU 상에서 구동해볼 수 있었다.

엑세스랩은 이번 2월 정기 교육을 통해 이론적 배경지식부터 고성능 NPU를 활용한 서비스 배포까지, 하드웨어와 소프트웨어를 아우르는 풀스택(Full-stack) 교육을 완성했다는 평가를 받았다. 엑세스랩은 앞으로도 매 월 첫째 주 화요일에, 변화하는 AI 인프라 트렌드에 맞춰 실무 중심의 정기 교육을 지속적으로 확대해 나갈 방침이다.