4배 빠른 AI Arm 웍스테이션
초효율 인공지능 시대를 위한 탄생.
RTX™부터 데이터센터용 GPU까지
NVIDIA CUDA, 현재 Arm 아키텍처에서 서비스 중
일단 요점부터.
다양한 대형언어모델을 다룰 수 있는
V-Raptor Altra WS
엑세스랩 제품 사상 가장 빠른
최대 128코어 Arm 프로세서
PCIe 4.0 지원으로
고속 GPU 연결
Ampere Altra
Arm 칩으로
어떤 일이든 척척.
최대 3Ghz 128개의 Arm 코어로 동작하는 최고 성능 수준SOTA의 칩, Ampere Altra 시리즈. NGINX, MySQL 등 각종 서버 프로그램부터 멀티모달 AI까지 충분히 구동하는 엄청난 능력 역시 Ampere Altra 덕분에 가능하죠.
최대 128개 Arm v8.2+ 코어
TDP 183W 저전력으로
초고성능 서버 지능 구동
200% 증가한 대역폭
PCIe 4 지원으로
사상 가장 높은 연결 속도
최대 4TB 메모리
DDR4 3200Mhz
8채널 지원
서버급 성능 워크스테이션
가정에서도 서버와 동일한
높은 성능의 기기
V-Raptor Altra는 사용자의 필요에 맞는 코어 수 구성을 제공합니다. 어떻게 가능해진 걸까요? 바로 12개로 촘촘하게 출시된 프로세서 제품 범주 덕분입니다. 최소 1.7Ghz 32코어부터 3Ghz 128코어까지. 최소 40W부터 183W TDP까지. 모든 게 당신 마음대로죠.
BMC 기능은 ASPEED 사의 전용 첨단 프로세서를 이용해 서버에 원격으로 접속 및 관리를 가능케 합니다. 즉, 서버와 멀리 떨어져 있어도 조작할 수 있다는 얘기. 어디를 가든 서버를 주머니에 쏙 넣고 다니는 셈이죠.
통상의
4배 속도로 접근 중.
동일한 NVIDIA L40 장착 후 intel Xeon Gen 4와 LLaMA 3.2 Prompt Eval 비교.
V-Raptor Altra는 막힘 없는 매니코어 구성으로 데이터센터 AI 서버의 새 시대를 엽니다. 엑세스랩 제품 사상 가장 빠른 프로세서와 연결성의 조합이죠. 강력한 Ampere Altra 칩의 힘으로 LLaMA, DeepSeek 등 대형언어모델에서 4세대 intel Xeon 프로세서 대비 최대 4배 빠른 추론 속도를 낼 수 있습니다.
동일한 GPU
4배 빠른 LLM 추론
Arm AI 워크스테이션
그리고 OpenWebUI에서 GUI를 통해 채팅 서비스를 사용하듯이 대화할 수 있게 되어 보다 자유로운 사용이 가능해집니다. 문자메시지처럼 글을 통해 코딩 질문을 하거나, Arm 서버에 대한 찬양 시를 써 달라고 할 수도 있죠.
바야흐로 요즘에는 인공지능이 기술 혁신을 주도하며 새로운 패러다임을 열고 있습니다. 산업과 일상 전반에 걸친 지능형 기술의 확산은 이제 보편적 현상이죠. 이에 따라 대형언어모델의 활용이 급증하고 있으며, 여러 산업 영역에서 핵심적인 역할을 수행하며 그 영향력을 빠르게 넓히고 있습니다.
LLaMA 3.2 3B
Prompt Eval (짧은 질문)
DeepSeek R1 7B
Prompt Eval (짧은 질문)
DeepSeek R1 7B
Prompt Eval (긴 질문)
스튜디오급 이미지 생성.
당신에게 딱 맞는
재밌고 아름다운
이미지를 생성하세요.
Arm 아키텍처용 NVIDIA CUDA 기술 덕분에 이제 Stable Diffusion과 같은 이미지 생성 AI를 통해 바로 원하는 이미지를 제작할 수 있게 되었습니다. V-Raptor Altra를 여러 사용자를 위한 이미지 생성 워크스테이션으로 사용할 수 있는 것이죠. 동시 접속 가능자 수는 GPU 구성에 따라 달라집니다.
낮은 화질의 이미지를 GAN을 통해 개선할 수 있습니다. 인물 사진에 적용해볼까요? 짠, 바로 완성! 원하는 변수만 지정하면 바로 완성됩니다.
Web UI를 통해 프롬프트나 이미지를 바탕으로 몇 초 만에 새로운 이미지를 만들어 낼 수 있습니다. 사진, 아니메, 드로잉 등 다양한 스타일도 적용할 수 있죠.
사용자가 원하는 스타일의 확산 모델을 통해 무한한 조합의 이미지를 만들어보세요. 사용 가능한 모델의 매개변수는 GPU에 따라 달라집니다.
나에게 맞는 구성 살펴보기.
AI Workstation
with RTX™ 5060Ti
>
AI Workstation
with A40
AI Workstation
with L40S
AI Workstation
with RTX™ PRO 5000
NVIDIA
RTX™ 5060Ti
CUDA® 코어
4,068개
VRAM
16GB
아키텍처
NVIDIA Blackwell
최신 NVIDIA Blackwell 기반 4,608개 CUDA® 코어와 16GB VRAM으로 개인용 AI 구축 또는 소형 모델 구동에 최적
NVIDIA
A40
CUDA® 코어
10,725개
VRAM
48GB
아키텍처
NVIDIA Ampere
NVIDIA Ampere 기반 10,752개 CUDA® 코어와 48GB VRAM으로 그룹용 AI 구축 또는 대형 모델 구동에 최적
NVIDIA
L40S
CUDA® 코어
18,176개
VRAM
48GB
아키텍처
NVIDIA Ampere
NVIDIA Ampere 기반 18,176개 CUDA® 코어와 48GB VRAM으로 그룹용 AI 구축 또는 대형 모델 구동에 최적
NVIDIA
RTX™ PRO 5000
CUDA® 코어
14,080개
VRAM
48GB
아키텍처
NVIDIA Blackwell
최신 NVIDIA Blackwell 기반 14,080개 CUDA® 코어와 48GB VRAM으로 그룹용 AI 구축 또는 대형 모델 구동 및 학습에 최적
RTX™ 5060Ti
LLM 동시 사용 인원 FP16 정밀도
LLaMA 3.2 1B
7명
LLaMA 3.2 3B
2명
DeepSeek R1 7B
1명
HYPERCLOVA X SEED 0.5B
14명
HYPERCLOVA X SEED 1.5B
4명
Kanana 1.5 2B
3명
A40
LLM 동시 사용 인원 FP16 정밀도
LLaMA 3.2 1B
23명
LLaMA 3.2 3B
7명
LLaMA 3.1 8B
2명
DeepSeek R1 7B
3명
HYPERCLOVA X SEED 0.5B
43명
HYPERCLOVA X SEED 1.5B
15명
Kanana 1.5 2B
10명
Kanana 1.5 8B
2명
L40S
LLM 동시 사용 인원 FP16 정밀도
LLaMA 3.2 1B
23명
LLaMA 3.2 3B
7명
LLaMA 3.1 8B
2명
DeepSeek R1 7B
3명
HYPERCLOVA X SEED 0.5B
43명
HYPERCLOVA X SEED 1.5B
15명
Kanana 1.5 2B
10명
Kanana 1.5 8B
2명
RTX™ PRO 5000
LLM 동시 사용 인원 FP16 정밀도
LLaMA 3.2 1B
23명
LLaMA 3.2 3B
7명
LLaMA 3.1 8B
2명
DeepSeek R1 7B
3명
HYPERCLOVA X SEED 0.5B
43명
HYPERCLOVA X SEED 1.5B
15명
Kanana 1.5 2B
10명
Kanana 1.5 8B
2명
사용 가능한 대형언어모델 (LLM)
이외에도 다양한 LLM 모델 지원
Web UI로 구동되기 때문에 직관적이고 손쉬운 사용 제공
사용 가능한 생성형 인공지능
Retrieval-based Voice Conversion
이미지 생성, 오디오 생성 등 다양한 생성형 AI를 손쉽게 사용 가능
그 어떤 AI 워크스테이션보다 효율적인 전력 소모
Arm® 기반 매니코어 아키텍처로 구동되기 때문에 더욱 빠르고 병목 없는 연산
요약
|
생성형 인공지능
|
|
Arm® 기반 Ampere Altra® 프로세서
최대 128코어 3.0Ghz 구성 |
|
NVIDIA
GPU 구성 |
|
DDR4 3200
2DPC 4개 슬롯 최대 2TB 메모리 구성 |
|
M.2 NVMe®
8개 슬롯 최대 4TB SSD 구성 |
|
최대 20배 빠른 전송 속도
USB 3 지원 |
|
초고속 10기가비트 이더넷
|
|
Ubuntu Server 20.04/22.04 LTS
Rocky Linux 9 |
|
BMC 특화 칩
ASPEED® 2500 |
프로세서
Ampere Altra® 시리즈
Q32-17
32코어 1.7Ghz
TDP 40W
Q64-22
64코어 2.2Ghz
TDP 124W
Q80-30
80코어 3.0Ghz
TDP 161W
M128-30
128코어 3.0Ghz
TDP 183W
Arm® v8.2+ 및 SBSA 4 명령어 집합 호환
TSMC 7nm FinFET 공정
코어당 1MB L2 캐시
0°C에서 90°C 작동 온도
4,962 핀 FCLGA