4¹è ºü¸¥ AI Arm ¿÷½ºÅ×À̼Ç

RTX¢âºÎÅÍ µ¥ÀÌÅͼ¾ÅÍ¿ë GPU±îÁö
NVIDIA CUDA, ÇöÀç Arm ¾ÆÅ°ÅØÃ³¿¡¼ ¼ºñ½º Áß
ÀÏ´Ü ¿äÁ¡ºÎÅÍ.

´Ù¾çÇÑ ´ëÇü¾ð¾î¸ðµ¨À» ´Ù·ê ¼ö ÀÖ´Â
V-Raptor Altra WS

¿¢¼¼½º·¦ Á¦Ç° »ç»ó °¡Àå ºü¸¥
ÃÖ´ë 128ÄÚ¾î Arm ÇÁ·Î¼¼¼

PCIe 4.0 Áö¿øÀ¸·Î
°í¼Ó GPU ¿¬°á
Ampere Altra
Arm ĨÀ¸·Î
¾î¶² ÀÏÀ̵ç ôô.
ÃÖ´ë 3Ghz 128°³ÀÇ Arm ÄÚ¾î·Î µ¿ÀÛÇÏ´Â ÃÖ°í ¼º´É ¼öÁØSOTAÀÇ Ä¨, Ampere Altra ½Ã¸®Áî. NGINX, MySQL µî °¢Á¾ ¼¹ö ÇÁ·Î±×·¥ºÎÅÍ ¸ÖƼ¸ð´Þ AI±îÁö ÃæºÐÈ÷ ±¸µ¿ÇÏ´Â ¾öû³ ´É·Â ¿ª½Ã Ampere Altra ´öºÐ¿¡ °¡´ÉÇÏÁÒ.
ÃÖ´ë 128°³ Arm v8.2+ ÄÚ¾î
TDP 183W ÀúÀü·ÂÀ¸·Î
ÃÊ°í¼º´É ¼¹ö Áö´É ±¸µ¿
200% Áõ°¡ÇÑ ´ë¿ªÆø
PCIe 4 Áö¿øÀ¸·Î
»ç»ó °¡Àå ³ôÀº ¿¬°á ¼Óµµ
ÃÖ´ë 4TB ¸Þ¸ð¸®
DDR4 3200Mhz
8ä³Î Áö¿ø
¼¹ö±Þ ¼º´É ¿öÅ©½ºÅ×À̼Ç
°¡Á¤¿¡¼µµ ¼¹ö¿Í µ¿ÀÏÇÑ
³ôÀº ¼º´ÉÀÇ ±â±â
V-Raptor Altra´Â »ç¿ëÀÚÀÇ Çʿ信 ¸Â´Â ÄÚ¾î ¼ö ±¸¼ºÀ» Á¦°øÇÕ´Ï´Ù. ¾î¶»°Ô °¡´ÉÇØÁø °É±î¿ä? ¹Ù·Î 12°³·Î ÃÎÃÎÇÏ°Ô Ãâ½ÃµÈ ÇÁ·Î¼¼¼ Á¦Ç° ¹üÁÖ ´öºÐÀÔ´Ï´Ù. ÃÖ¼Ò 1.7Ghz 32ÄÚ¾îºÎÅÍ 3Ghz 128ÄÚ¾î±îÁö. ÃÖ¼Ò 40WºÎÅÍ 183W TDP±îÁö. ¸ðµç °Ô ´ç½Å ¸¶À½´ë·ÎÁÒ.
BMC ±â´ÉÀº ASPEED »çÀÇ Àü¿ë ÷´Ü ÇÁ·Î¼¼¼¸¦ ÀÌ¿ëÇØ ¼¹ö¿¡ ¿ø°ÝÀ¸·Î Á¢¼Ó ¹× °ü¸®¸¦ °¡´ÉÄÉ ÇÕ´Ï´Ù. Áï, ¼¹ö¿Í ¸Ö¸® ¶³¾îÁ® À־ Á¶ÀÛÇÒ ¼ö ÀÖ´Ù´Â ¾ê±â. ¾îµð¸¦ °¡µç ¼¹ö¸¦ ÁÖ¸Ó´Ï¿¡ ½ï ³Ö°í ´Ù´Ï´Â ¼ÀÀÌÁÒ.
Åë»óÀÇ
4¹è ¼Óµµ·Î Á¢±Ù Áß.
µ¿ÀÏÇÑ NVIDIA L40 ÀåÂø ÈÄ intel Xeon Gen 4¿Í LLaMA 3.2 Prompt Eval ºñ±³.

V-Raptor Altra´Â ¸·Èû ¾ø´Â ¸Å´ÏÄÚ¾î ±¸¼ºÀ¸·Î µ¥ÀÌÅͼ¾ÅÍ AI ¼¹öÀÇ »õ ½Ã´ë¸¦ ¿±´Ï´Ù. ¿¢¼¼½º·¦ Á¦Ç° »ç»ó °¡Àå ºü¸¥ ÇÁ·Î¼¼¼¿Í ¿¬°á¼ºÀÇ Á¶ÇÕÀÌÁÒ. °·ÂÇÑ Ampere Altra ĨÀÇ ÈûÀ¸·Î LLaMA, DeepSeek µî ´ëÇü¾ð¾î¸ðµ¨¿¡¼ 4¼¼´ë intel Xeon ÇÁ·Î¼¼¼ ´ëºñ ÃÖ´ë 4¹è ºü¸¥ Ãß·Ð ¼Óµµ¸¦ ³¾ ¼ö ÀÖ½À´Ï´Ù.
µ¿ÀÏÇÑ GPU
4¹è ºü¸¥ LLM Ãß·Ð
Arm AI ¿öÅ©½ºÅ×À̼Ç
±×¸®°í OpenWebUI¿¡¼ GUI¸¦ ÅëÇØ äÆÃ ¼ºñ½º¸¦ »ç¿ëÇϵíÀÌ ´ëÈÇÒ ¼ö ÀÖ°Ô µÇ¾î º¸´Ù ÀÚÀ¯·Î¿î »ç¿ëÀÌ °¡´ÉÇØÁý´Ï´Ù. ¹®ÀÚ¸Þ½ÃÁöó·³ ±ÛÀ» ÅëÇØ ÄÚµù Áú¹®À» Çϰųª, Arm ¼¹ö¿¡ ´ëÇÑ Âù¾ç ½Ã¸¦ ½á ´Þ¶ó°í ÇÒ ¼öµµ ÀÖÁÒ.
¹Ù¾ßÈå·Î ¿äÁò¿¡´Â ÀΰøÁö´ÉÀÌ ±â¼ú Çõ½ÅÀ» ÁÖµµÇÏ¸ç »õ·Î¿î ÆÐ·¯´ÙÀÓÀ» ¿°í ÀÖ½À´Ï´Ù. »ê¾÷°ú ÀÏ»ó Àü¹Ý¿¡ °ÉÄ£ Áö´ÉÇü ±â¼úÀÇ È®»êÀº ÀÌÁ¦ º¸ÆíÀû Çö»óÀÌÁÒ. ÀÌ¿¡ µû¶ó ´ëÇü¾ð¾î¸ðµ¨ÀÇ È°¿ëÀÌ ±ÞÁõÇϰí ÀÖÀ¸¸ç, ¿©·¯ »ê¾÷ ¿µ¿ª¿¡¼ ÇÙ½ÉÀûÀÎ ¿ªÇÒÀ» ¼öÇàÇÏ¸ç ±× ¿µÇâ·ÂÀ» ºü¸£°Ô ³ÐÈ÷°í ÀÖ½À´Ï´Ù.

LLaMA 3.2 3B
Prompt Eval (ªÀº Áú¹®)

DeepSeek R1 7B
Prompt Eval (ªÀº Áú¹®)

DeepSeek R1 7B
Prompt Eval (±ä Áú¹®)
½ºÆ©µð¿À±Þ À̹ÌÁö »ý¼º.

´ç½Å¿¡°Ô µü ¸Â´Â
Àç¹Õ°í ¾Æ¸§´Ù¿î
À̹ÌÁö¸¦ »ý¼ºÇϼ¼¿ä.
Arm ¾ÆÅ°ÅØÃ³¿ë NVIDIA CUDA ±â¼ú ´öºÐ¿¡ ÀÌÁ¦ Stable Diffusion°ú °°Àº À̹ÌÁö »ý¼º AI¸¦ ÅëÇØ ¹Ù·Î ¿øÇÏ´Â À̹ÌÁö¸¦ Á¦ÀÛÇÒ ¼ö ÀÖ°Ô µÇ¾ú½À´Ï´Ù. V-Raptor Altra¸¦ ¿©·¯ »ç¿ëÀÚ¸¦ À§ÇÑ À̹ÌÁö »ý¼º ¿öÅ©½ºÅ×À̼ÇÀ¸·Î »ç¿ëÇÒ ¼ö ÀÖ´Â °ÍÀÌÁÒ. µ¿½Ã Á¢¼Ó °¡´ÉÀÚ ¼ö´Â GPU ±¸¼º¿¡ µû¶ó ´Þ¶óÁý´Ï´Ù.

³·Àº ÈÁúÀÇ À̹ÌÁö¸¦ GANÀ» ÅëÇØ °³¼±ÇÒ ¼ö ÀÖ½À´Ï´Ù. Àι° »çÁø¿¡ Àû¿ëÇØº¼±î¿ä? §, ¹Ù·Î ¿Ï¼º! ¿øÇÏ´Â º¯¼ö¸¸ ÁöÁ¤ÇÏ¸é ¹Ù·Î ¿Ï¼ºµË´Ï´Ù.

Web UI¸¦ ÅëÇØ ÇÁ·ÒÇÁÆ®³ª À̹ÌÁö¸¦ ¹ÙÅÁÀ¸·Î ¸î ÃÊ ¸¸¿¡ »õ·Î¿î À̹ÌÁö¸¦ ¸¸µé¾î ³¾ ¼ö ÀÖ½À´Ï´Ù. »çÁø, ¾Æ´Ï¸Þ, µå·ÎÀ× µî ´Ù¾çÇÑ ½ºÅ¸Àϵµ Àû¿ëÇÒ ¼ö ÀÖÁÒ.

»ç¿ëÀÚ°¡ ¿øÇÏ´Â ½ºÅ¸ÀÏÀÇ È®»ê ¸ðµ¨À» ÅëÇØ ¹«ÇÑÇÑ Á¶ÇÕÀÇ À̹ÌÁö¸¦ ¸¸µé¾îº¸¼¼¿ä. »ç¿ë °¡´ÉÇÑ ¸ðµ¨ÀÇ ¸Å°³º¯¼ö´Â GPU¿¡ µû¶ó ´Þ¶óÁý´Ï´Ù.
³ª¿¡°Ô ¸Â´Â ±¸¼º »ìÆìº¸±â.

AI Workstation
with RTX¢â 5060Ti
>

AI Workstation
with A40

AI Workstation
with L40S

AI Workstation
with RTX¢â PRO 5000
NVIDIA
RTX¢â 5060Ti
CUDA¢ç ÄÚ¾î
4,068°³
VRAM
16GB
¾ÆÅ°ÅØÃ³
NVIDIA Blackwell
ÃֽŠNVIDIA Blackwell ±â¹Ý 4,608°³ CUDA¢ç ÄÚ¾î¿Í 16GB VRAMÀ¸·Î °³Àοë AI ±¸Ãà ¶Ç´Â ¼ÒÇü ¸ðµ¨ ±¸µ¿¿¡ ÃÖÀû
NVIDIA
A40
CUDA¢ç ÄÚ¾î
10,725°³
VRAM
48GB
¾ÆÅ°ÅØÃ³
NVIDIA Ampere
NVIDIA Ampere ±â¹Ý 10,752°³ CUDA¢ç ÄÚ¾î¿Í 48GB VRAMÀ¸·Î ±×·ì¿ë AI ±¸Ãà ¶Ç´Â ´ëÇü ¸ðµ¨ ±¸µ¿¿¡ ÃÖÀû
NVIDIA
L40S
CUDA¢ç ÄÚ¾î
18,176°³
VRAM
48GB
¾ÆÅ°ÅØÃ³
NVIDIA Ampere
NVIDIA Ampere ±â¹Ý 18,176°³ CUDA¢ç ÄÚ¾î¿Í 48GB VRAMÀ¸·Î ±×·ì¿ë AI ±¸Ãà ¶Ç´Â ´ëÇü ¸ðµ¨ ±¸µ¿¿¡ ÃÖÀû
NVIDIA
RTX¢â PRO 5000
CUDA¢ç ÄÚ¾î
14,080°³
VRAM
48GB
¾ÆÅ°ÅØÃ³
NVIDIA Blackwell
ÃֽŠNVIDIA Blackwell ±â¹Ý 14,080°³ CUDA¢ç ÄÚ¾î¿Í 48GB VRAMÀ¸·Î ±×·ì¿ë AI ±¸Ãà ¶Ç´Â ´ëÇü ¸ðµ¨ ±¸µ¿ ¹× ÇнÀ¿¡ ÃÖÀû
RTX¢â 5060Ti
LLM µ¿½Ã »ç¿ë Àοø FP16 Á¤¹Ðµµ
LLaMA 3.2 1B
7¸í
LLaMA 3.2 3B
2¸í
DeepSeek R1 7B
1¸í
HYPERCLOVA X SEED 0.5B
14¸í
HYPERCLOVA X SEED 1.5B
4¸í
Kanana 1.5 2B
3¸í
A40
LLM µ¿½Ã »ç¿ë Àοø FP16 Á¤¹Ðµµ
LLaMA 3.2 1B
23¸í
LLaMA 3.2 3B
7¸í
LLaMA 3.1 8B
2¸í
DeepSeek R1 7B
3¸í
HYPERCLOVA X SEED 0.5B
43¸í
HYPERCLOVA X SEED 1.5B
15¸í
Kanana 1.5 2B
10¸í
Kanana 1.5 8B
2¸í
L40S
LLM µ¿½Ã »ç¿ë Àοø FP16 Á¤¹Ðµµ
LLaMA 3.2 1B
23¸í
LLaMA 3.2 3B
7¸í
LLaMA 3.1 8B
2¸í
DeepSeek R1 7B
3¸í
HYPERCLOVA X SEED 0.5B
43¸í
HYPERCLOVA X SEED 1.5B
15¸í
Kanana 1.5 2B
10¸í
Kanana 1.5 8B
2¸í
RTX¢â PRO 5000
LLM µ¿½Ã »ç¿ë Àοø FP16 Á¤¹Ðµµ
LLaMA 3.2 1B
23¸í
LLaMA 3.2 3B
7¸í
LLaMA 3.1 8B
2¸í
DeepSeek R1 7B
3¸í
HYPERCLOVA X SEED 0.5B
43¸í
HYPERCLOVA X SEED 1.5B
15¸í
Kanana 1.5 2B
10¸í
Kanana 1.5 8B
2¸í
»ç¿ë °¡´ÉÇÑ ´ëÇü¾ð¾î¸ðµ¨ (LLM)
À̿ܿ¡µµ ´Ù¾çÇÑ LLM ¸ðµ¨ Áö¿ø
Web UI·Î ±¸µ¿µÇ±â ¶§¹®¿¡ Á÷°üÀûÀÌ°í ¼Õ½¬¿î »ç¿ë Á¦°ø
»ç¿ë °¡´ÉÇÑ »ý¼ºÇü ÀΰøÁö´É
Retrieval-based Voice Conversion
À̹ÌÁö »ý¼º, ¿Àµð¿À »ý¼º µî ´Ù¾çÇÑ »ý¼ºÇü AI¸¦ ¼Õ½±°Ô »ç¿ë °¡´É
±× ¾î¶² AI ¿öÅ©½ºÅ×À̼Ǻ¸´Ù È¿À²ÀûÀÎ Àü·Â ¼Ò¸ð
Arm¢ç ±â¹Ý ¸Å´ÏÄÚ¾î ¾ÆÅ°ÅØÃ³·Î ±¸µ¿µÇ±â ¶§¹®¿¡ ´õ¿í ºü¸£°í º´¸ñ ¾ø´Â ¿¬»ê
¿ä¾à
»ý¼ºÇü ÀΰøÁö´É
|
Arm¢ç ±â¹Ý Ampere Altra¢ç ÇÁ·Î¼¼¼
ÃÖ´ë 128ÄÚ¾î 3.0Ghz ±¸¼º |
NVIDIA
GPU ±¸¼º |
DDR4 3200
2DPC 4°³ ½½·Ô ÃÖ´ë 2TB ¸Þ¸ð¸® ±¸¼º |
M.2 NVMe¢ç
8°³ ½½·Ô ÃÖ´ë 4TB SSD ±¸¼º |
ÃÖ´ë 20¹è ºü¸¥ Àü¼Û ¼Óµµ
USB 3 Áö¿ø |
Ãʰí¼Ó 10±â°¡ºñÆ® ÀÌ´õ³Ý
|
Ubuntu Server 20.04/22.04 LTS
Rocky Linux 9 |
BMC Æ¯È Ä¨
ASPEED¢ç 2500 |
ÇÁ·Î¼¼¼
Ampere Altra¢ç ½Ã¸®Áî
Q32-17
32ÄÚ¾î 1.7Ghz
TDP 40W
Q64-22
64ÄÚ¾î 2.2Ghz
TDP 124W
Q80-30
80ÄÚ¾î 3.0Ghz
TDP 161W
M128-30
128ÄÚ¾î 3.0Ghz
TDP 183W
Arm¢ç v8.2+ ¹× SBSA 4 ¸í·É¾î ÁýÇÕ È£È¯
TSMC 7nm FinFET °øÁ¤
ÄÚ¾î´ç 1MB L2 ij½Ã
0¡ÆC¿¡¼ 90¡ÆC ÀÛµ¿ ¿Âµµ
4,962 ÇÉ FCLGA