Àå±âÀû ºñ¿ë ±¸Á¶¸¦ °áÁ¤ÇÏ´Â AI Ãß·Ð ºñÁî´Ï½º ÃÖÀûÈ
Áö±¸¸¦ »ý°¢ÇÏ´Â ±â¼ú°ú ½º¸¶Æ®ÇÑ Arm ¼¹ö
ÀÏ´Ü ¿äÁ¡ºÎÅÍ.
Àü·Â, ºñ¿ë, µ¿½Ã¼º¿¡¼
GPUº¸´Ù ´õ È¿À²ÀûÀÎ
Ä÷ÄÄ Å¬¶ó¿ìµå AI NPU¿Í Æä¾î¸µ.
GPU ´ëºñ ´õ ³·Àº Ãʱ⠵µÀÔ ºñ¿ëÀ¸·Î µµÀÔÀÌ °¡´ÉÇÑ Ä÷ÄÄ NPU Ãß·Ð ¼¹ö´Â
AI¿¡ ÃÖÀûÈµÈ ¾ÆÅ°ÅØÃ³ ¼³°è·Î ¾ÈÁ¤ÀûÀÎ ¼ºñ½º ¿î¿µÀÌ °¡´ÉÇÕ´Ï´Ù.
TV ¼öÁØ Àü·ÂÀ¸·Î
870 TOPs@INT8 ¼º´É
ÃʰíÈ¿À² NPU¸¦ ¸¸³ª´Ù
Ä÷ÄÄ Å¬¶ó¿ìµå AI 100 ¿ïÆ®¶ó´Â FP16 Á¤¹Ðµµ ±âÁØ 288 TFLOPs, INT8 Á¤¹Ðµµ ±âÁØ 870 TOPs ¼º´ÉÀ» 150W ÀúÀü·ÂÀ¸·Î Á¦°øÇÏ´Â ¿¡³ÊÁö È¿À²¼ºÀÌ ¶Ù¾î³ AI Ãß·Ð °¡¼Ó±â ¼Ö·ç¼ÇÀÔ´Ï´Ù.
¿¢¼¼½º·¦Àº ÀÌ Ä÷ÄÄ NPU¸¦ žÀçÇØ ¶Ù¾î³ AI Ãß·Ð ¼º´ÉÀ» ±¸ÇöÇÏ´Â ÇÑÆí, Arm ±â¹Ý CPU·Î ÀúÀü·Â°ú °íÈ¿À² ½Ã½ºÅÛÀÌ ´õÇØÁ® ¸ðµâ·¯ µ¥ÀÌÅͼ¾ÅÍ, ¿ÂÇÁ·¹¹Ì½º ¾îÇöóÀ̾𽺠¹× ¿§Áö ÄÄÇ»ÆÃ µî ´Ù¾çÇÑ È¯°æ¿¡ Àû¿ë °¡´ÉÇÑ ¼¹ö¸¦ ¸¸µé¾ú½À´Ï´Ù.
µ¥ÀÌÅͼ¾ÅÍ¿Í ¿§Áö ȯ°æ¿¡ ÃÖÀûÈµÈ ÃʰíÈ¿À² AI Ãß·Ð °¡¼Ó±â. ±×¸®°í ÀúÀü·Â °í¼º´É Arm ¼¹ö¸¦ Çϳª·Î ¿¬°áÇÑ V-Raptor Q100À» Áö±Ý °æÇèÇØº¸¼¼¿ä.
ÃÖ´ë 128GB Àü¿ë ¸Þ¸ð¸®
LPDDR4x ±Ô°Ý 548GB/s ´ë¿ªÆø
Àü¿ë Transformer ¶óÀ̺귯¸®¸¦ ÅëÇØ
ÃÖÀûÈµÈ Çü½ÄÀ¸·Î ¼Õ½¬¿î À̽Ä
±×¸®°í,
Ampere Altra Arm ĨÀ¸·Î
¾î¶² ÀÏÀ̵ç ôô.
ÃÖ´ë 3Ghz 128°³ÀÇ Arm ÄÚ¾î·Î µ¿ÀÛÇÏ´Â ÃÖ°í ¼º´É ¼öÁØSOTAÀÇ Ä¨.
Ampere Altra ½Ã¸®Áî.
NGINX, MySQL µî °¢Á¾ ¼¹ö ÇÁ·Î±×·¥ºÎÅÍ
¸ÖƼ¸ð´Þ AI±îÁö ÃæºÐÈ÷ ±¸µ¿ÇÏ´Â
¾öû³ ´É·Â ¿ª½Ã Ampere Altra ´öºÐ¿¡ °¡´ÉÇÏÁÒ.
ÃÖ´ë 128°³ Arm v8.2+ ÄÚ¾î
TDP 183W ÀúÀü·ÂÀ¸·Î
ÃÊ°í¼º´É ¼¹ö Áö´É ±¸µ¿
200% Áõ°¡ÇÑ ´ë¿ªÆø
PCIe 4 Áö¿øÀ¸·Î
»ç»ó °¡Àå ³ôÀº ¿¬°á ¼Óµµ
ÃÖ´ë 4TB ¸Þ¸ð¸®
DDR4 3200Mhz
8ä³Î 16°³ ½½·Ô2DPC Áö¿ø
°í¼º´É Arm ¼¹ö
´Ù¾çÇÑ ¿öÅ©·Îµå¸¦ ó¸®ÇÒ ¼ö ÀÖ´Â
³ôÀº ¼º´ÉÀÇ ±â±â
V-Raptor Q100Àº »ç¿ëÀÚÀÇ Çʿ信 ¸Â´Â ÄÚ¾î ¼ö ±¸¼ºÀ» Á¦°øÇÕ´Ï´Ù. ¾î¶»°Ô °¡´ÉÇØÁø °É±î¿ä? ¹Ù·Î 12°³·Î ÃÎÃÎÇÏ°Ô Ãâ½ÃµÈ ÇÁ·Î¼¼¼ Á¦Ç° ¹üÁÖ ´öºÐÀÔ´Ï´Ù. ÃÖ¼Ò 1.7Ghz 32ÄÚ¾îºÎÅÍ 3Ghz 128ÄÚ¾î±îÁö. ÃÖ¼Ò 40WºÎÅÍ 183W TDP±îÁö. ¸ðµç °Ô ´ç½Å ¸¶À½´ë·ÎÁÒ.
BMC ±â´ÉÀº ASPEED »çÀÇ Àü¿ë ÷´Ü ÇÁ·Î¼¼¼¸¦ ÀÌ¿ëÇØ ¼¹ö¿¡ ¿ø°ÝÀ¸·Î Á¢¼Ó ¹× °ü¸®¸¦ °¡´ÉÄÉ ÇÕ´Ï´Ù. Áï, ¼¹ö¿Í ¸Ö¸® ¶³¾îÁ® À־ Á¶ÀÛÇÒ ¼ö ÀÖ´Ù´Â ¾ê±â. ¾îµð¸¦ °¡µç ¼¹ö¸¦ ÁÖ¸Ó´Ï¿¡ ½ï ³Ö°í ´Ù´Ï´Â ¼ÀÀÌÁÒ.
GPU ¼¹öÀÇ ºÒÆíÇÑ Áø½Ç?
AI Ãß·ÐÀº GPU°¡
ÇÒ ÀÏÀÌ ¾Æ´Õ´Ï´Ù.
¸ðµ¨ Ãß·ÐÀº ÇнÀ¿¡ ºñÇØ ¿¬»ê ºÎÇϰ¡ ÀûÀ½¿¡µµ °í¼º´É GPU¸¦ »ç¿ëÇϸé Àü·Â ¼Ò¸ð¿Í ¿î¿µ ºñ¿ë¸¸ ºñ´ëÇØÁ® ÀÚ¿ø È¿À²ÀÌ ±Þ°ÝÈ÷ ¶³¾îÁý´Ï´Ù. °á°úÀûÀ¸·Î ³·Àº ÀÚ¿ø Ȱ¿ëµµ ´ëºñ ³ôÀº TCO(ÃѼÒÀ¯ºñ¿ë)¸¦ ÃÊ·¡ÇÏ´Â ºñ°æÁ¦ÀûÀÎ ¼±ÅÃÀÌ µÇ±â ½±½À´Ï´Ù. AI Ãß·ÐÀº NPU°¡ ÇÒ ÀÏÀÌÁÒ.
³ª¿¡°Ô ¸Â´Â ±¸¼º »ìÆìº¸±â.
»ç¿ë °¡´ÉÇÑ ´ëÇü¾ð¾î¸ðµ¨ (LLM)
À̿ܿ¡µµ ´Ù¾çÇÑ LLM ¸ðµ¨ Áö¿ø
Ä÷ÄÄ AI Inference Suite¸¦ ÅëÇØ Á÷°üÀûÀÌ°í ¼Õ½¬¿î »ç¿ë Á¦°ø
»ç¿ë °¡´ÉÇÑ »ý¼ºÇü ÀΰøÁö´É
Retrieval-based Voice Conversion
À̹ÌÁö »ý¼º, ¿Àµð¿À »ý¼º µî ´Ù¾çÇÑ »ý¼ºÇü AI¸¦ ¼Õ½±°Ô »ç¿ë °¡´É
±× ¾î¶² AI ¼¹öº¸´Ù È¿À²ÀûÀÎ Àü·Â ¼Ò¸ð
Arm¢ç ±â¹Ý ¸Å´ÏÄÚ¾î ¾ÆÅ°ÅØÃ³·Î ±¸µ¿µÇ±â ¶§¹®¿¡ ´õ¿í ºü¸£°í º´¸ñ ¾ø´Â ¿¬»ê
¿ä¾à
|
»ý¼ºÇü ÀΰøÁö´É
|
|
Arm¢ç ±â¹Ý Ampere Altra¢ç ÇÁ·Î¼¼¼
ÃÖ´ë 128ÄÚ¾î 3.0Ghz ±¸¼º |
|
Ä÷ÄÄ Å¬¶ó¿ìµå AI
NPU ½Ã¸®Áî |
|
DDR4 3200
8ä³Î 2DPC 16°³ ½½·Ô ÃÖ´ë 4TB ¸Þ¸ð¸® ±¸¼º |
|
M.2 NVMe¢ç
8°³ ½½·Ô ÃÖ´ë 4TB SSD ±¸¼º |
|
ÃÖ´ë 20¹è ºü¸¥ Àü¼Û ¼Óµµ
USB 3 Áö¿ø |
|
Ãʰí¼Ó 10±â°¡ºñÆ® ÀÌ´õ³Ý
|
|
Ubuntu Server 20.04/22.04 LTS
Rocky Linux 9 |
|
BMC Æ¯È Ä¨
ASPEED¢ç 2500 |
ÇÁ·Î¼¼¼
Ampere Altra¢ç ½Ã¸®Áî
Q32-17
32ÄÚ¾î 1.7Ghz
TDP 40W
Q64-22
64ÄÚ¾î 2.2Ghz
TDP 124W
Q80-30
80ÄÚ¾î 3.0Ghz
TDP 161W
M128-30
128ÄÚ¾î 3.0Ghz
TDP 183W
Arm¢ç v8.2+ ¹× SBSA 4 ¸í·É¾î ÁýÇÕ È£È¯
TSMC 7nm FinFET °øÁ¤
ÄÚ¾î´ç 1MB L2 ij½Ã
0¡ÆC¿¡¼ 90¡ÆC ÀÛµ¿ ¿Âµµ
4,962 ÇÉ FCLGA
NPU
Qualcomm¢ç Cloud AI ½Ã¸®Áî
AI 100 Ultra
870 TOPs (INT8)
TDP 150W
128GB RAM
AI 100 Standard
350 TOPs (INT8)
TDP 75W
16GB RAM
AI 080 Ultra
618 TOPs (INT8)
TDP 150W
128GB RAM
AI 080 Standard
190 TOPs (INT8)
TDP 75W
16GB RAM
PCIe FH3/4L ¶Ç´Â HHHL ±Ô°Ý
PCIe 4 ¿¬°á
7nm °øÁ¤