ÀÎÅÚÀº 1ÀÏ, ÀÚ»ç 2¼¼´ë ÇϹٳª °¡¿ìµð2 µö ·¯´× ÇÁ·Î¼¼¼¿Í ¿£ºñµð¾Æ A100ÀÇ AI ÃÑ ÇнÀ ½Ã°£ (Time-to-Train, ÀÌÇÏ TTT) ¼º´ÉÀ» MLPerf »ê¾÷ º¥Ä¡¸¶Å© »ó¿¡¼ ÃøÁ¤ÇÑ °á°ú, ÇϹٳª °¡¿ìµð2 µö ·¯´× ÇÁ·Î¼¼¼ÀÇ ¼º´ÉÀÌ ¿ùµîÇß´Ù°í ¹àÇû´Ù. ÀÎÅÚÀº Áö³ 5¿ù ÀÎÅÚ ºñÀü¿¡¼ ¹ßÇ¥ÇÑ °¡¿ìµð 2 ÇÁ·Î¼¼¼°¡ ºñÀü (ResNet-50) ¹× ¾ð¾î(BERT) ºÎ¹®¿¡¼ ¶Ù¾î³ TTT¸¦ ±â·ÏÇß´Ù°í ¹àÇû´Ù.
»êµå¶ó ¸®º£¶ó(Sandra Rivera), ÀÎÅÚ ¼ö¼®ºÎ»çÀå °â µ¥ÀÌÅͼ¾ÅÍ ¹× AI ±×·ì ÃÑ°ýÀº “°¡¿ìµð2°¡ Ãâ½Ã ÇÑ ´Þ ¸¸¿¡ MLPerf º¥Ä¡¸¶Å©¿¡¼ ¶Ù¾î³ ¼º´ÉÀ» ±â·ÏÇØ ¸Å¿ì ±â»Ú¸ç, µ¿½Ã¿¡ ÀÌ·¯ÇÑ °á°ú¸¦ °¡Á®¿Ã ¼ö ÀÖµµ·Ï ³ë·ÂÇÑ ÆÀ¿ø¿¡ ÀںνÉÀ» ´À³¤´Ù”¸ç “ÀÎÅÚÀº ºñÀü ¹× ¾ð¾î ¸ðµ¨ ¸ðµÎ¿¡¼ µ¿±Þ ÃÖ°íÀÇ ¼º´ÉÀ» Á¦°øÇØ, °í°´¿¡ °¡Ä¡¸¦ Á¦°øÇÏ°í AI µö·¯´× ¼Ö·ç¼Ç °³¹ßÀ» °¡¼ÓÈÇϵµ·Ï Áö¿øÇÒ °Í”À̶ó°í ¸»Çß´Ù.
ÀÎÅÚ µ¥ÀÌÅÍ ¼¾ÅÍ ÆÀÀº ÇϹٳª ·¦½º(Habana Labs)ÀÇ °¡¿ìµð Ç÷§ÆûÀ» È°¿ëÇØ µö ·¯´× ÇÁ·Î¼¼¼ ±â¼ú¿¡ ÁßÁ¡À» µÎ¾úÀ¸¸ç, µ¥ÀÌÅÍ °úÇÐÀÚ ¹× ¸Ó½Å·¯´× ¿£Áö´Ï¾î°¡ ÇнÀÀ» °¡¼ÓÈÇÒ ¼ö ÀÖµµ·Ï Áö¿øÇß´Ù. ¾Æ¿ï·¯, ´Ü ¸î ÁÙÀÇ ÄÚµå·Î »õ·Î¿î ¸ðµ¨À» ±¸ÃàÇϰųª ±âÁ¸ ¸ðµ¨À» ÀÌÀüÇØ »ý»ê¼ºÀ» ³ôÀÌ°í ¿î¿µ ºñ¿ëÀ» Àý°¨ÇÒ ¼ö ÀÖµµ·Ï ±¸ÇöÇß´Ù.
ÇϹٳª °¡¿ìµð2´Â 1¼¼´ë °¡¿ìµð Á¦Ç° ´ëºñ TTT ºÎ¹®¿¡ ÀÖ¾î ȹ±âÀûÀÎ ¹ßÀüÀ» ÀÌ·ç¾ú´Ù. ÇϹٳª ·¦½º´Â Áö³ 2022³â 5¿ù ÁøÇàÇÑ MLPerf º¥Ä¡¸¶Å©¸¦ ÅëÇØ °¡¿ìµð2°¡ 8°³ÀÇ °¡¼Ó±â¸¦ »ç¿ëÇÏ´Â ºñÀü ¹× ¾ð¾î ¸ðµ¨¿¡¼ ¿£ºñµð¾Æ A100-80G ´ëºñ ¿ùµîÇÑ ¼º´ÉÀ» ±â·ÏÇß´Ù°í ¹àÇû´Ù. ResNet-50 ¸ðµ¨ÀÇ °æ¿ì, °¡¿ìµð2´Â ¿£ºñµð¾Æ A100-80G Á¦Ç° ´ëºñ ÇнÀ ½Ã°£ÀÌ 36% ´ÜÃàµÆ´Ù. µ¨(Dell)ÀÌ ÁøÇàÇÑ 8°³ÀÇ °¡¼Ó±â ¼¹ö¿¡¼ ÁøÇàÇÑ ResNet-50 ¸ðµ¨ ¹× BERT ¸ðµ¨ ÇнÀ Å×½ºÆ® °á°ú °¡¿ìµð2°¡ ¿£ºñµð¾Æ A100-40GB ´ëºñ ÇнÀ ½Ã°£À» 45% ´ÜÃàÇß´Ù.
°¡¿ìµð2´Â 1¼¼´ë °¡¿ìµð ´ëºñ, ResNet-50 ¹× BERT ¸ðµ¨¿¡¼ °¢°¢ 3¹è¿Í 4.7¹è ³ôÀº ÇнÀ 󸮷®À» ±â·ÏÇß´Ù. ÀÎÅÚÀº ÇØ´ç ÇÁ·Î¼¼¼¸¦ ±âÁ¸ 16³ª³ë °øÁ¤¿¡¼ 7³ª³ë °øÁ¤À¸·Î ÀüȯÇØ ÅÙ¼ ÇÁ·Î¼¼¼ ÄÚ¾î ¼ö¸¦ 3¹è Áõ°¡Çß°í, GEMM ¿£Áø ÄÄÇ»Æà ¿ë·® Áõ¼³, ÆÐÅ°Áö ³» °í´ë¿ªÆø ¸Þ¸ð¸® ¿ë·® 3¹è È®´ë, ´ë¿ªÆø ¹× SRAM Å©±â 2¹è È®ÀåÀ» ÅëÇØ À̹ø ¼º°ú¸¦ ´Þ¼ºÇß´Ù. ºñÀü ¸ðµ¨ÀÇ °æ¿ì °¡¿ìµð2´Â µ¶¸³ÀûÀ¸·Î ÀÛµ¿ÇØ AI ÇнÀ¿¡ ÇÊ¿äÇÑ µ¥ÀÌÅÍ Áõ°À» Æ÷ÇÔ, ¾ÐÃà ¿µ»óȸ¦ À§ÇÑ Àü¹ÝÀûÀÎ Àüó¸® ÆÄÀÌÇÁ¸¦ ó¸®ÇÒ ¼ö ÀÖ´Â ÅëÇÕ ¹Ìµð¾î ¿£Áø ÇüÅÂÀÇ ±â´ÉÀ» °®Ãè´Ù.
°¡¿ìµð1 ¹× °¡¿ìµð2 ÇÁ·Î¼¼¼´Â Ưº°ÇÑ ¼ÒÇÁÆ®¿þ¾î Á¶ÀÛ ¾øÀ̵µ °í°´¿¡°Ô ÃÖ°íÀÇ ¼º´ÉÀ» Á¦°øÇÑ´Ù.
ÇϹٳª ·¦½º´Â 8°³ÀÇ GPU ¼¹ö ¹× HLS-°¡¿ìµð2 ·¹ÆÛ·±½º ¼¹ö »ó¿¡¼ °¡¿ìµð1 ¹× °¡¿ìµð2¿Í ±âÁ¸ »ó¿ë ¼ÒÇÁÆ®¿þ¾î °£ ¼º´ÉÀ» ºñ±³Çß´Ù. ÇнÀ 󸮷®Àº NGC ¹× ÇϹٳª °ø¿ë ÀúÀå¼ÒÀÇ ÅÙ¼ÇÃ·Î¿ì µµÄ¿¸¦ »ç¿ëÇØ ÃøÁ¤ÇßÀ¸¸ç, Á¦Á¶»ç¿¡¼ ±ÇÀåÇÏ´Â ÃÖ°íÀÇ ¼º´É ¸Å°³ º¯¼ö¸¦ äÅÃÇß´Ù.
MLPerfÀ» ÅëÇØ ÃøÁ¤µÈ °¡¿ìµð2 Á¦Ç°ÀÇ ¼º´É ¿Ü¿¡µµ, °¡¿ìµð1Àº °íÈ¿À² ½Ã½ºÅÛ ½ºÄÉÀϸµÀ» Áö¿øÇÏ´Â 128-°¡¼Ó±â ¹× 256-°¡¼Ó±â¸¦ À§ÇÑ ResNet ¸ðµ¨¿¡¼ °·ÂÇÑ ¼º´É ¹× ¼±Çü ½ºÄÉÀÏÀ» Á¦°øÇß´Ù.
¿¡ÀÌź ¸Þµð³ª(Eitan Medina) ÇϹٳª ·¦½º ÃÖ°í¿î¿µÃ¥ÀÓÀÚ´Â “°¡¿ìµð2´Â ÃֽŠMLPerf °á°ú·Îµµ ÀÔÁõµÆµíÀÌ ¸ðµ¨ ÇнÀ¿¡ ÀÖ¾î ¾÷°è ¼±µµÀûÀÎ ¼º´ÉÀ» Á¦°øÇÑ´Ù”¸ç “ÇϹٳª ·¦½º´Â ºñ¿ë °æÀï·ÂÀÌ ³ôÀº AI ÇнÀ ¼Ö·ç¼ÇÀ» Á¦°øÇϱâ À§ÇØ µö ·¯´× ±³À° ¾ÆÅ°ÅØó¿Í ¼ÒÇÁÆ®¿þ¾î¸¦ Áö¼ÓÀûÀ¸·Î Çõ½ÅÇÏ°í ÀÖ´Ù”°í ¸»Çß´Ù.
±èŸ¸ ±âÀÚ ktman21c@gamevu.co.kr
<ÀúÀÛ±ÇÀÚ © °ÔÀÓºä, ¹«´Ü ÀüÀç ¹× Àç¹èÆ÷ ±ÝÁö>