뉴스소식
슈퍼솔루션, AI EXPO서 AI 인프라 구축 위한 최신 서버 공개
2023-05-16최신 인텔X13 및 AMD H13 기반의 다종의 GPU 서버 선보여
슈퍼마이크로 한국 공식 총판인 슈퍼솔루션은 지난 12일까지 열린 서울 삼성동 코엑스에서 열린 ‘국제인공지능대전(AI EXPO KOREA 2023)’에 참가해
슈퍼마이크로 최신 NVIDIA GPU 서버, 8-WAY MP 서버 및 Liquid Cooled 워크스테이션 등 AI 및 빅데이터 인프라 도입에 필요한 다양한 서버 제품을 전시했다.
국제인공지능대전은 2018년도부터 열린 AI 분야 국내 최대 규모 전시회로 국내 및 해외 AI 인프라의 현주소와 관련 산업의 제품을 확인할 수 있는 자리다.
슈퍼솔루션은 이번 전시회에서 골드 스폰서로 참가해 스폰서쉽 프로그램으로 세미나 발표를 진행했다.
이날 세미나에서 슈퍼마이크로 한국 FAE인 김성민 상무는 “최근의 3년동안 언어모델의 파라미터 개수가 약 1만5500배 늘어남에 따라 과거 음성인식 수준에서
현재는 대화형 인공지능 서비스가 가능하게 됐다.
이것은 개발 작업을 뒷받침할 수 있는 특화된 GPU의 수천 개의 연산코어가 수천 개의 작업을 한꺼번에 병렬 처리를 할 수 있기 때문이다"고 말했다.
이어 그는 "AI 모델이 커지고, 데이터의 양도 늘어나기에 챗GPT 같은 거대한 AI 언어 모델 개발이 필요로 하는 작업에는 데이터의 수집 및 가공
그리고 AI 모델 트레이닝을 거치면서 대규모 저장 공간이 필요하다. 또한 RDMA 기술을 통해 CPU의 간섭없이 여러 노드의 GPU 서버를
한 개의 거대한 연산장비로 통신해야 하기에 최근에는 GPU 성능뿐 아니라 네트워크 및 스토리지 성능의 중요성이 커지고 있다"고 덧붙였다.
이에 슈퍼마이크로는 서버 개발단계에서 제조 및 생산을 모두 자체적으로 직접하기에 슈퍼마이크로의 빌딩 블록 아키텍처 솔루션을 바탕으로
최신 CPU나 GPU가 출시가 됐을 때 빠르게 최적화한 서버를 공급할 수 있는 장점이 있다.
한편, 이번 전시회에서 슈퍼솔루션은 AI 연구 개발을 주력으로 하는 기업 관람객에게 최신 인텔X13 및 AMD H13 기반의 다종의 GPU 서버를 소개했다.
엔비디아 최신 H100 GPU 전시 및 A100 8개 GPU가 탑재된 AI 슈퍼컴퓨터 시스템 AS -4124GO-NART는 엔비디아 SXM방식의 GPU 8개가 탑재된 HGX 모델이다.
이 시스템은 NVLink 기반의 NVIDIA GPU를 장착해 최대 600GB/s 대역폭의 NVLink로 GPU간 커뮤니케이션이 가능하고, GPU 메모리 간 직접 통신이 가능한 GPUDirect RDMA 기술을 지원한다.
NVSwitch 인터커넥트 기술 방식으로 8개의 GPU가 상호 스위치에 연결돼 높은 대역폭과 지연 시간 절감을 제공한다.
또한, 상단 CPU 노드와 하단 GPU 노드로 나눠져 CPU와 GPU 공간을 분리해 GPU 서버의 냉각 효율을 극대화했다.
[기사원문]
https://www.hellot.net/news/article.html?no=77980