Intel Partner Alliance Titanium

디에스앤지

차별화된 AI 워크로드 솔루션

데이터 센터 AI 워크로드 서버의 97%가 Intel 프로세서 기반이며, AI 연산 특화 DL Boost 기술 적용 등 Intel AI 솔루션은 지속 성장 중입니다. Intel Partner Alliance의 Titanium으로 등록된 디에스앤지는 이미지 인식, 사물 감지, 컨텐츠 추천 등 AI 어플리케이션에 맞는 서버 솔루션을 제공합니다.

Habana

AI, 딥 러닝 트레이닝에 최적화된 서버용 GPU

Habana-Gaudi3

AI 성능에 최적화되어 설계된 Gaudi3는 8개의 AI Tensor Core 프로세서 및 128GB HBM2E 메모리 등을 제공하여
기존 프로세서 아키텍처보다 높은 효율성을 제공합니다.

Gaudi3 HL-325L 프로세서

Intel® Gaudi® 3-OAM Intel® Gaudi® 3-PCIe
part number HL-325L HL-328 HL-335 HL-338 HL-388
export market Non-PRC PRC(*) Non-PRC Non-PRC PRC(*)
availability Mar’24 Jun ‘24 Oct ‘24 Sep ‘24 Sep ‘24
form factor OAM OAM OAM Dual-slot PCIe,Full Height, 10.5"Length
cooling Air Air Liquid (1P or 2P) Air Air
TDP[W] 900 450 900 600 450
Scale -up support via x8 baseboard (HLB-325) x4 Top-Board (HLTB-304)
Scale -out support via baseboard (6 x OSFP800) or via HOST-NIC via HOST-NIC or via dual QSFP-112 on PCIe card
Memory 128GB HBM2E
Peak HBM Bandwidth 3.7 TB/sec
HBM interface and type 1024-bit x8 stacks HBM2e
Node 5nm
last-level cache capacity 96MB
host interface PCIe Gen5.0 x16

AI Use Case

Intel® Gaudi® 3 AI 가속기는 데이터 센터에서 최첨단 생성형 AI 및 LLM을 지원합니다.
또한, 선도적인 AI 시스템을 위한 호스트 CPU인 Intel® Xeon® 프로세서와 결합하여 엔터프라이즈급 성능과 안정성을 제공합니다.

SYSTEM

PRICE-PERFORMANCE EFFICIENCY

Large-scale-capacity
: Linear performance scalability

"INTEL 인공지능(AI) 가속기 플랫폼은 경쟁사 제품과 비교할 때 최대 3분의 1 가격으로 제공됩니다."

Pat Gelsinger

CEO , INTEL

SYS-822GA-NGR3 (2024)
Form Factor 8U
MB X14 MB (Intel Granite Rapids AP) up to 400W
GPU Intel Habana Gaudi 3 (Gen5, 850W)
Intel Habana UBB board (conn. host interface:OAM1.5)
Memory 32 DIMM slots
Scale-out UBB board on-board 6*800G OSFP
Storage 8 x NVME for storage access(No support SATA)
2 x M.2 (NVME only)
PCIe Slot 2xPCI-E Gen5 x16 / 2xPCI-E Gen5 x8(FHHL)
1x AIOM PCIE Gen5 to support 2x10G Network
Thermal 2x4U Active CPU Heatsink
10Redundancy FAN module
Power Supply 4+4 3000W redundancy Power

Intel® Gaudi® software suite, SynapseAI

SynapseAI는 개발자의 사용 편의성을 높이기 위해 간편한 마이그레이션을 목표로 설계되었습니다.
기존 소프트웨어를 Intel Gaudi 가속기 소프트웨어로 전환하여 새 모델을 구축하거나 기존 모델을 마이그레이션 할 수 있습니다.
이는 딥러닝, 생성 AI 및 대규모 언어 모델을 정의하는 수많은 성장 모델의 교육 및 배포를 가능하게 합니다.

Gaudi3 Chip Diagram