Aethlumis AI 인프라 솔루션

배경 및 과제

현대 기업과 연구 기관은 급격한 데이터 증가와 점점 더 복잡해지는 AI 워크로드에 직면해 있습니다.

• 기존 서버 시스템은 한계에 다다르고 있습니다 — 다음 문제들로 어려움을 겪고 있음:

• 부족한 GPU 상호 연결 대역폭으로 인한 학습 병목 현상

• 지속적인 작업 부하 하에서의 열 효율성 저하

• 긴 다운타임을 수반하는 복잡한 유지보수 주기

• 확장성 장애를 초래하는 유연하지 않은 확장 경로

Aethlumis는 이러한 장벽을 해결하기 위해 전통적인 데이터 센터를 고성능 AI 인프라로 변환하는 종합 지능형 컴퓨팅 솔루션을 제공합니다.

우리의 해결책: Aethlumis TG990V3 지능형 컴퓨팅 플랫폼

TG990V3는 Aethlumis의 차세대 AI 플래그십 서버로 대규모 훈련, 추론 및 고밀도 데이터 워크로드를 위해 특별히 제작되었습니다.

최첨단 하드웨어와 모듈형 아키텍처, 지능형 관리 등을 통합하여 우리의 인공지능 인프라 스택의 핵심을 형성합니다.

기술적 특징

• 계산력: 듀얼 4세대 / 5세대 인텔® Xeon® 확장 가능한 CPU, TDP 최대 350W

• GPU 용량: OAI 2.0 표준에 따라 완전히 상호 연결된 최대 8 OAM GPU를 지원합니다.

• 확장 유연성: 최대 14 × PCIe 5.0 슬롯 + 선택적인 OCP 3.0 인터페이스

• 저장 성능: 20 × 2.5′′ NVMe / SAS / SATA 드라이브까지

• 에너지 효율성: 이중 평면 설계 (6 × 54 V GPU 영역 + 2 × 12 V CPU 영역) 는 변환 손실을 제거합니다.

냉각 시스템: 15 개의 듀얼 로터 팬, 8 GPU 풀 로드 아래 안정적인 작동을 보장

• 스마트 관리: 완전한 원격 모니터링을 위해 IPMI 2.0, Redfish 및 SNMP를 지원하는 BMC AST2600 칩

이 기반은 균형 잡힌 토폴로지 아키텍처를 가능하게 하며, 고성능 듀얼-업플링크와 균형 잡힌 싱글-업플링크 구성을 모두 지원하여 컴퓨팅 클러스터 요구 사항에 부합합니다.

솔루션 아키텍처 개요

아키텍처 계층:

• 계산 계층 8개의 OAM GPU를 가진 TG990V3 고밀도 노드

• 네트워크 계층 초저지연시간을 보장하는 8 × 400G 상호 연결

• 저장 층 NVMe 기반의 병렬 저장소

• 관리 계층 오케스트레이션, 텔레메트리 및 결함 격리를 위한 통합 레드피시/IPMI 플랫폼

이 모듈식 분리형 설계는 독립적인 업그레이드, 간편한 유지보수 및 랙 또는 데이터 센터 간 수평적 확장성을 가능하게 합니다.

애플리케이션 시나리오

AI 모델 훈련

대규모 트랜스포머급 워크로드를 위해 설계되어 GPU 간 지연 시간을 최소화하면서 대용량 파라미터 모델 학습을 지원합니다.

GPU와 스토리지 간 효율적인 데이터 경로를 위해 GPUDirect RDMA 및 GDS를 지원합니다.

• 추론 및 엣지 AI

유연한 GPU 구성으로 비전, 자연어 처리(NLP), 또는 멀티모달 AI의 대규모 추론 가속을 가능하게 합니다.

AI 클라우드 서비스 및 온프레미스 엣지 배포에 적합합니다.

• 기업 컴퓨팅 센터

내부 AI 플랫폼의 핵심으로 TG990V3를 배포하십시오.

통합 관리를 통해 운영 및 유지보수(O&M) 복잡성을 줄이고 펌웨어 오케스트레이션, 로그 수집, 스마트 진단을 지원합니다.

• 클라우드 및 HPC 클러스터

대규모 컴퓨팅 패브릭을 위한 무단계 400G 스케일아웃 기능 — 멀티테넌트 환경 및 하이브리드 AI 클라우드에 최적화됨.

통합 서비스

Aethlumis는 하드웨어를 넘어서 제공합니다 — 우리는 완전한 AI 인프라 통합을 제공합니다:

• 클러스터 설계 및 배포 컨설팅

• 네트워크 토폴로지 최적화

• GPU 리소스 스케줄링 및 컨테이너화 (Kubernetes / Slurm)

• 열 및 전력 분배 설계

• 원격 관리 교육 및 장기 지원

당사의 엔지니어링 팀은 귀하의 AI 포부를 위해 모든 와트, 바이트, GPU 사이클을 완전히 최적화할 수 있도록 귀하의 IT 아키텍트와 긴밀히 협력합니다.

파트너 에코시스템

Aethlumis는 컴퓨팅, 네트워킹 및 스토리지 분야의 주요 에코시스템 파트너들과 협력하고 있습니다. 다음을 포함합니다: Intel®, NVIDIA®, Broadcom®, Mellanox®, 및 Open Compute Project (OAI 2.0).

이는 귀하의 투자에 대해 원활한 호환성과 미래까지 대비한 확장성을 보장합니다.