Aethlumis AI Инфраструктурын Шийдэл

Хэмжээст тооцох архитектураар оюун ухааныг бэхжүүлэх

Нөхцөл байдал ба Дахин тавигдах асуудлууд

Орчин үеийн компаниуд болон судалгааны байгууллагууд илүү их хэмжээтэй өгөгдөл, нэмэгдсэн нарийн цогц ИН ачаалалтай тулгарч байна.

• Хэвийн серверийн системүүд хязгаарт орж байна — дараах асуудалд тулгарч байна:

• GPU холболтын зурвасын өргөн хангалтгүй байх нь сургалтын саатлыг үүсгэж байна

• Байнгын ачаалал дор дулааны үр ашгийн бус байдал

• Удаан засвар үйлчилгээний цикл, удаан хугацааны зогсонги

• Хэмжээгээр өргөжих боломжийг хязгаарладаг уян хатгийн байдлаас хомсдолтой өргөтгөлтийн замууд

Aethlumis нь уламжлалт өгөгдлийн төвүүдийг өндөр үзүүлэлттэй хиймэл оюун ухааны инфраструктурын шийдэл болгон хувиргадаг, төгс мэдээлэл технологийн шийдэл ашиглан эдгээр саадыг арилгана.

Бидний шийдэл: Aethlumis TG990V3 Оюунлаг тооцоолох платформ

TG990V3 нь томоохон хэмжээний сургалт, дүгнэлт, өндөр нягтшил бүхий өгөгдлийн ачааллыг зориулан үүсгэсэн Aethlumis-ийн дараагийн үеийн хиймэл оюун ухааны гол сервер юм.

Энэ нь цацангийн хүрээнд хамгийн шинэ техник хангамж, модуль бүтэц, оюунлаг удирдлагыг нэгтгэж, бидний хиймэл оюун ухааны инфраструктурын цогц системийн төвийг бүрдүүлдэг.

Техникийн онцлог

• Тооцоолох чадвар: Хос 4-р / 5-р үеийн Intel® Xeon® масштаблах боломжтой процессор, TDP хамгийн ихдээ 350 Вт

• GPU чадавхи: OAI 2.0 стандартын дагуу бүрэн холбогдсон OAM GPU-ийг хамгийн ихдээ 8 хүртэл дэмждэг

• Өргөтгөх боломж: PCIe 5.0 слотын 14 хүртэл + заавал биш OCP 3.0 интерфэйс

• Хадгалах үзүүлэлт: Өндөр нэвтрэлтэй I/O-ийн тулд 2.5″ NVMe / SAS / SATA дискний 20 хүртэл

• Цахилгаан хэрэглээний үр ашиг: Хоёр талын загвар (6 × 54 В GPU бүс + 2 × 12 В CPU бүс) хувиргалтын алдагдлыг арилгана

• Хөргөлтийн систем: бүсчилсэн удирдлагатай 15 эрэлтэй хос роторт сэнс, 8 GPU-ийн бүтэн ачаалал дор тогтвортой ажиллалтыг хангана

• Ухаалаг удирдлага: IPMI 2.0, Redfish, ба SNMP-г дэмждэг BMC AST2600 чип, бүрэн зайн хяналтанд зориулагдсан

Энэ суурь нь тэнцвэртэй топологийн архитектурыг бий болгох бөгөөд тооцооны кластерын шаардлагад нийцэх өндөр үзүүлэлтэй хоёр чиглэлтэй ба тэнцвэртэй ганц чиглэлтэй холболтын байгууламжуудыг дэмждэг.

Шийдэл архитектурын тойм

Архитектурын давхаргууд:

• Тооцооллын давхарга — 8 OAM GPU-тэй TG990V3 өндөр нягтшилтэй нүднүүд

• Сүлжээний давхарга — 8 × 400 Г-ийн холболтууд бүхий цөөн хугацаатай, том масштабын кластерууд

• Хадгалалтын давхарга — Өндөр хурдны өгөгдөлд хандах зориулалттай NVMe суурьтай зэрэгцээ хадгалалт

• Удирдлагын давхарга — Зохион байгуулалт, телеметр, гэмтлийг тусгаарлах зориулалттай нэгтгэсэн Redfish/IPMI платформ

Энэ модуль, холбоосгүй загвар нь хоорондоо хамааралгүй шинэчлэлт хийх, асуудлыг хялбар арилгах, мөн зогсоц, өгөгдлийн төв дэх хэвтээ масштабыг дэмждэг.

Хэрэглээний нөхцөл

Хиймэл оюуны загварын сургалт

Томоохон трансформерийн хэмжээний ачаалалд зориулан загварчилсан бөгөөд GPU-уудийн хоорондын бага хугацааны сааталтайгаар их параметрт загвар сургах боломжийг олгоно.

GPU ба санах ой хоорондын үр дүнтэй өгөгдлийн замыг GPUDirect RDMA болон GDS-ийн тусламжтайгаар дэмждэг.

• Дүгнэлт гаргалт & Ирмэгийн AI

Хэмжээний хувьд илрэлтийн хурдасгат, зураглал, NLP эсвэл олон горимын AI-д тохирох GPU-ийн уян хатан тохиргоог дэмждэг.

AI-ийн нүүрсэн үйлчилгээ болон газар дээрх ирмэгийн суурилуулалтад бүрэн тохиромжтой.

• Аж үйлдвэрийн боловсруулалтын төвүүд

Дотоод AI платформын үндсэн суурь болгон TG990V3-ыг суурилуулна уу.

Нэгдсэн удирдлага нь үйл ажиллагааны нарийн төвөгийг бууруулж, програм хангамжийн орчуулга, лог бичлэг цуглуулах, ухаалаг диагностикийг дэмждэг.

• Нүүрсэн үйлчилгээ & Өндөр гүйцэтгэлтэй боловсруулалтын кластер

Томоохон тооцооллын сүлжээнд зориулсан царайгүй 400 Г-ийн масштаблах чадавхи — олон хэрэглэгчийн орчин болон гибрид AI нүүрсэн дээр үр дүнтэй ажиллахын тулд тохируулагдсан.

Чухал хүрээлэн

Төрөл	Давуу тал	Анх амын үзүүлэлт
Ашиг шимийн нягтшил	8U-д давхар Xeon + 8 OAM GPU	Захын нэгж бүрийн тооцооллын чадварыг хамгийн их байлгах
Өргөжүүлэх боломж	14 × PCIe 5.0 слот, OCP 3.0-ийг дэмждэг	Нөөцийн уян хатан хуваарилалт
Засвартай байдал	Халахад сольдог модуль систем	Үйлчилгээг зогсохгүйгээр хийх боломж
Удирдах чадвар	Redfish/IPMI-г дэмджээх ухаалаг BMC	Алсаас удирдах болон гэмтэл олгох
Эрчим хүчний үр ашиг	Хоёр цахилгааны түвшинтэй загварчлал	Цахилгаан эрчим хүчний алдагдал ба дулаан ялгаралтыг бууруулсан
Найдвартай байдал	Нөөц цахилгаан хангамж болон сэнсний модуль	Корпорацийн түвшний ашиглалт

Нэгтгэх үйлчилгээ

Aethlumis нь зөвхөн хардвараас илүү ихийг санал болгодог — бид бүрэн AI инфраструктурын нэгтгэлийг хангана:

• Кластерийн загварчлал ба байршуулах зөвлөгөө

• Сүлжээний топологийн үр ашгийг сайжруулах

• GPU нөөцийн хуваарилалт болон контейнерчлэл (Kubernetes / Slurm)

• Дулаан ба цахилгаан хангамжийн загварчлал

• Алсаас удирдах сургалт болон урт хугацаат дэмжлэг

Бидний инженерийн баг нь таны AI-н зорилго бүрийг ватт, байт, GPU-н ажил гэх мэт бүх талаар үр дүнтэй ашиглахын тулд таны IT архитекторуудтай хамтран ажилладаг.

Хамтрагчийн экосистем

Aethlumis нь тооцоолох, сүлжээ, хадгалалтын чиглэлээр авдарласан экосистемийн хамтрагчидтай хамтран ажилладаг. Intel®, NVIDIA®, Broadcom®, Mellanox®, Open Compute Project (OAI 2.0).

Энэ нь таны хөрөнгө оруулалтад зориулан гладкай интеграци болон ирээдүйд масштабжуулах боломжийг бүрэн хангана.