Хятадын Шэньчжэнь — 2025 оны аравдугаар сарын 18 — Дэлхий дахинд хиймэл оюун ухааны (AI) боловсруулалтын эрэлт үргэлж өсөж байгаа нөхцөлд Aethlumis компани өнөөдөр шинэ дээд зэргийн AI сервер TG990V3-г гаргалаа. Их интернет компаний, AI судалгааны байгууллагууд, мөн цахим сангийн үйлчилгээний хангамжийн пүүсүүдэд анхдагч түгээлтийг хийснээр TG990V3 нь томоохон загварын сургалтанд илүү их ачааллыг зөөх чадвартай болсон бөгөөд триллион параметрт ачааллын шалгалтанд өмнөх үеийнхээс харьцуулахад нийт сургалтын үр дүнтэй байдлыг 40%-иар сайжруулсан, мөн сургалтын циклийг 30–32%-иар богиносгосон.
AI инфраструктурын шинэ хөндийн цэгт хүрсэн
Саяхан хоёр жилийн турш загварын хэмжээ тэгш болон триллион параметртэй болон өсөхийн хэрээр алгоритмын хөгжил ба боловсруулах инфраструктурын хооронд хоцрогдол илүү их харагдах болсон. Aethlumis компаний ерөнхий захирал Ван Цихан нэвтрүүлэгтээ дурдсан нь:
том загварын хөгжлийн хурд нь уламжлалт дэд бүтцийн шинэчлэлтийн хурдыг давж гарсан. TG990V3 нь хангамжийн зардлыг эсвэл цахилгаан хэрэглээг нэмэхгүйгээр илүү өндөр сургалтын үр ашигтай байхаар зохион бүтээгдсэн бөгөөд AI багууд хурдан, илүү тогтвортойгоор шинэчлэлт хийх боломжийг олгоно.
Мэргэжлийн шинжилгээний байгууллагуудын үзэж буйгаар, AI серверийн өрсөлдөөн нь анхны хангамжийн хоорондох өрсөлдөөнөөс системийн түвшний бүтэц, архитектурт шилжсэн бөгөөд энэ чиглэлийг TG990V3 тодорхой илэрхийлж байна.
Өндөр Үр Ашигтай Холболтын Бүтэц: 1 Терабайт Параметерт Сургалтад 95%+ Шууд Холболтын Нөөцийн Ашиглалт
OAI 2.0 стандартад суурилсан найман OAM GPU модультай хангагдсан TG990V3 нь том хэмжээний тараан сургах зориулалттай дараагийн үеийн олон түвшинтэй холболтын бүтцийг ашиглаж байна.
Ахмад интернет компаний явуулсан дотоод шалгалтаар триллион параметерт загвар дээр хийсэн үед:
• GPU-аас GPU руу холболтын үр ашгийг 95–96% түвшинд тогтвортой хадгалав
• Градиентийн холбооны хугацаа 27%-иар буурсан
• Кластерын нийт нэвтрүүлэх чадвар 21%-иар сайжирсан
Үнэлгээний AI лабораторийн техникийн зөвлөх:
“Ийм хэмжээний загвар сургах үед холбооны үр ашгийн нэгэн ч хувь чухал. TG990V3 нь кластерийн хэмжээ томрох явцад ч тогтвортой ажиллагааг хадгалж чаддаг нь том давуу тал юм.”
I/O “Алтан харьцаа” дизайн: AI сургалтын өгөгдлийн бутархайг арилгах
AI-г сургахад үргэлжийн асуудал бол маш өндөр үйлдэлтэй GPU-уудыг I/O-ийн бутархай (сүлжээний хязгаарлагдмал бүрэлдэхүүн, санах ойн хязгаарлагдмал нэвтрэлт эсвэл удаан өгөгдөл ачаалах шугам) шалтгаалаад бүрэн ашиглаж чаддаггүй байдал юм.
Үүнийг шийдвэрлэхийн тулд Aethlumis 8 : 8 : 16 (GPU : NIC : NVMe) бүтцийг оруулж ирсэн бөгөөд энэ нь индустрид ховор тохиолддог:
• GPU тус бүрт 400 Гбит/с-ийн зориулалтын сүлжээний бүрэлдэхүүн
• GPU тус бүрт хоёр хамааралгүй NVMe Gen4/Gen5 SSD
• Өгөгдөл ачаалах хоцрогдлыг 60%-иас дээш бууруулсан
Анхны туршилд оролцож буй нэгэн дотоодын AI стартап компанийн дурдсанаар GPU-ийн ашиглалт тогтмол 94–97%-д хүрч, одоо ашиглаж буй серверүүд дээрх 70–75%-иас дахин их байв.
Кластерийн түвшний найдвартай байдал: Гэмтэл засварын дундаж хугацаа (MTTR) 3 минутанд бага, шугаман масштаблах чадвар 92%-д хүрнэ
Урт хугацааны, том хэмжээний сургалтын ачаалалд зориулан загварчилсан TG990V3 нь горимдох боломжтой GPU, сэнс, цахилгаан хангамж, мэдээллийн сүлжээний бүрэлдэхүүн хэсгүүдийг бүрэн модуль хэлбэрээр агуулна.
Анхны хэрэглэгчийн туршилтын үр дүнгээс:
• Гэмтэл засварын дундаж хугацаа (MTTR) 10–12 минутаас 3 минутоос бага болтлоо буурсан
• Тасралтгүй 24/7 сургалтын үеэр 99.95% системийн ажиллагааны найдвартай байдал
• Мянган карттай кластер дээрх шугаман масштаблах үр ашгийн хувь 92%
• Энэ нь том хэмжээний тархсан сургалтын орчин үед ажиллаж буй компанийн найдвартай байдлыг улам бүр дээшлүүлнэ.
Бодит ерөнхий амжилтын хэмжигдэхүүн (анхны хэрэглэгчдийн өгүүлсэн)
• Триллион параметрт том загварын сургалтын хугацааг 32%-иар бууруулсан
• Өгөгдлийг ачаалах хурд 60%-иас дээш сайжирсан
• Олон нэгжтэй кластеруудад 92% масштаблах үр дүнтэй
• Урт хугацаат ажилд 99.95% хүртээмжтэй
Ашиглахад илэрхий:
• Том хэлний загварын сургалт (LLaMA, GPT цуврал гэх мэт)
• Олон горимын загварын сургалт (зургийн, дууны, видео, 3D)
• Аж үйлдвэрийн AI платформууд ба илрүүлэлтийн кластерууд
• Их сургууль болон улсын түвшний судалгааны тооцооллын орчин
Хойшлогдохгүй AI инфраструктурыг бий болгох
Aethlumis компанийн бүтээгдэхүүний захирал доктор Ли Жань хэлэв:
“TG990V3 нь энгийн харилцах төхөөрөмжийн шинэчлэл биш юм. Энэ нь хоорондын холболтын бүтэц, оролт-гаралтын дэд систем, ухаалаг үйлдлүүдийг хамарсан том загварын сургалтын бүх л процессын системийн түвшний тохируулгыг илэрхийлдэг. Бид загварын хэмжээний хурдасдаг өсөлтийг дараа 3 жилийн турш дэмжих зорилгоор үүнийг зохион байгуулсан.”
TG990V3 одоо аж үйлдвэрийн масштабын суурилуулалтад бэлэн бөгөөд цацрагийн платформууд болон AI компаниудын дунд ашиглагдаж эхэлсэн.
Aethlumis нь сервер, GPU ажлын станц, свитч болон хадгалалтын систем орчуулсан газрын IT техник хангамжийн шийдлийг санал болгодог.
6b9, Huajie Building, No.13 Dazhongsi, Beijing, China
Бээжинг Пухуа Хаотянь Технологи Компани Бодлогын Бүх Эрх Хадгалагдсан - Нууцлалын бодлого-Блог
