Кытай, Шэньчжэнь — 2025-жылдын 18-ноябры — Айналмалуу интеллект эсептөө кубаттуулугуна дүйнө жүзүндөгү талап арта түшкөндөн бери, Aethlumis бүгүн жаңы буудак AI серверин, TG990V3 чыгарды. Башкы интернет компанияларында, AI изилдөө институттарында жана булут сервистеринде алгачкы ишке киргизүүлөрдүн натыйжасында TG990V3 чоң көлөмдүү моделдерди окутууда маанилүү ийгиликтерге жетти. Триллион параметрлер менен иштеген сынамаларда сервер мурдагы нускамадан 40% жакшыртылган жалпы окутуу эффективдүүлүгүн көрсөттү, ал эми окутуу циклдери мурдагысы менен салыштырмалуу 30–32% кыскарды.
AI инфраструктурасы жаңы бүгүлүш нуктасына жетти
Өткөн эки жыл ичинде модельдөрдүн көлөмү миллиарддан триллионго чейин өсүп, алгоритмдердин өнүгүшү менен эсептөө инфраструктурасынын ортосундагы айырма бийик болуп келет. Чыгарылышы менен коштолгон иш-чарада Aethlumis компаниясынын башкармалык директору Ван Цихан мындай деди:
чоң моделдердин өнүгүш тездиги башталгыч инфраструктураны жаңыртуунун тездигинен артта калды. TG990V3 аппараттык чыгым же электр энергиясынын тасмачылыгын көбөйтпөстөн жогорку окутуу эффективдүүлүгүн камсыз кылуу үчүн иштеп чыгылган, бул AI командаларына тезирээк жана ынтымактуураак итерациялоого мүмкүндүк берет.
Сектордук анализаторлор ИИ сервери боюнча конкуренттешүүнүн таза аппараттык стекти куроодон системалык деңгээлдеги архитектуралык оптимизацияга которулганын, TG990V3 бул багытты көрсөтүп турганын белгилешет.
Жогорку эффективдүүлүктөгү интерконнект архитектурасы: 1 Т-параметрди окутууда 95%+ GPUдан GPUга чейинки дубалдуулук пайдаланылышы
OAI 2.0 стандартына негизделген сегиз OAM GPU модулю менен жабдылган TG990V3 чоң көлөмдүү таратылган окутууга ылайыкташтырылган кийинки буын көп катмардуу интерконнект топологиясын колдонот.
Акыркы интернет компаниясынын триллион параметрдүү модель боюнча ички сынамаларында:
• GPUдан GPUга чейинки интерконнект эффективдүүлүгү 95–96% деңгээлинде туруктуу болуп калды
• Градиенттик синхрондоо убактысы 27% төмөндөдү
• Кластердин жалпы өткөрүмдүүлүгү 21% жогорулаган
Баалууланган ИИ лабораториясынын техникалык директору:
«Ушул чапта модельдөрдү окутууда аракеттешүүнүн ар бир пайызы маанилүү. TG990V3 кластердин өлчөмү кеңейген сайын туруктуу иштеп турат, бул чоң артыкчылык».
I/O «Алтын пропорция» долбоору: ИИ окутуудагы дубалдарды жок кылуу
ИИ окутууда кездешүүчү туруктуу кыйынчылык — бул жогорку өнүмдүүлүктөгү GPUларга I/O дубалдарынан улам толук иштетилбей калышы; тар сеткалык өткөргүчтүүлүк, чектелген сактоо өткөргүчтүүлүгү же баягы маалыматтарды жүктөө жолдору.
Бул маселени чечүү үчүн Aethlumis өнөр жайда сирэгилек болуп саналган 8 : 8 : 16 (GPU : NIC : NVMe) архитектурасын киргизди:
• Ар бир GPU үчүн 400 Гбит/с махsus тармактык өткөргүчтүүлүк
• Ар бир GPU үчүн эки өз алдынча NVMe Gen4/Gen5 SSD
• Маалымат жүктөө убактысынын 60% дан ашык азайышы
Эрте сындан өтүүгө катышкан жергиликтүү ИИ стартап компаниясы GPU колдонуунун 94–97% диапазонунда туруктуу экендигин, ал эми алардын мурунку серверлеринде 70–75% болгонун белгиледи.
Кластер-бааза надежность: MTTR 3 мүнөттөн ашпай, 92% чейинги сызыктуу масштабтоо
Узакка созулган, көлөмдүү окутуу жүктөмү үчүн долбоорленген TG990V3 модулдуу толук архитектурага ээ, GPU, шамалдаштыруу, электр жана тармак модулдарын алмаштырууга мүмкүндүк берет.
Башталгыч клиенттердин сынамаларында айтылат:
• Орточо түзөтүү убактысы (MTTR) 10–12 мүнөттөн 3 мүнөттөн кемге чейин кыскарды
• Үзгүлтүксүз 24/7 окутуу циклдери учурунда системанын иштеше 99,95%
• Миңдеген карталардын кластерлеринде 92% сызыктуу масштабтоо эффективдүүлүгү
• Бул чоң, таратылган окутуу муражайларын колдонуп иштеген компаниялар үчүн бироксой болбой турган надеждуустуулукту камсыз кылат.
Жардамчылардан топтолгон насылкый өлчөмдөр
• Триллион параметрли LLM'дерди окутуунун убактысы 32% камчылаган
• Маалыматтарды жүктөө өткүрүмдүүлүгү 60%дан ашып жакшырды
• Көптүк түйүндөрдүн кластерлеринде 92% маалыматты чоңойтуу эффективдүүлүгү
• Узакка созулган маселелерди чечүүдө 99,95% иштете алыш ыктымалдуулугу
Тиркемелер төмөнкүлөрдү камтыйт:
• Чоң тил моделерин (LLaMA, GPT сериясы жана башкалар) окутуу
• Көптүк режимдүү модельдерди окутуу (сүрөт, аудио, видео, 3D)
• Корпоративдик AI платформалары жана чыгаруу кластерлери
• Университеттик жана улуттук деңгээлдеги изилдөө эсептөө муражайлары
Кийинки буулактын ИИ инфраструктурасын куруу
Aethlumis компаниясынын продукт боюнча вице-президенти доктор Ли Жан мындай деди:
“TG990V3 – бул жөн гана жабдыктарды жаңыртуу эмес. Бул чоң модель окутуу процессинин бардык системасын оптималдаштырууну билдирет – интерконнект архитектурасын, I/O подсистемасын жана интеллектуалдуу операцияларды камтыйт. Биз бул жүйени үч жыл бою модельдүн көлөмүн ынталандырып өнүктүрүү үчүн долбоорлошконбүз”
TG990V3 корпоративдик деңгээлде колдонууга жарамдуу жана бир нече булут платформаларында жана ИИ компанияларында эле колдонулууда.
Aethlumis глобалдык бизнес үчүн серверлер, GPU станциялары, чачыраткычтар жана сактоо системалары киргизилген IT техникалык чечимдерди сунуштайт.
Бардык укуктар корголгон. Beijing Puhua Haotian Technology Co., Ltd - Купуялык Саясаты-Блог
