Díky našim hlubokým vztahům se světovými technologickými lídry, jako jsou HPE, Dell a Huawei, jsme také na pokraji implementace pokročilé infrastruktury v klíčových oblastech ve společnosti Aethlumis. V oblasti umělé inteligence existuje jedna architektonická technologie, která se stala nezbytnou při stavbě současných superpočítačových systémů pohánějících umělou inteligenci: server OAM (Open Accelerator Module) GPU . Nejedná se o další hardwarové zařízení, ale o základ, na němž je postavena škála, výkon a efektivita nejnáročnějších úloh umělé inteligence v dnešní době.
Standardizace a hustota integrace.
Nepředstavitelná velikost modelů umělé inteligence, zejména velkých jazykových modelů (LLM) a složitějších neuronových sítí, učinila zastaralou klasickou architekturu serverů určenou pro jednodušší modely neudržitelnou. Tyto modely vyžadují bezprecedentní množství výkonu paralelního zpracování, což vyžaduje integraci desítek a občas stovek GPU do jednoho systému. OAM je důležitým otevřeným standardem, který rozděluje GPU akcelerátor od jeho proprietárního formátu. Tato standardizace, jejímž průkopníkem jsou průmyslové konsorcia, umožňuje dodavatelům jako NVIDIA, AMD a dalším vyvíjet vysokým výkonem vybavené GPU, která se vejdou do standardního optimalizovaného šasi. Pro naše klienty ve finančnictví, průmyslu a energetice to znamená, že mohou vytvářet rozsáhlé výpočetní clustery s vysokým výkonem, aniž by byli vázáni na ekosystém jediného dodavatele, čímž si zajistí flexibilitu a budoucnostní odolnost svých investic.
Překonání zúžení v interkonektu.
Nemá smysl mít surový výpočetní výkon, který se nemůže komunikovat mimořádně vysokou rychlostí, jako mají GPU. Dokonce ani jeden server s několika GPU nelze použít k trénování modelu s triliony parametrů. Skutečný geniální prvek architektury OAM spočívá v tom, že je kombinována s ultra-vysokorychlostními a nízkolatenčními propojovacími strukturami, jako jsou NVLink a NVSwitch (v ekosystému NVIDIA) nebo jejich analogy. Servery OAM jsou speciálně implementovány tak, aby podporovaly přímou komunikaci mezi GPU ve celém stojanu modulů bez zapojení pomalejších tradičních PCIe cest. Tím vzniká obrovský jediný akcelerátor, ve kterém mohou být terabajty simulačních dat vyměňovány téměř v reálném čase. Právě to z řady počítačů s jednotlivými komponentami činí skutečný monolitický AI superpočítač. To přímo umožňuje efektivní a včasnou realizaci projektů, které by jinak nebylo možné dosáhnout.
Návrh chlazení a napájení: Inženýrství ve velkém měřítku.
Vysoká hustota výkonu v jediné rackové skříni představuje významné problémy z hlediska tepla a napájení. OAM server není jen krabicí s GPU: jde o mistrovské dílo systémového inženýrství zaměřené na dlouhodobý výkon. Tyto systémy jsou navrženy s pokročilými a koordinovanými chladicími systémy, obvykle přímým chlazením čipů kapalinou, které efektivně odvádí teplo až do úrovně odběru v kilowattech. To umožňuje GPU udržovat zvýšené takty po dlouhou dobu, což je nezbytné pro trénovací programy trvající týdny. Navíc integrovaný návrh napájení zajišťuje stabilní a čisté napájení ve velkém měřítku. To se promítá do vyšší spolehlivosti a menšího rizika výpadků pro naše klienty při kritických, dlouhotrvajících operacích AI tréninku nebo rozsáhlých inferenčních operacích.
Škálovatelnost umělé inteligence.
Nakonec formát OAM představuje modul škálovatelné infrastruktury umělé inteligence. Umožňuje přechod způsobu rozšiřování datových center od vertikálního škálování ke škálování horizontálnímu. Jednotlivé OAM moduly lze propojit a vytvořit tak výpočetní cluster, a jednotlivé clustery lze dále propojovat a sestavit tak superpočítač. Naše zkušenosti s integrací systémů u partnerů, jako jsou HPE a Huawei, nám umožňují nabízet tuto modularitu, která organizacím umožňuje efektivně a postupně podle svých potřeb vyvíjet schopnosti v oblasti umělé inteligence. Poskytuje tak výkon i spolehlivost potřebné pro citlivé průmyslové a finanční aplikace umělé inteligence – od generativní umělé inteligence a detekce podvodů v reálném čase až po komplexní digitální dvojče a prediktivní simulace údržby.
Definitivně OAM GPU servery nepředstavují pouze aktualizaci. Jsou to přelomová změna v architektuře datových center a byly navrženy s cílem eliminovat konkrétní úzká hrdla umělé inteligence ve výkonné výpočetní technice. Nabízejí tři základní složky – standardizovanou hustotu, průlomovou propojenost a efektivní tepelné řízení, které dohromady vytvářejí neotřesitelný základ, na němž se budoucí umělá inteligence zakládá. Využíváme své partnerství a technickou odbornost k poskytování a udržování této podkladové infrastruktury ve společnosti Aethlumis, abychom umožnili našim klientům v odvětvích financí, výroby a energetiky inovovat efektivně a s důvěrou.